Глава OpenAI Сем Альтман погодився з пропозицією глави Anthropic Даріо Амодея щодо уповільнення розробки моделей штучного інтелекту.

У суботу Амодей закликав уповільнити розробку більш потужних моделей штучного інтелекту з міркувань безпеки. Американський мільярдер Ілон Маск вже висловив згоду з цією ідеєю.

"Я згоден з Даріо в тому, що нам потрібно стримувати темпи розвитку передових систем ШІ. Це одна з головних тим наших розмов в OpenAI в останні тижні", - написав Альтман в соцмережі X.

Він також високо оцінив ідею Амодея залучити незалежних аудиторів для перевірки дотримання заходів безпеки, заявивши, що його компанія зробить те саме.

У липні OpenAI повідомила, що її моделі при тестуванні автономно зламали інфраструктуру Hugging Face. Потім стало відомо, що це не єдиний подібний інцидент.

Раніше дослідник Anthropic Джейкоб Коксон оголосив про свій відхід з ШІ-індустрії, побоюючись, що гонка технологічних корпорацій наближає світ до "точки неповернення" і може привести до апокаліптичного сценарію вже в кінці 2027 року.

Після оголошення Коксона інший співробітник компанії, керівник напрямку стрес-тестування узгодженості ШІ Еван Хьюбінгер заявив, що ймовірність того, що штучний інтелект знищить людство в найближчі десять років, становить 10%.