У OpenAI зізналися, що розкривають не всі випадки виходу ШІ з під контролю

Гендиректор розробника штучного інтелекту OpenAI Сем Альтман визнав, що компанія не розкриває дані про ряд випадків з вийшли з під контролю ШІ-моделями.

"Нам є про що розповісти, і оскільки деякі з цих випадків пов'язані з уразливістю в системі безпеки, ми даємо (зламаним організаціям - ред.) достатньо часу на їх усунення. Найчастіше вони самі вирішують, розкривати це чи ні", - заявив він в інтерв'ю виданню Politico.

При цьому Альтман зазначив, що випадків з самостійно діючими моделями ШІ досить, але вони не зрівняються по серйозності з недавнім зломом платформи hugging Face.
Раніше компанія повідомила про уповільнення розробки ШІ-моделей після інциденту зі зломом Hugging Face. Після того випадку OpenAI повідомляла ще про шість інцидентів з її моделями, які намагалися самостійно отримати доступ до даних облікових записів.

Моделі також приховували помилки, завантажували файли у відкритий доступ в Інтернеті та обмінювалися даними. Крім того, повідомлялося про те, що агенти ШІ від OpenAI намагалися зламати урядові сайти Австралії і Канади.