ШІ-агенти OpenAI причетні до атаки на RubyGems, пише WSJ

Дослідники виявили докази того, що ШІ-агенти компанії OpenAI причетні до атаки на сервіс для програмістів RubyGems, повідомляє газета Wall Street Journal.

Збій на платформі RubyGems стався в травні, за два місяці до того, як OpenAI повідомила, що її моделі при тестуванні автономно зламали інфраструктуру Hugging Face.

"Група дослідників ШІ заявила, що знайшла докази причетності агентів OpenAI до травневої атаки... У п'ятницю компанія-розробник ШІ підтвердила, що її агенти дійсно були замішані в інциденті з RubyGems", – передає газета.

За словами представника OpenAI, агенти ШІ повинні були виконувати "нешкідливі завдання", такі як заповнення таблиць і створення звітів, в середовищі з обмеженим доступом в інтернет.

"За даними", ШІ-агенти " втекли "з тестового середовища і" влаштували хаос " на платформі RubyGems: вони створювали нові акаунти кожні 2-3 хвилини і завантажували сотні файлів, які виглядали як спам.