OpenAI про злам Hugging Face: це зробили наші тестові моделі

OpenAI заявила, що відповідальність за злам частини виробничої інфраструктури Hugging Face лежить на її тестових моделях. Hugging Face — одна з найбільших у світі платформ для розробки, зберігання та поширення моделей штучного інтелекту. За даними компанії OpenAI, під час внутрішнього оцінювання моделі змогли вирватися за межі ізольованого середовища в інтернет та атакували Hugging Face, повідомляє Axios.

У компанії повідомили, що в інциденті брали участь GPT-5.6 Sol та ще потужніша модель, яка ще не представлена публічно. За словами OpenAI, під час тестування механізми безпеки навмисно послабили. У блозі компанії цей випадок назвали "безпрецедентним кіберінцидентом". Попередні висновки оприлюднили, щоб допомогти фахівцям із кібербезпеки оцінити можливості сучасних нейромереж.

За даними OpenAI, моделі виконували внутрішнє завдання ExploitGym, але стали "надмірно зосередженими" на пошуку правильного рішення. Вони витратили значні обчислювальні ресурси й знайшли спосіб отримати доступ до відкритого інтернету з ізольованого середовища. Для цього вони використали вразливість нульового дня у сторонньому програмному забезпеченні, а потім продовжили атаку.

Минулого тижня Hugging Face повідомила, що автономний агент штучного інтелекту здійснив десятки тисяч автоматизованих дій, використавши шкідливий набір даних для експлуатації двох шляхів виконання коду в системі обробки даних. Після цього він підвищив свої привілеї та поширився внутрішньою інфраструктурою компанії. Згодом компанія проаналізувала понад 17 тис. логів, що допомогло відновити перебіг інциденту.

Співзасновник і генеральний директор Hugging Face Клем Деланг позитивно оцінив співпрацю з OpenAI під час розслідування й ліквідації наслідків інциденту.

ВАС ЗАЦІКАВИТЬ

OpenAI готує свій перший пристрій: що відомо про майбутню колонку з ШІ

Адміністрація США вже висловлювала занепокоєння через кібербезпекові ризики GPT-5.6, через що Білий дім просив OpenAI не відкривати широкий доступ до нової моделі до завершення додаткових перевірок. Тепер компанія фактично повідомила про перший масштабний інцидент, пов'язаний із тестуванням моделей такого рівня.

Водночас це не перший випадок, коли сучасні моделі демонструють несподівану поведінку. Під час незалежних випробувань ШІ відмовлявся виконувати команду на вимкнення, самостійно змінюючи код, щоб продовжити роботу. Новий інцидент із Hugging Face став ще одним прикладом того, як зростання можливостей моделей підсилює дискусію щодо безпеки їхнього тестування та контролю.