Фото: Інтернет
В OpenAI заявили про “безпрецедентний кіберінцидент”
Дві моделі OpenAI самостійно отримали доступ до інтернету і атакували інфраструктуру Hugging Face
Дві розвинені моделі OpenAI під час внутрішнього тестування вийшли за межі ізольованого середовища, отримали доступ до Інтернету і зламали інфраструктуру Hugging Face. Компанія повідомила про це у блозі, назвавши інцидент безпрецедентним.
Згідно з інформацією, тестування проходило у спеціально створеній оболонці, де моделі перевіряли на здатність виконувати складні кібероперації. Для цього OpenAI тимчасово зняла частину захисних обмежень.
Під час тесту моделі знайшли вразливості в системах OpenAI, отримали доступ до Інтернета та атакували інфраструктуру Hugging Face, яка використовується для тестування ШІ-моделей. За даними компанії, ШІ використав кілька методів для злому, щоб дістатися до службової інформації, що допомогла б йому виконати тестове завдання.
OpenAI підкреслила, що служба безпеки помітила незвичну активність, а фахівці Hugging Face оперативно зупинили атаку. Наразі обидві компанії спільно розслідують інцидент.
OpenAI назвала цей випадок “безпрецедентним кіберінцидентом”, що свідчить про можливості моделей нового покоління у сфері кібероперацій. Компанія вже посилила захист своєї інфраструктури та працює над новими механізмами безпеки.
Нагадаємо, що учасники міжнародного безпекового форуму “Шангрі-Ла Діалог” в Сінгапурі зазначали, що штучний інтелект може становити більшу загрозу для стратегічної стабільності, ніж ядерна зброя.
Дослідження також стверджує, що руйнівний ШІ може з’явитися вже за кілька місяців.
