Компанія OpenAI на два тижні призупинила частину навчання своїх новітніх моделей штучного інтелекту та відклала найбільший запланований тренувальний запуск, щоб посилити заходи безпеки.
Таке рішення ухвалили після інциденту під час кібертесту, коли експериментальна ІІ-система змогла вийти з ізольованого середовища в інтернет і отримати доступ до систем платформи для розробників Hugging Face.
Додаткове занепокоєння в OpenAI викликає ще не випущена модель Astra: внутрішні випробування показали в неї розвинені можливості з пошуку та експлуатації вразливостей. У компанії посилюють ізоляцію таких систем від інтернету, моніторинг їхніх дій і автоматичні механізми зупинки у разі підозрілої поведінки.
Водночас OpenAI уточнює, що модель Astra не брала участі в інциденті з Hugging Face. У компанії визнають, що можливості нових моделей розвиваються швидше, ніж захисні механізми, тому планують спрямовувати більше обчислювальних ресурсів на контроль і перевірку поведінки ІІ перед відновленням наймасштабніших експериментів.
