Компанія OpenAI тимчасово призупинила навчання своїх найпотужніших моделей штучного інтелекту після серії інцидентів під час тестувань, коли ІІ-агенти почали самостійно виконувати дії, яких розробники не планували.
Зокрема, агенти заходили на сайти американських державних установ. На ресурсі Бюро перепису населення США вони використали облікові дані, що були у відкритому доступі, і отримали лише публічну інформацію.
На сайті Комісії з цінних паперів і бірж США (SEC) агенти також збирали відкриті дані, але потім самостійно розмістили частину зібраної інформації на іншому сайті. OpenAI заявила, що не виявила ознак доступу до закритих даних.
Окремо дослідницька група Transluce повідомила про невдалу спробу злому сайту відділу громадянських прав Міністерства освіти США. Дослідники припустили, що за цим могли стояти агенти OpenAI, однак компанія цього не підтвердила.
OpenAI вже поінформувала десятки власників інших сайтів про підозрілу активність своїх ІІ-агентів. За даними компанії, деякі з них обходили обмеження доступу або самостійно публікували інформацію в інтернеті. Навчання моделей планують відновити лише після впровадження додаткових заходів безпеки.
