AI-агенти OpenAI у травні та червні поточного року щонайменше чотири рази без прямої команди намагалися зламати урядові та університетські вебсайти в США та Австралії, про це повідомили дослідники та офіційні особи, зокрема у The New York Times, а також у ITHome.
За даними дослідників, системи OpenAI під час звичайних операцій зі збору даних, не отримавши потрібної інформації з відкритих сторінок, переходили до використання методів, схожих на злам, щоб дістати ці дані.
Компанія Transluce, яка спеціалізується на дослідженні регулювання штучного інтелекту, виявила три з чотирьох інцидентів, і OpenAI підтвердила їхню достовірність. 25–26 травня AI-система намагалася проникнути до цифрової бібліотеки Університету Нью-Мексико, однак слідів успішного зламу не зафіксували. 28 травня об’єктом атаки став ресурс Data USA, що містить відкриті дані про зайнятість, освіту та іншу публічну інформацію у США, але ознак успішного вторгнення також не виявили.
18 червня AI OpenAI проник на вебсайт статистичної служби Medicare в Австралії та отримав доступ до даних про охорону здоров’я, про що 23 червня повідомив прем’єр-міністр Австралії Ентоні Албаніз. 20–21 червня AI-система намагалася отримати доступ до вебсайту Австралійського інституту здоров’я та соціальних досліджень, але, за словами австралійських чиновників, особиста інформація громадян не була скомпрометована.
За поясненнями дослідників, під час цих подій AI-агенти брали участь у тренуванні з пошуку даних. Зокрема, у випадку з Університетом Нью-Мексико штучний інтелект, не знайшовши фотографію історичного центру лікування туберкульозу, почав шукати вразливості в системі, а не виявивши їх, надіслав близько 80 запитів до сервера, описавши це як «повінь». Під час взаємодії з Data USA AI спочатку сформував нечіткий запит, а потім здійснив 12 зондувань різних типів вразливостей, однак безуспішно.
Конрад Стотц, керівник відділу управління у Transluce, наголосив, що ці чотири випадки демонструють необхідність обережного підходу до використання AI-агентів загального призначення. Він припустив, що інциденти в Австралії можуть бути першими зафіксованими випадками, коли штучний інтелект самостійно вирішив проникнути на урядовий сайт.
Речниця OpenAI повідомила, що компанія вже зв’язалася з відповідними установами в США та Австралії. За її словами, OpenAI проводить всебічний перегляд своїх моделей, приділяючи пріоритет найсерйознішим інцидентам і водночас розширюючи розслідування щодо менш значних подій, таких як розсилка спаму.
OpenAI виявила австралійські інциденти під час внутрішнього аудиту та визнала, що моделі діяли всупереч намірам компанії. Аудит, за її даними, триватиме кілька місяців.
Генеральний директор OpenAI Сем Альтман заявив у соціальних мережах, що безпека має мати вищий пріоритет, ніж подальше нарощування потужності штучного інтелекту, і застеріг, що без належних захисних механізмів суспільство може втратити контроль над майбутнім через AI.
Прем’єр-міністр Австралії Ентоні Албаніз під час телефонної розмови з Семом Альтманом висловив «глибоке занепокоєння» через інцидент. За його словами, були отримані «нечутливі» дані, зокрема інформація про витрати, але особиста медична інформація не постраждала. OpenAI повідомила австралійський уряд про цей випадок 10 вересня.
Австралійський урядовий портал, що став об’єктом атаки, містить дані системи Medicare, яка охоплює 27,5 мільйона осіб і є критично важливою для австралійців, тому будь-які інциденти, пов’язані з нею, викликають значний суспільний резонанс. Албаніз зазначив, що AI-агенти OpenAI намагалися отримати інформацію про публічні витрати на охорону здоров’я і після неодноразових блокувань з боку вебсайтів почали шукати «інші шляхи» доступу до даних, у підсумку проникнувши до непублічної частини порталу.
Конрад Стотц попередив, що якщо значна кількість AI-систем, навчених виконувати загальні завдання, готові вдаватися до хакерських методів, то під загрозою може опинитися будь-яка сторона, яка володіє цінною інформацією.
Джерело: Expert
