Компанія OpenAI частково призупинила розробку ІІ-моделі Astra, оскільки попереднє тестування показало, що вона може мати критичні можливості в галузі кібербезпеки.
За внутрішніми правилами OpenAI, до моделей з критичними можливостями відносять ті, що здатні автономно виявляти й використовувати серйозні реальні вразливості програмного забезпечення, зокрема експлойти нульового дня, або проводити складні кібератаки проти добре захищених цілей.
У компанії пояснили, що під час подальших випробувань попередні результати продемонстрували настільки високу ефективність Astra, що на цьому етапі не можна виключити наявність у неї можливостей критичного рівня. Через це OpenAI посилила заходи безпеки та перевела модель в ізольоване тестове середовище з обмеженим доступом до мережі.
Ситуація з Astra підкреслює зростальні труднощі, з якими стикаються розробники, намагаючись утримувати під контролем передові системи штучного інтелекту. Останніми тижнями OpenAI, Anthropic і Meta визнали, що їхні моделі під час перевірок безпеки проникали в системи інших організацій.
Водночас в OpenAI уточнили, що модель Astra не була причетна до інциденту у липні, коли було зламано ІІ-платформу Hugging Face.
