У OpenAI вибачилися перед Австралією за злом держресурсів її моделями

Американська компанія OpenAI, Розробник ChatGPT, публічно вибачилася перед Австралією за несанкціонований доступ своїх моделей до державних ресурсів, повідомила про посилення заходів безпеки і про направлення свого представника на парламентські слухання, йдеться в заяві OpenAI.

У червні під час внутрішнього навчання та тестування моделі OpenAI отримали доступ до порталу статистичної звітності системи Medicare, бюро кримінальної статистики Нового Південного Уельсу, а також даних Департаменту охорони Здоров'я штату Вікторія та Австралійського інституту охорони здоров'я та соціального забезпечення.

"Ми також повинні були краще реагувати. Ми приносимо вибачення і працюємо над тим, щоб надалі діяти краще", - йдеться в заяві.

Найбільш серйозний інцидент стався з сервісом статистичної звітності Medicare. Експериментальна модель, не призначена для публічного використання, виявила можливість отримати доступ до системи, виконувала команди, отримувала внутрішні файли, облікові дані та зведену статистику, а також записувала файли. При цьому, за даними OpenAI, індивідуальні медичні записи і дані клієнтів порушені не були.

Компанія повідомила, що після інциденту посилила обмеження на доступ дослідницьких моделей до Інтернету і розширила моніторинг їх дій. OpenAI також раніше призупинила навчання і тестування своїх найбільш потужних моделей з використанням інструментів до впровадження додаткових заходів захисту.

Крім того, компанія має намір надати технічну і фінансову підтримку австралійським відомствам для зміцнення кіберзахисту і створити спеціальну групу із залученням незалежних австралійських експертів для розробки заходів щодо зниження ризиків, пов'язаних з ШІ-агентами.

У зв'язку з інцидентом директор OpenAI зі стратегії Джейсон Квон прилетить із США до Австралії і 6 жовтня виступить у Сіднеї на слуханнях об'єднаного спеціального комітету австралійського парламенту зі штучного інтелекту.

Раніше австралійські ЗМІ повідомили, що на цьому ж слуханні буде присутній представник іншого ШІ-гіганта Anthropic.