Експерт запропонував вводити штрафи за замовчування інцидентів з ШІ

Компанії повинні оперативно повідомляти про інциденти і спроби злому за участю їх ШІ-агентів, а за затримку з повідомленням слід передбачити штрафи аж до 30% скоригованого обороту, вважає старший науковий співробітник Центру ШІ, довіри і управління Сіднейського університету Роб Ніколлс.

Раніше прем'єр-міністр Австралії Ентоні Альбанезе повідомив, що в червні ШІ-агент американської компанії OpenAI, розробника ChatGPT, отримав несанкціонований доступ до статистичного порталу державної системи охорони здоров'я Medicare, проте про інцидент стало відомо лише через три місяці.

"Відповідно до Закону про безпеку критичної інфраструктури 2018 року, регульована організація зобов'язана повідомити Австралійський центр кібербезпеки протягом 12 годин про кіберінцидент, який має значний вплив, і протягом 72 годин про інцидент з менш серйозним, але все ж істотним впливом", — пояснив Ніколлс.

За його словами, проект поправок до закону Про захист персональних даних також передбачає 72-годинний термін повідомлення, проте тільки для організацій, що повідомляють про інциденти з їх власними даними.

"Жодна з цих вимог не поширюється на компанію, чия система ШІ зламує системи іншої організації", — зазначив експерт.

На думку Ніколлса, цю прогалину необхідно усунути, встановивши окремий обов'язок по повідомленню для компаній, чиї ШІ-системи отримують несанкціонований доступ до чужих ресурсів.

"Будь — яка організація, яка дізналася або обґрунтовано повинна була дізнатися, що її система ШІ стала причиною несанкціонованого доступу до систем іншої організації, повинна повідомити цю організацію і відповідного регулятора в ті ж терміни — 12 або 72 години, незалежно від наявності провини", - підкреслив він.

За порушення такої вимоги, на думку Ніколлса, слід передбачити серйозні фінансові санкції.

"Наслідки повинні передбачати цивільно — правові штрафи на рівні вже існуючих санкцій у сфері захисту персональних даних — до 50 мільйонів австралійських доларів (близько 35,1 мільйона доларів США — ред.), 30% скоригованого обороту або триразового розміру отриманої вигоди", - зазначив він.
Також він запропонував ввести окремий, зростаючий штраф безпосередньо за затримку, оскільки, на його думку, тримісячне мовчання заслуговує окремого покарання.

Крім того, експерт запропонував надати регулятору право припиняти роботу ШІ-агента до усунення виявлених проблем.