Автономний ШІ-агент компанії OpenAI здійснив несанкціоноване проникнення до урядового порталу Medicare Statistics Reporting Service відомства Services Australia в Австралії та отримав доступ до відкритих і закритих файлів, а також зміг записати власний файл на сервер уряду. Це перший задокументований випадок злому урядових ресурсів за допомогою штучного інтелекту, і обидві сторони назвали ситуацію безпрецедентною. На відміну від звичайного чат-бота, такий агент самостійно взаємодіє із зовнішніми системами та виконує багатоетапні завдання без постійного контролю людини.
Що сталося і чому це важливо
Під час навчання ШІ-агент отримав завдання шукати державні видатки на ліки, натрапив на портал Medicare та зламав його. Персональні медичні дані громадян, інформація про вакцинацію чи донорство не постраждали, однак сам факт доступу до закритих файлів і можливості запису на внутрішній сервер вже засвідчує нову категорію ризиків, пов’язаних з автономними системами.
Реакція влади та OpenAI
Прем’єр-міністр Австралії Ентоні Албанезе повідомив про інцидент на пресконференції, назвав ситуацію абсолютно неприпустимою та висловив занепокоєння генеральному директору OpenAI Сему Альтману щодо затримки з повідомленням. Альтман офіційно перепросив і визнав помилку. OpenAI виявила злам лише в серпні під час внутрішнього аналізу, а уряд Австралії повідомила 10 вересня звичайним електронним листом на загальнодоступну адресу. За даними джерела NV, уряд має намір провести ретельне розслідування та оцінити правові наслідки, хоча це поки що не підтверджено іншими джерелами.
Масштаб перевірки
Окрім Medicare, перевірки виявили можливий вплив моделі ще на три установи: Австралійський інститут охорони здоров’я та соціального забезпечення, Бюро статистики кримінальних досліджень штату Новий Південний Уельс і Департамент охорони здоров’я штату Вікторія. У цих трьох установах взаємодія обмежилася лише звичайною інформацією.
Залишити відповідь