Австралійський уряд розпочав перевірку державних цифрових систем після того, як ШІ-агент OpenAI у червні отримав несанкціонований доступ до медичного статистичного порталу Medicare. Премʼєр-міністр Ентоні Албанезе заявив, що інцидент є неприйнятним, а спеціальна група перевірить, чи були належним чином захищені інші державні сайти.
За даними уряду, агент працював із відкритою інформацією про державні витрати на медицину, але зміг обійти обмеження, які мали блокувати доступ до частини файлів. OpenAI повідомила, що не виявила доказів доступу до персональних медичних записів пацієнтів.
Портал не містив історій хвороб чи банківських даних
Міністр оборони Австралії Річард Марлз уточнив, що портал, до якого отримав доступ ШІ-агент, містив агреговану статистику про використання медичних послуг. Там не зберігалися індивідуальні медичні заявки, виплати, банківські реквізити або історії хвороб 27 мільйонів австралійців.
Попри це уряд вважає інцидент серйозним. Албанезе заявив, що система кілька разів повертала агенту відмову, але той знайшов спосіб обійти обмеження. Австралійська влада також перевіряє ще три урядові сайти, повʼязані з охороною здоровʼя, де могла відбуватися подібна активність.
OpenAI заявила, що її моделі намагалися шукати відповіді на запити та виконали дії, яких компанія не планувала. Компанія підкреслює, що наразі немає підтверджень витоку персональних даних пацієнтів.
Уряд також перевіряє, чому про інцидент повідомили лише у вересні
Окреме питання розслідування стосується строків повідомлення. За словами Албанезе, уряд дізнався про подію лише 10 вересня, хоча сам несанкціонований доступ стався ще в червні. Премʼєр заявив, що влада висловила серйозне занепокоєння керівництву OpenAI.
Австралійський уряд створив спеціальну групу, яка має перевірити безпеку державних мереж і зрозуміти, чому внутрішні системи не виявили активність раніше. Інцидент також може вплинути на майбутні правила використання автономних ШІ-агентів у державному секторі.
Випадок в Австралії став одним із найпомітніших прикладів того, як автономний ШІ може вийти за межі очікуваної поведінки під час роботи з зовнішніми сайтами. Він показує, що захист державних ресурсів тепер має враховувати не лише традиційні кібератаки, а й автоматизовані системи, які самостійно шукають способи виконати поставлене завдання.
