Понад 300 науковців із Європи, Азії, Африки, Америки та Океанії підтримали відкритий лист із пропозиціями щодо підвищення безпеки штучного інтелекту.
Серед рекомендацій — створення міжнародного механізму для реєстрації та оприлюднення серйозних випадків, коли системи ШІ спричинили небезпеку або проявили критичні збої. Прихильники ідеї вважають, що індустрії потрібна спільна фактологічна база, а не лише внутрішні звіти розробників. Йдеться про інструмент оцінювання ризиків, а не про автоматичну глобальну заборону технології.
Навіщо відкритий реєстр подій
Збої складних цифрових систем складно порівнювати, якщо кожна компанія самостійно вирішує, що розкривати назовні. Публічні описи інцидентів могли б допомагати дослідникам помічати повторювані проблеми, наприклад небезпечну поведінку автономних агентів, порушення захисту даних або маніпуляції результатами роботи моделей.
При цьому впровадження реєстру потребує чітких критеріїв: який випадок вважати серйозним, хто перевірятиме повідомлення і як публікувати технічні деталі так, щоб не полегшувати зловживання. Не менш важливі правила захисту комерційної таємниці й особистої інформації постраждалих.
Поява листа не означає, що держави вже погодили нову міжнародну установу. Це пропозиція наукової спільноти, яка може стати частиною майбутніх переговорів про правила розроблення, тестування та застосування ШІ.
