ООН і Міжнародний комітет Червоного Хреста закликали держави перейти від багаторічних дискусій до переговорів про юридично обов’язкові правила для автономних систем озброєнь. У центрі суперечки — зброя, яка після активації здатна самостійно знаходити, вибирати та уражати цілі без безпосереднього рішення людини в конкретний момент.
Генеральний секретар ООН Антоніу Гутерреш і президент МКЧХ Мір’яна Сполярич попереджають, що технології розвиваються швидше, ніж міжнародні норми. На їхню думку, світ наближається до межі, за якою машина може отримати фактичне право самостійно визначати людську ціль.
Потрібні не рекомендації, а конкретні заборони та обмеження
Спільний заклик передбачає створення юридично обов’язкового інструменту з чіткими правилами. Частину автономних систем пропонують заборонити повністю, а для інших встановити обмеження, які гарантуватимуть достатній людський контроль, передбачуваність роботи та відповідальність за застосування сили.
Автономність уже давно використовується у військовій техніці. Наприклад, деякі корабельні системи протиракетної оборони можуть автоматично виявляти та перехоплювати повітряні цілі. Однак найбільше занепокоєння викликає можливість перенесення такого принципу на системи, здатні самостійно обирати людей як об’єкти атаки.
Проблема не обмежується точністю алгоритмів. Навіть складна система може неправильно розпізнати пораненого військового, людину, яка здається в полон, або цивільного. Після такої помилки постає ще складніше питання: хто нестиме відповідальність — командир, програміст, виробник, оператор чи держава, яка застосувала систему.
Вирішальний раунд переговорів очікується в Женеві восени
Дискусії про автономну зброю в межах Конвенції про певні види звичайної зброї тривають із 2014 року. За цей час держави наблизилися до спільного розуміння необхідності людського контролю, але не створили окремих міжнародно-правових норм, які прямо регулювали б новий клас систем.
Найближчим великим політичним моментом стане сьома оглядова конференція Конвенції в листопаді. Саме там прихильники нового договору хочуть домогтися рішення про початок формальних переговорів. Процес буде складним, оскільки для просування потрібен консенсус, а США та росія раніше виступали проти нового юридично обов’язкового документа, наполягаючи, що чинного міжнародного гуманітарного права достатньо.
Швидке поширення штучного інтелекту робить часовий фактор критичним. Якщо держави масово розгорнуть автономні бойові системи до появи спільних правил, домовлятися про обмеження буде набагато важче. Саме тому нинішній заклик ООН і Червоного Хреста фактично став спробою встановити міжнародні рамки до того, як технологічна гонка створить незворотні військові практики.
