США та Росія викреслили етичні норми з глобального договору про ШІ-зброю – ЗМІ

Американські та російські дипломати спільними зусиллями вилучили ключові положення про безпеку та людський контроль із проєкту глобального договору ООН щодо регулювання зброї зі штучним інтелектом.

Джерело: The Washington Post з посиланням на трьох осіб, обізнаних із перебігом переговорів, та документи

Деталі: За даними видання, на початку вересня сотні дипломатів зібралися в Женеві для розробки першої глобальної угоди щодо використання смертоносної автономної зброї. В останній день переговорів представники США та Росії на закритому засіданні протягом 15 годин переробляли документ. Обидві країни залучили приблизно по 10 юристів, що значно перевищило дипломатичну присутність інших делегацій.

Дослівно: "За словами джерел, американські та російські дипломати прибрали формулювання, яке вимагало від автономної системи працювати "передбачуваним" та "надійним" способом, і вилучили пункт, що зобов'язував враховувати етичні міркування під час використання ШІ-зброї. Крім того, представники США та Росії прибрали положення, яке вимагало, щоб люди перевіряли визначені ШІ військові цілі перед завданням удару.

Зміни до цієї угоди, деталі якої раніше не розголошувалися, демонструють, як Сполучені Штати і Росія намагалися послабити глобальні правила регулювання смертоносної зброї зі штучним інтелектом".

Деталі: Один зі співрозмовників видання назвав процес редагування угоди "смертю від тисячі дрібних порізів".

Зазначається, що бурхливе обговорення в Женеві відбувалося на тлі того, як Пентагон прагне швидко впровадити ШІ у свою стратегію ведення бойових дій, поки тривають дебати щодо екзистенційних ризиків, пов'язаних із розвиненим штучним інтелектом.

За даними видання, американські військові вже використовували ШІ компанії Anthropic для виявлення та завдання ударів по майже 1000 цілях у перші 24 години конфлікту з Іраном.

За словами заступниці директора з питань озброєнь Human Rights Watch Веріті Койл, послаблення правил означатиме, що "машини зможуть приймати рішення про життя і смерть без контролю з боку людини". Вона наголосила, що це призведе до збільшення шкоди для цивільного населення та пришвидшить перехід до "більш ризикованої, автоматизованої війни".

Що передувало:

• У січні 2023 року Міністерство оборони США оновило директиву DOD Directive 3000.09, яка регулює використання автономних систем озброєння. Документ, ухвалений за адміністрації Джо Байдена, містив низку положень, подібних до тих, які згодом вилучили з документа ООН, зокрема вимогу про залучення людини до оцінки і перевірки автономних та напівавтономних систем озброєнь. Крім того, документ зобов'язував операторів систем зі штучним інтелектом дотримуватися законів і звичаїв війни, а також відповідних міжнародних договорів.
• У серпні 2024 року генеральний секретар ООН Антоніу Гутерреш оприлюднив доповідь, у якій назвав вибір цілей для ураження алгоритмами "моральною межею, яку не можна перетинати", та закликав до 2026 року укласти обов'язковий міжнародний договір для повної заборони систем, які діють без людського контролю.
• У грудні 2024 року Генеральна Асамблея ООН переважною більшістю голосів ухвалила першу резолюцію щодо смертоносної автономної зброї. Документ створив основу для подальших переговорів щодо глобального договору в рамках ООН. Тоді проти ухвалення виступили лише три країни: Росія, Білорусь та КНДР.