США и Россия исключили этические нормы из глобального договора об ИИ-оружии – СМИ

Американские и российские дипломаты совместными усилиями исключили ключевые положения о безопасности и контроле со стороны человека из проекта глобального договора ООН по регулированию оружия с искусственным интеллектом.

Источник: The Washington Post со ссылкой на трех человек, знакомых с ходом переговоров, и документы

Детали: По данным издания, в начале сентября сотни дипломатов собрались в Женеве для разработки первого глобального соглашения об использовании смертоносного автономного оружия. В последний день переговоров представители США и России на закрытом заседании в течение 15 часов дорабатывали документ. Обе страны привлекли примерно по 10 юристов, что значительно превысило дипломатическое присутствие других делегаций.

Дословно: "По словам источников, американские и российские дипломаты убрали формулировку, требовавшую от автономной системы работать "предсказуемым" и "надёжным" образом, и исключили пункт, обязывавший учитывать этические соображения при использовании ИИ-оружия. Кроме того, представители США и России убрали положение, требующее, чтобы люди проверяли определенные ИИ военные цели перед нанесением удара.

Изменения в этом соглашении, детали которого ранее не разглашались, демонстрируют, как Соединенные Штаты и Россия пытались ослабить глобальные правила регулирования смертоносного оружия с искусственным интеллектом.

Детали: Один из собеседников издания назвал процесс редактирования соглашения "смертью от тысячи мелких порезов".

Отмечается, что бурное обсуждение в Женеве происходило на фоне стремления Пентагона быстро внедрить ИИ в свою стратегию ведения боевых действий, пока продолжаются дебаты об экзистенциальных рисках, связанных с развитым искусственным интеллектом.

По данным издания, американские военные уже использовали ИИ компании Anthropic для обнаружения и нанесения ударов по почти 1000 целям в первые 24 часа конфликта с Ираном.

По словам заместителя директора по вопросам вооружений Human Rights Watch Верити Койл, ослабление правил будет означать, что "машины смогут принимать решения о жизни и смерти без контроля со стороны человека". Она подчеркнула, что это приведет к увеличению ущерба для гражданского населения и ускорит переход к "более рискованной, автоматизированной войне".

Что предшествовало:

• В январе 2023 года Министерство обороны США обновило директиву DOD Directive 3000.09, регулирующую использование автономных систем вооружения. Документ, принятый при администрации Джо Байдена, содержал ряд положений, аналогичных тем, которые впоследствии были исключены из документа ООН, в частности требование о привлечении человека к оценке и проверке автономных и полуавтономных систем вооружения. Кроме того, документ обязывал операторов систем с искусственным интеллектом соблюдать законы и обычаи войны, а также соответствующие международные договоры.
• В августе 2024 года генеральный секретарь ООН Антониу Гутерриш обнародовал доклад, в котором назвал выбор целей для поражения с помощью алгоритмов "моральной границей, которую нельзя пересекать", и призвал к 2026 году заключить обязательный международный договор о полном запрете систем, действующих без человеческого контроля.
• В декабре 2024 года Генеральная Ассамблея ООН подавляющим большинством голосов приняла первую резолюцию о смертоносном автономном оружии. Документ заложил основу для дальнейших переговоров о глобальном договоре в рамках ООН. Тогда против принятия выступили лишь три страны: Россия, Беларусь и КНДР.