Как Россия прославляет "СВО" на Spotify, YouTube и Deezer

Аналитики Terrecon — разведывательной организации, которую я основала вместе с тремя военнослужащими, — исследовали, как Россия использует искусственный интеллект для производства пропагандистской музыки и её распространения на международных платформах. Результаты собраны в исследовании "ИИ-музыка как инструмент российской пропаганды".

Когда команда Terrecon начала исследовать российскую ИИ-музыку, больше всего меня удивило даже не её количество. Российская пропаганда постоянно ищет новые форматы, поэтому появление милитарных ИИ-песен само по себе не было чем-то неожиданным.

Меня удивило другое: насколько легко этот контент проходит модерацию на международных платформах.

Песни о российской армии, "СВО", мобилизации и "русском мире" спокойно существуют на YouTube, Spotify, Deezer и SoundCloud. Часть из них набирает миллионы прослушиваний.

Именно поэтому мы решили исследовать всю эту цепочку: от создания такой музыки до её появления на международных стриминговых сервисах. И для меня главная цель этого исследования — не статистика ради статистики. Нам нужны были данные, с которыми можно обратиться к платформам и задать очень конкретный вопрос: почему контент, прославляющий войну и российских военных, вообще проходит вашу модерацию?

Немного статистики

Мы проанализировали 3725 треков с YouTube, YouTube Music, SoundCloud и Suno. После ручной проверки в 981 из них одновременно обнаружили признаки ИИ-генерации и российской военной пропаганды. Для 608 была доступна статистика — вместе они набрали 86,8 миллиона просмотров и прослушиваний.

Отдельно мы рассмотрели, как российские авторы контента используют голоса и музыку известных исполнителей. В выборку вошли треки с голосом исполнителя и мелодией оригинальной русскоязычной песни, англоязычные версии российских треков с клонированными голосами и композиции, в которых использовался только голос публичного лица.

В отдельную выборку треков с более чем 500 тысячами прослушиваний вошло 13 композиций. Только на YouTube они в сумме набрали более 53 млн прослушиваний, а с учётом YouTube Music — более 67 млн.

Например, "Kanye West — Silver Night", фактически англоязычная ИИ-версия "Седой ночи" с голосом Канье Уэста, набрала почти 29 млн просмотров на YouTube. На SoundCloud мы нашли ещё сотни подобных загрузок.

И это не единственный показательный пример. В плейлисте под названием "АДОЛЬФ ГИТЛЕР" мы зафиксировали 55 песен от 36 авторов. Всего — 12,28 млн прослушиваний.

То есть такой контент действительно набирает миллионы реальных прослушиваний, распространяется между платформами и существует наряду с обычными музыкальными релизами.

Кстати, сегодня РФ уже вкладывает государственные средства в создание ИИ-контента о войне. В частности, через Президентский фонд культурных инициатив на такие проекты уже направили сотни миллионов рублей. Один из примеров — "Нейромарафон", в рамках которого молодежь соревновалась в создании контента к 9 мая. Еще один интересный пример популяризации: SHAMAN использовал в своем клипе дипфейки известных оппозиционеров, создав из них ИИ-"хор". Их лица фактически становятся способом привлечь больше внимания к пропагандистскому контенту, хотя сами они к его созданию не имеют отношения.

Насколько сложно создать пропагандистский контент?

Мы обратились к 25 исполнителям ИИ-военной музыки с заказом. 15 согласились. Цена вопроса — от 11 до 330 долларов. Срок выполнения — от двух часов до трёх дней. Исполнители соглашались создавать как композиции с призывами убивать украинцев, так и для незаконно депортированных детей. Часть работала через российские сервисы-посредники, которые предоставляют доступ к западным генераторам вроде Suno и Udio в обход ограничений.

Параллельно мы сами протестировали Suno, Udio, Mureka, Google Flow Music и ElevenLabs. Из 40 тестовых запросов 25 завершились успешной генерацией. В 15 случаях фильтры удалось обойти. Четыре из пяти сервисов создали русскоязычные треки с военными нарративами. Исключения — Google Flow Music и ElevenLabs, с ними у нас возникла техническая проблема.

С Udio получилось интересно. Мы дали сервису короткий запрос на агрессивный Z-рок о "СВО". Прямые призывы к насилию в тексте добавила уже сама модель, а часть созданных в рамках той же сессии композиций сервис определил как детскую музыку.

О дистрибуции

Создать пропагандистскую песню — одна проблема. Сделать так, чтобы она дошла до аудитории, — другая. Поэтому мы сами загрузили тестовые треки с откровенным языком вражды на YouTube, SoundCloud, Spotify и Deezer.

Ни одна из этих платформ их не заблокировала.

Самый абсурдный момент произошёл на SoundCloud. Мы загрузили трек с аккаунта, где в качестве локации была указана Москва, прямо указали на использование ИИ и добавили маркеры ZOV, "армия" и "СВО". Платформа не только пропустила его без модерации — сразу после публикации она предложила нам платное продвижение и распространение трека на другие стриминговые сервисы.

Мы фактически прошли весь путь российского пропагандиста: придумали нужный нарратив, создали музыку, обошли ограничения генераторов и опубликовали результат на международных платформах. Ни на одном из ключевых этапов система не стала каким-либо барьером.

Вот это для меня стало печальным открытием исследования.

Проблема уже не только в том, что ИИ позволяет создавать пропаганду быстрее и дешевле. Проблема в том, что вокруг этого сформировался целый конвейер: генераторы позволяют производить контент, посредники помогают обходить ограничения, а международные платформы дают возможность его распространять.

Поэтому мы хотим, чтобы наши результаты стали аргументом для изменения правил платформ. Чтобы YouTube, Spotify, Apple Music, Deezer, SoundCloud и другие площадки начали учитывать, как ИИ изменил производство пропаганды, и адаптировали под это модерацию. Ведь когда создание такого трека занимает несколько часов и несколько десятков долларов, недостаточно удалять отдельные песни после жалоб. Нужно закрывать сами механизмы, которые позволяют масштабировать этот контент: от генерации и обхода ограничений до его распространения.

ИИ сделал производство пропаганды дешевле и быстрее. Теперь вопрос к международным платформам — готовы ли они так же быстро изменить правила её распространения.

Дарья Вербицкая, соучредительница и генеральный директор ОО "Terrecon"