Як Росія прославляє "СВО" на Spotify, YouTube та Deezer
Аналітики Terrecon — розвідувальної організації, яку я заснувала разом трьома військовослужбовцями — дослідили як Росія використовує штучний інтелект для виробництва пропагандистської музики і розповсюдження її на міжнародних платформах. Результати зібрали у дослідженні "ШІ-музика як інструмент російської пропаганди".
Коли команда Terrecon почала досліджувати російську ШІ-музику, найбільше мене здивувала навіть не її кількість. Російська пропаганда постійно шукає нові формати, тому поява мілітарних ШІ-пісень сама по собі не була чимось неочікуваним.
Я здивувалась від іншого: наскільки легко цей контент проходить модерацію міжнародних платформ.
Пісні про російську армію, "СВО", мобілізацію та "русский мир" спокійно існують на просторах YouTube, Spotify, Deezer та SoundCloud. Частина з них набирає мільйони прослуховувань.
Саме тому ми вирішили дослідити весь цей ланцюжок: від створення такої музики до її появи на міжнародних стримінгах. І для мене головна мета цього дослідження — не статистика заради статистики. Нам потрібні були дані, з якими можна прийти до платформ і поставити дуже конкретне питання: чому контент, який прославляє війну та російських військових, узагалі проходить вашу модерацію?
Трохи статистики
Ми проаналізували 3725 треків із YouTube, YouTube Music, SoundCloud та Suno. Після ручної перевірки у 981 з них одночасно виявили ознаки ШІ-генерації та російської військової пропаганди. Для 608 була доступна статистика — разом вони набрали 86,8 мільйона переглядів і прослуховувань.
Окремо ми подивилися на те, як російські креатори використовують голоси та музику відомих виконавців. У вибірці були треки з голосом виконавця та мелодією оригінальної російськомовної пісні, англомовні версії російських треків із клонованими голосами та композиції, де використовувався лише голос публічної особи.
До окремої вибірки треків із понад 500 тисяч прослуховувань увійшло 13 композицій. Тільки на YouTube вони сумарно набрали понад 53 млн прослуховувань, а з урахуванням YouTube Music — понад 67 млн.
Наприклад, "Kanye West — Silver Night", фактично англомовна ШІ-версія "Седой ночи" з голосом Каньє Веста, набрала майже 29 млн переглядів на YouTube. На SoundCloud ми знайшли ще сотні подібних завантажень.
І це не єдиний показовий кейс. У плейлисті під назвою "АДОЛЬФ ГІТЛЕР" ми зафіксували 55 пісень від 36 креаторів. Разом — 12,28 млн прослуховувань.
Тобто такий контент справді набирає мільйони реальних прослуховувань, розходиться між платформами й існує поруч зі звичайними музичними релізами.
До речі, сьогодні РФ вже вкладає державні кошти у створення ШІ-контенту про війну. Зокрема, через Президентський фонд культурних ініціатив на такі проєкти вже спрямували сотні мільйонів рублів. Один із прикладів — "Нейромарафон", у межах якого молодь змагалася у створенні контенту до 9 травня. Ще цікавий кейс популяризації: SHAMAN використав у своєму кліпі дипфейки відомих опозиціонерів, створивши з них ШІ-"хор". Їхні обличчя фактично стають способом привернути більше уваги до пропагандистського контенту, хоча самі вони до його створення не мають стосунку.
Наскільки складно створити пропагандистський контент?
Ми звернулися до 25 виконавців ШІ-мілітарної музики із замовленням. 15 погодилися. Ціна питання — від 11 до 330 доларів. Термін виконання — від двох годин до трьох днів. Виконавці погоджувалися створювати як із закликами вбивати українців, так і для незаконно депортованих дітей. Частина працювала через російські сервіси-посередники, які дають доступ до західних генераторів на кшталт Suno та Udio в обхід обмежень.
Паралельно ми самі протестували Suno, Udio, Mureka, Google Flow Music та ElevenLabs. З 40 тестових запитів 25 завершилися успішною генерацією. У 15 випадках фільтри вдалося обійти. Чотири з п'яти сервісів створили російськомовні треки з воєнними наративами. Вийнятки — Google Flow Music та ElevenLabs, з ними в нас трапилась технічна проблема.
З Udio вийшло цікаво. Ми дали сервісу короткий запит на агресивний Z-рок про "СВО". Прямі заклики до насильства у тексті дописала вже сама модель, а частину створених у межах тієї ж сесії композицій сервіс визначив як дитячу музику.
Про дистрибуцію
Створити пропагандистську пісню — одна проблема. Зробити так, щоб вона потрапила до аудиторії, — інша. Тому ми самі завантажили тестові треки з відвертою мовою ворожнечі на YouTube, SoundCloud, Spotify та Deezer.
Жодна з цих платформ їх не заблокувала.
Найбільш абсурдний момент стався на SoundCloud. Ми завантажили трек з акаунта, де локацією була вказана Москва, прямо зазначили використання ШІ та додали маркери ZOV, "армія" і "СВО". Платформа не лише пропустила його без модерації — одразу після публікації вона запропонувала нам платне просування та поширення треку на інші стримінгові сервіси.
Ми фактично пройшли весь шлях російського пропагандиста: придумали потрібний наратив, створили музику, обійшли обмеження генераторів і опублікували результат на міжнародних платформах. На жодному з ключових етапів система не стала якимось бар'єром.
Ось це для мене стало сумним відкриттям дослідження.
Проблема вже не тільки в тому, що ШІ дозволяє створювати пропаганду швидше й дешевше. Проблема в тому, що навколо цього сформувався цілий конвеєр: генератори дозволяють виробляти контент, посередники допомагають обходити обмеження, а міжнародні платформи дають можливість його поширювати.
Тому ми хочемо, щоб наші результати стали аргументом для зміни правил платформ. Щоб YouTube, Spotify, Apple Music, Deezer, SoundCloud та інші майданчики почали враховувати, як ШІ змінив виробництво пропаганди, і адаптували під це модерацію. Бо коли створення такого треку займає кілька годин і кілька десятків доларів, недостатньо видаляти окремі пісні після скарг. Потрібно закривати самі механізми, які дозволяють масштабувати цей контент: від генерації та обходу обмежень до його дистрибуції.
ШІ зробив виробництво пропаганди дешевшим і швидшим. Тепер питання до міжнародних платформ — чи готові вони так само швидко змінити правила її поширення.
Дар'я Вербицька, співзасновниця та CEO ГО Terrecon