Россия использует сгенерированные ИИ голоса ElevenLabs для подрыва поддержки Украины

Россия использует генеративный искусственный интеллект в новой пропагандистской кампании, направленной на дискредитацию Украины и подрыв помощи со стороны европейских стран. По данным отчета компании по кибербезопасности Recorded Future, в фейковых видео активно использовались голоса, сгенерированные с помощью компании ElevenLabs.

Источник: отчет Recorded Future

Детали: Согласно отчету, за организацией кампании стоит "Агентство социального дизайна" – российская структура, которая находится под санкциями США. В видео, ориентированных на европейскую аудиторию, украинских политиков обвиняли в коррупции, а западную технику, в частности американские танки Abrams, выставляли как неэффективную.

Ключевым инструментом пропагандистской кампании стали голоса, сгенерированные искусственным интеллектом. Recorded Future заявляет, что организаторы использовали технологии компании ElevenLabs для создания на разных европейских языках без акцента аудио, в частности на английском, немецком, французском, польском.

Исследователи установили, что несколько видео были озвучены реальными людьми. Это стало заметным из-за заметного российского акцента.

Справочно: Recorded Future специализируется на сборе, анализе и прогнозировании киберугроз с использованием ИИ и машинного обучения для мониторинга открытой информации в реальном времени.

Предыстория: 

• Ранее журналисты исследовали, что российское "Агентство социального дизайна", которое позиционирует себя как организация, занимающаяся медийным сопровождением, на самом деле использует дезинформацию для дискредитации Украины и продвигает интересы России. Агентством руководит российский политтехнолог Илья Гамбашидзе.
• Проанализировав документы из утечки, "АСД" создает и тиражирует в соцсетях стилизованные под материалы западных медиа сфабрикованные видеосюжеты, направленные против Украины.
• Утечка документов также подтверждает, что "АСД" управляется непосредственно руководством администрации хозяина Кремля Владимира Путина.