Величественная человечность против суперинтеллекта: где место Украины?

Почему недавняя презентация "Magnifica Humanitas" ("Величественная человечность") — первой энциклики Папы Римского Льва XIV — важна именно для Украины? Может ли технология изменить человеческую эволюцию и где пролегает граница между инструментом и субъектом?

В 2021 году, защищая в КНУ имени Тараса Шевченко магистерскую работу на тему "Социальные сети и социальная философская антропология", я изучала именно эти вопросы. Идея моего исследования заключалась в том, что с позиций постгуманизма человек еще не завершил свою эволюцию и становление, развитие новых форм коммуникации человека с собой и другими напрямую влияет на его формирование как личности и на его эволюцию как вида. Человечность — это не статическое качество, а непрерывный процесс, действие и раскрытие человека во всей его полноте. Максимально мы можем раскрыться только в большом сообществе, в общем информационном поле.

Кстати, коллективное раскрытие лучших человеческих качеств соответствует понятию католического сознания — явления, которое исследуют как антропологический аспект догмата церкви и которое является древним архетипом соборного сознания, буквально означающего всеобщность и целостность сообщества (от греческого καθολικός).

Тогда, в 2021 году, я писала, что технологии являются и должны оставаться исключительно инструментом эволюции; у них нет и не может быть собственной субъектности. Их преимущества или опасности зависят от осознанного выбора и постановки целей самого сообщества, о чем в свое время подчеркивал немецкий социолог Фердинанд Теннис.

Именно поэтому эта тема снова заставила меня вздрогнуть, когда на днях Ватикан представил "Magnifica Humanitas" ("Величественная человечность") — первую энциклику Папы Римского Льва XIV, подписанную 15 мая этого года. Это мировое событие, которое в Украине, к сожалению, обсуждают не так активно по вполне понятным причинам — мы заняты войной и физическим выживанием. Но эта тема слишком важна, чтобы оставаться незамеченной в нашем информационном поле.

Основное содержание документа — защита человеческой личности и сохранение человеческого достоинства в эпоху искусственного интеллекта (ИИ) и цифровых технологий. Символическая деталь: документ подписан в 135-ю годовщину знаменитой энциклики Rerum Novarum, которая в свое время регулировала гуманитарные последствия промышленной революции.

5 главных тезисов "Magnifica Humanitas"

1. Человеческое достоинство в центре всего

Папа подчеркивает, что каждый человек обладает неотъемлемым, безграничным (бесконечным) достоинством, которое ни одна машина или алгоритм не способны заменить или превратить в сухие данные.

Технологический прогресс должен измеряться не мощностью моделей или прибылью корпораций, а тем, насколько он служит общему благу. Важно избегать "синдрома Вавилонской башни" — иллюзии, что цифровая унификация и технологическая мощь могут заменить человеческую уникальность или лишить человека субъектности носителя истины.

Вместо этого Папа предлагает строить "стены Иерусалима", символизирующие общую ответственность человечества за свое будущее.

2. Монополизация Big Tech и угроза демократии

Ватикан выражает глубокую обеспокоенность тем, что слишком много цифровой власти, данных и инфраструктуры ИИ концентрируется в руках нескольких транснациональных корпораций. Такая непрозрачная концентрация угрожает тотальным общественным контролем, создает новые формы зависимости, манипулирует массовым мнением и ослабляет демократические институты.

Технологии должны принадлежать всему человечеству, а не служить лишь геополитическому или корпоративному доминированию.

3. Угроза безработицы как социальное бедствие

Опираясь на традиции католического социального учения о достоинстве труда, Энциклика предупреждает: массовое вытеснение людей с рабочих мест из-за искусственного интеллекта может перерасти в масштабную социальную катастрофу.

Стремление к сверхприбыли не может оправдать сокращение работников, поскольку человек является целью, а не средством. Звучит призыв внедрять программы переквалификации и усиливать механизмы защиты прав работников.

4. Призыв к демилитаризации ИИ

Папа остро критикует развитие автономного оружия. Он подчеркивает, что машины ни в коем случае не должны принимать необратимые решения о жизни и смерти без человеческой ответственности.

Из-за появления таких технологий современные войны меняются настолько радикально, что традиционные концепции "справедливой войны" теряют смысл. ИИ должен быть освобожден от логики доминирования и смерти.

5. Необходимость жесткого регулирования, а не только этических обещаний

Абстрактных призывов к саморегулированию в индустрии ИИ недостаточно. Необходимы четкие международные правовые рамки, независимый надзор и активная политическая ответственность государств.

Папа выступает за жесткое законодательное регулирование и подотчетность компаний-разработчиков. Католическая Церковь, не имея готовых технических решений, предлагает гуманитарную мудрость для сохранения человека.

Показательно, что в презентации документа принимал участие Кристофер Ола, соучредитель компании Anthropic. Ватикан четко продемонстрировал, что это инклюзивный диалог с самими технологическими гигантами.

Читайте также: Уничтожил ли искусственный интеллект демократию? Уроки выборов 2024 года в мире

Взгляд с другой стороны: ситуационная осведомленность Кремниевой долины

Ватикан внимательно следит за мнениями ведущих инженеров и футурологов, в частности таких, как Леопольд Ашенбреннер. Этому американскому аналитику и инвестору всего около 24–25 лет, он уже является миллиардером, а его резонансное эссе "Situational Awareness: The Decade Ahead" ("Ситуационная осведомленность: следующее десятилетие") стало настоящим манифестом реалистов в сфере технологий.

Главный тезис Ашенбреннера: общество критически недооценивает скорость развития ИИ. Мы находимся на пороге создания искусственного общего интеллекта (AGI), который уже через несколько лет перерастет в суперинтеллект (ASI), полностью изменив мировой геополитический и экономический ландшафт.

Автор прогнозирует появление AGI (интеллекта человеческого уровня) уже к 2027 году. ИИ развивается экспоненциально: если в 2020 году он был на уровне дошкольника, то к 2026 году превосходит выпускников колледжей.

Как только появится AGI, миллионы таких "цифровых ученых" автоматизируют и невероятно ускорят исследования в сфере самого ИИ. Сжатие десятилетий прогресса в один год приведет к неконтролируемому "взрыву интеллекта" и созданию суперинтеллекта, значительно умнее любого человека на Земле.

Среди главных вызовов десятилетия Ашенбреннер выделяет:

• Гонку триллионных кластеров. Инвестиции в датацентры и графические процессоры потребуют триллионов долларов и мобилизации промышленности США.
• Критическую проблему безопасности в лабораториях (Lock Down the Labs). Уровень кибербезопасности ведущих ИИ-лабораторий недостаточен, из-за чего ключевые секреты разработки AGI фактически доступны иностранным спецслужбам (в частности, Китаю).
• Супервыравнивание (Superalignment). Удержать в безопасных пределах систему, которая умнее человечества — сверхсложная техническая задача. Если цели ИИ не будут совпадать с человеческими, последствия будут катастрофическими.

Ашенбреннер резюмирует: суперинтеллект даст решающее и абсолютное экономическое и военное преимущество. Частные стартапы из Кремниевой долины (технологический центр в США) не способны самостоятельно справиться с такими вызовами национальной безопасности. Он прогнозирует, что к 2030 году правительства возьмут разработку под полный контроль, запустив масштабный военно-государственный проект уровня "Манхэттенского проекта". Главная цель — чтобы свободный мир опередил авторитарные режимы (Китай), ведь от этого зависит выживание западной цивилизации.

Как видим, тревога Ватикана и прагматический расчет Кремниевой долины абсолютно созвучны. Обе стороны понимают: мы стоим на пороге фундаментального перелома.

Читайте также: Ответит ли ИИ на все наши "ЧТО?"

Какое место в этой гонке занимает Украина?

Может показаться, что пока мы боремся за право на физическое существование, дискуссии о "цивилизации любви" Ватикана или триллионных кластерах Кремниевой долины — это роскошь, которую мы не можем себе позволить. Но это опасная иллюзия.

Украина сегодня является главным мировым полигоном для испытания военного ИИ, и именно мы первыми преодолеваем этические и практические вызовы, о которых Папа Лев XIV лишь предостерегает с ватиканских холмов.

Для нас демилитаризация искусственного интеллекта прямо сейчас была бы равносильна капитуляции, ведь технологическое превосходство — наш единственный шанс против численного превосходства врага. Однако, балансируя на грани, мы уже сейчас должны закладывать принципы человеческого контроля в контур (human-in-the-loop) для автономных систем. Нам нужна собственная, суверенная рамка военной этики ИИ, которая защитит наши ценности, не связывая руки Силам обороны. Мы должны стать не просто потребителями западных технологий, а соавторами новых правил войны и мира.

Не менее остро стоит вопрос нашего внутреннего "завтра". Послевоенное восстановление Украины будет происходить в мире, где, по прогнозам Ашенбреннера, AGI уже станет реальностью.

Мы не имеем права догонять вчерашний день и копировать старые индустриальные модели. Адаптация украинского законодательства к жестким европейским регуляциям ИИ (AI Act) должна происходить параллельно с защитой нашего рынка труда, который и так обескровлен войной и миграцией. Если автоматизация вытеснит людей с рабочих мест во время восстановления, это станет новым социальным бедствием. Нам уже сегодня нужны национальные программы переквалификации, цифровая этика в образовании и, главное, государственная стратегия суверенного ИИ.

Нам нужна собственная целеустановка, о которой говорил социолог Теннис. Если мы не сформируем свою повестку дня, мы превратимся в цифровой протекторат Big Tech или иностранных правительств.

Украина должна войти в эту всеобщую, всемирную дискуссию не как проситель, а как нация, закалившая свое человеческое достоинство в огне и обладающая уникальным опытом сосуществования с технологиями на грани жизни и смерти.

Есть над чем подумать, задействовав собственные, а не электронные мозги. И главный вопрос, на который нам предстоит ответить: строим ли мы в Украине государственные стратегии, способные ответить на эти вызовы?

Елена Сас, философ, аналитик