Множитель на первое сентября: как не дать искусственному интеллекту умножить нас на ноль

Список к первому сентября состоит из вещей, которые можно пересчитать и купить: тетради в клетку и в косую линию, циркуль, который потеряется к октябрю, форма, из которой ребенок вырастет к январю, рюкзак, который потеряет свой вид весной. Это хороший список, в нём всё честно, у каждой вещи есть своя цена и место. Но есть одна вещь, которой нет в этом списке, хотя на самом деле этот Дар Времени Технологий и Бич Времени Человечности давно лежит в кармане и будет рядом с ребенком каждый день этого года, на каждом уроке, при выполнении каждого домашнего задания, в половине двенадцатого ночи, когда нужно сдать эссе, а ничего не написано. Эта вещь ничего не стоит и умеет всё.

Мы с вами впервые вступаем в сентябрь, когда можно честно сказать: домашнее задание как формат утратило смысл в том виде, в котором оно существовало сто лет. Раньше оно заключалось в том, чтобы ребенок сам дошел до ответа, а ответ теперь находится на расстоянии одного запроса в бесплатный аккаунт ИИ, и ни у одного ребёнка в мире нет внутренних причин идти пешком там, где можно доехать.

Мы уже знаем две извечные реакции, о которых написаны сотни статей:

• запретить, установить блокировщики, писать от руки, вернуться к тетради;
• будущее уже здесь, расслабьтесь, дети сами разберутся, мы же пережили калькулятор.

Обе реакции удобны тем, что не требуют от взрослого ничего. Первая позволяет ничего не менять, вторая — ничего не делать.

Множитель

Самая точная метафора для того, что сейчас происходит, — это не инструмент и не помощник. Это множитель.

Молоток можно не брать в руки, и тогда он просто лежит. Множитель так не работает. Множитель всегда действует, он применяется к тому, что вы ему дали, и возвращает результат, пропорциональный вложенному.

Если ребенок приходит со своим вопросом, с черновиком, со своей не очень удачной гипотезой, с раздражением от того, что что-то не сходится, множитель это усиливает, и увеличивает сильно, поскольку умножается на что-то большее единицы. А если ребенок приходит с пустым головой, только с текстом задачи, скопированным из мессенджера, то умножение происходит так же исправно, только умножается на что-то очень близкое к нулю, но точно намного меньшее единицы. То есть ребенок нес что-то, небольшое, своё, ещё не оформлённое, и после контакта с инструментом унёс меньше, чем имел в начале.

Лучшее на сегодняшний день исследование провела команда Гамси Бастани из Пенсильванского университета, и оно вышло в прошлом году в PNAS. В нём приняли участие почти тысяча старшеклассников из турецкой школы.

Эксперимент проводился на уроках математики: четыре занятия по девяносто минут, три группы. Первая работала с обычным интерфейсом на базе GPT-4, вторая — с тем же GPT-4, но переработанным для обучения, с подсказками вместо ответов и с добавленным учительским материалом, третья — без ничего, с учебником и тетрадью. Затем всем давали одинаковый экзамен, и на экзамене инструмента не было ни у кого.

Во время практики первая группа решает задачи на сорок восемь процентов лучше, чем контрольная. Вторая, с учебной версией, на сто двадцать семь процентов лучше… А на экзамене, когда инструмент убрали, первая группа показывает результат на семнадцать процентов хуже, чем те, кто всё время сидел с учебником. Вторая группа показывает результат такой же, как у контрольной группы.

Давайте здесь немного остановимся. Обратите внимание — инструмент один и тот же, как и модель, как и дети из той же школы, из тех же классов. Разница только в конструкции взаимодействия: в одном случае она даёт готовый ответ, в другом ведёт к нему подсказками. И результат противоположный по знаку.

Вот это и есть множитель. Он не хороший и не плохой, он умножает то, что вы в него вложили, включая конструкцию, в которую вы его поместили. 50 × 0,1 = 5 и 50 × 1,1 = 55 — чувствуете разницу при одинаковой базе?

И там же, в той же работе, есть одна очень неприятная деталь. Исследователи отдельно спросили детей, как они сами оценивают влияние инструмента на своё обучение. Дети оценили его слишком оптимистично. Те, кому стало хуже, считали, что им стало лучше.

Я об этом уже писал в другом контексте и повторю здесь: собственную фальшь изнутри не слышно. Хор, который за месяц "съехал" на полтона, звучит для себя чисто. Ребёнок, который перестал думать, субъективно чувствует себя умнее, чем в прошлом году, потому что тексты у него стали лучше, а времени на них уходит меньше. Сигнал о деградации не приходит в форме неприятного ощущения. Он вообще не приходит, пока кто-то извне не задаст камертон.

Исследование Лихи Ли с коллегами из Microsoft и Карнеги-Меллона, обнародованное на CHI в прошлом году, опросило триста девятнадцать специалистов о девятиста тридцати шести реальных рабочих ситуациях и обнаружило зависимость, которая фактически является формулой: чем выше доверие к инструменту, тем меньше критического мышления человек применяет, а чем выше уверенность человека в собственной компетентности, тем больше. Две уверенности, направленные в разные стороны. Это опросное исследование, то есть оно фиксирует самоотчет, а не поведение, и это нужно осознавать. Но направление совпадает с экспериментальными данными, и в последующих работах видно, что эффект сильнее всего у самых молодых пользователей.

И в заключение этих размышлений приведу очень громкое исследование MIT Media Lab о "когнитивном долге", в котором у пятидесяти четырёх человек измеряли активность мозга во время написания эссе и обнаружили самую слабую нейронную связность в группе, работавшей с языковой моделью. Об этом в прошлом году писали все, и было бы слишком просто погрузиться в этот сладкий тупик паники. Но здесь я должен сказать то, о чём не писал почти никто: это препринт, выборка небольшая, и по нему вышел отдельный экспертный комментарий с серьёзными замечаниями к дизайну и анализу. Я упоминаю его здесь не как доказательство, а как гипотезу, которую ещё будут проверять. Мне кажется важным не опираться на слабые доказательства даже тогда, когда они подтверждают то, во что я верю.

Что делать с оценкой

Теперь практическая часть, и начну с неприятного вывода для системы школьного (и не только) образования.

Вся конструкция оценки построена на дефиците ответов. Ответ был редким ресурсом, его нужно было добыть, и сам факт наличия правильного ответа был надёжным свидетельством того, что ребёнок прошёл путь. Тест с вариантами ответов, контрольная работа, реферат, эссе на заданную тему: всё это измеряло не знания как таковые, а след, который оставляет процесс.

Дефицит закончился. Точка невозврата. Точка. Закрытая скобка.

Ответ теперь бесплатен, мгновенный и лучшего качества, чем то, что напишет большинство учеников. Это означает, что измерительный прибор показывает цифры, которые больше ни с чем не связаны. Не "стало хуже измерять". Вообще не измеряет, больше так не работает.

Поэтому тесты с готовыми ответами нужно не улучшать, а выводить из употребления как основу оценки. И заменять их нужно не чем-то одним, а набором форматов, в которых видно развитие мысли. Вот то, что работает и что можно запускать с сентября этого года, без реформ и без денег в каждой школе каждым неравнодушным учителем:

Оценивайте черновик, а не чистовик.

• Ребёнок сдаёт не текст, а историю текста: первый набросок, место, где он застрял, то, что выбросил, и причину. Чистовой вариант прилагается, но имеет меньший вес. Это переворачивает всю экономику списывания: подделать черновик дольше, чем его написать.
• Я часто прошу своих студентов сопровождать размышления рисунками, моделями, самоцитированием и собираю это в конце модуля. Иногда это дает возможность заглянуть очень далеко.

Спрашивайте о собственном тексте.

• Пять минут устных вопросов по тому, что ребенок сдал. Почему здесь именно этот пример. Что произойдет с выводом, если убрать второй абзац. Где здесь место, в котором ты не уверена. Ребёнок, который думал, отвечает с удовольствием. Ребёнок, который не думал, теряется на втором вопросе, и делает это без унижения, потому что вопрос касается текста, а не его самого.
• Кстати, здесь всегда видно, кто именно писал тот текст, который ребёнок принёс вместе с ответом. Устная логика разговорной речи для чуткого уха только подчёркивает то, что уже видно на бумаге.

Давайте задачи, в которых инструмент гарантированно ошибается.

• Локальный контекст: сколько людей жило в вашем посёлке до Великой войны и откуда вы это знаете. Свежие данные. Личный опыт. Противоречивые источники, которые нужно сопоставить. Модель в этом случае либо промахнётся, либо честно скажет, что не знает, и в обоих случаях ребёнку придётся поработать.
• Локальность может быть по времени, по месту, по делу, по хобби, по сфере профессиональной деятельности. Она требует от учителя неравнодушия к собственной подготовке, но в результате… получаются неравнодушные и подготовленные дети.

Поменяйте роли.

• Дайте классу ответ, сгенерированный моделью, и задание найти в нём ошибку, натяжку, подменённое понятие. Это лучшее упражнение на критическое мышление, которое я вообще видел, и оно бесплатное. Ребёнок с позиции потребителя ответа переходит в позицию того, кто отвечает за качество, а это разные люди.
• Я иногда вообще даю по 3–4 варианта таких ответов, а иногда вплетаю цитаты известных людей — очень забавно, когда настоящий текст Сергея Жадана наделяют ярлыком ИИ.

Оценивайте вопросы.

• Качество того, что ребенок спрашивает у модели, является прямым отражением качества его мышления, гораздо более честным, чем итоговый текст. Введите формат, в котором сдается не результат, а три вопроса, которые ребенок задавал, и то, как он их уточнял после плохих ответов.
• Здесь место для тех смельчаков, кто решается войти в бурные воды ИИ вместе с детьми.

Ставьте задачу до объяснения, а не после.

• Ману Капур называет это продуктивной неудачей: дети сначала борются с задачей, для решения которой у них ещё нет инструментов, затем получают объяснение и усваивают материал глубже, чем те, кому объяснили сначала. В мире, где готовый ответ под рукой, этот порядок становится ещё важнее, ведь именно сопротивление формирует ту пустоту, в которую затем укладывается знание.
• На основе этой технологии ещё до знакомства с этой теорией я построил десятки образовательных проектов и программ и отточил её до уровня сверхточного инструмента, которым пользуюсь до сих пор.

Защита перед своими, а не перед учителем.

• Когда ребёнок рассказывает о своей работе одноклассникам, которые задают вопросы, срабатывает совершенно другой механизм ответственности. Перед учителем можно отделаться. Перед своими — нельзя.
• Это давняя классика. Работает и сейчас.

А теперь честно о цене. Все это стоит учительского времени, которого в системе нет. Проверить тридцать тестов занимает час, выслушать тридцать пятиминутных защит — три часа. Поэтому любой разговор о новой системе оценивания, в котором не сказано, что учитель должен получить за это время и деньги, — разговор ни о чём. Я не знаю, как быстро это решится на системном уровне. Я знаю, что отдельный учитель может начать с одного предмета, с одного класса и с двух форматов, и это уже будет больше, чем ничего.

Добродетель — это практика

И третье, самое глубокое, ради чего я всё это пишу.

Мы привыкли думать, что школа передаёт знания, а воспитание — это то, что добавляется сверху, в виде классных часов и бесед о поведении. На самом деле всё наоборот. Знания передаются сегодня миллионом способов, бесплатно, в любое время суток. А то, что передается только от человека к человеку и только через повторение, — это способ бытия.

Аласдер Маккинтайр писал о практике как о деятельности, внутри которой есть блага, недостижимые вне её. В шахматах есть внешнее благо — это выигрыш, — и есть внутреннее, доступное только тому, кто играет: понимание позиции, способность предвидеть три хода вперёд, удовольствие от точности.

Ребёнок, которому пообещали конфетку за победу, научится обманывать, потому что конфетка — это внешнее благо, и её можно получить кратчайшим путём. Ребёнок, полюбивший саму игру, обманывать не будет, потому что это уничтожает то, ради чего он играет.

Теперь подставьте сюда наш случай. Модель даёт ребёнку внешнее благо практики, оценку и готовый текст, полностью отрезая внутреннее. И делает это бесплатно, мгновенно и без малейшего чувства вины, потому что никто не обманут, и формально ничего не нарушено.

Это означает, что вся тяжесть ложится на один вопрос: успел ли ребенок полюбить саму игру до того, как ему показали короткий путь.

Отсюда три вещи, которые я считаю истинным смыслом следующих лет.

Учить учиться.

Не как мотивационный лозунг, а как конкретное ремесло, которому есть чему учить. Распределенное повторение вместо зубрежки перед контрольной работой.

Вспоминание вместо перечитывания, потому что перечитанный текст даёт обманчивое ощущение знания, а попытка вспомнить даёт настоящее.

Умение разбить большое дело на шаги. Умение заметить момент, когда ты перестал понимать, и остановиться именно там, а не через двадцать минут. Все это передается и тренируется, но почти нигде не преподается.

Учить мыслить.

Здесь я был бы конкретен до скуки. Различать утверждение и оценку. Спрашивать, откуда источник и кто его автор. Удерживать в голове две противоречивые версии дольше минуты, не хватаясь за более удобную. Замечать подменённое понятие.

Формулировать, в чём именно ты не согласен, вместо того чтобы сказать, что собеседник глуп. Видеть целое, создавать модели и выходить за пределы собственной позиции. И отдельно, самое сложное: замечать удовлетворение от собственной правоты как сигнал опасности, а не как подтверждение.

Практиковать добродетели.

Именно практиковать, в буквальном аристотелевском смысле, через повторение действия, а не через разговор о нём. И я бы назвал четыре, которые в этом году важнее остальных:

1. Терпение перед нерешенным. Двадцать минут над задачей, прежде чем открыть что-либо. Это самое простое правило во всём тексте, и оно меняет больше, чем любая методика, потому что именно в эти двадцать минут формируется то, что потом будет умножено.
2. Честность как декларация, а не как контроль. Не ловить, а требовать назвать: чем пользовался, в каком месте, что именно взял. Ребёнок, привыкший это называть, выработает привычку видеть границы собственного вклада. Ребёнок, которого ловят, выработает привычку не попадаться.
3. Мужество сдать несовершенное. Это добродетель, которой у нас самих нет. Сдать своё кривое вместо чужого гладкого требует больше смелости, чем мы обычно признаём, и если школа наказывает за кривое, то она ежедневно, очень последовательно учит противоположному.
4. Различение. Способность ответить на вопрос, что здесь моё, а что не моё: в тексте, в мысли, в желании. Это, на мой взгляд, главный навык ближайших десятилетий, и он не имеет ничего общего с технологиями, он просто впервые стал вопросом выживания личности.

Мы передали машине вычисления и не потеряли ничего важного. Мы передали ей память о телефонных номерах и тоже как-то живем. Теперь нам предлагают передать формулировку, а вместе с ней ту неудобную паузу, в которой человек ещё не знает, что он думает, и должен это из себя извлечь. Эта пауза и есть место, где человек становится собой. Её нельзя отдать, потому что отдавать некому: там никого нет, там пусто, там просто очень хорошо обученная статистика.

Поэтому рюкзаки для своих детей мы как-нибудь найдем, где взять, и пенал будет укомплектован карандашами, ручками-ластиками и любимыми наборами стикеров к первым урокам в этом сентябре. Пожалуй, лучшей мотивацией станут именно эти несколько минут выбора рюкзака в магазине и то время медленной совместной работы вечером тридцать первого августа, когда можно спросить, чего ребенок боится в этом году, и услышать ответ, которого не даст ни одна модель, потому что она его не знает. Как и не знаем мы, родители, но именно формулировка вопроса оставляет нам шанс на то, что наш множитель все-таки будет больше единицы.

PS

Этот текст написан с помощью ИИ. Клод и GPT помогали мне искать исследования, уточнять гипотезы и критиковать определенные формулировки. Колонка была написана за 4 подхода, и на её написание ушло примерно 6,5 часов чистого времени.

Источники

• Bastani H., Bastani O., Sungu A., Ge H., Kabakcı Ö., Mariman R. Generative AI Without Guardrails Can Harm Learning: Evidence from High School Mathematics. PNAS, 2025, 122(26): e2422633122.
• Lee H.-P., Sarkar A., Tankelevitch L., Drosos I., Rintel S., Banks R., Wilson N. Влияние генеративного ИИ на критическое мышление: самооценка снижения когнитивных усилий и эффекты уверенности по результатам опроса специалистов в области знаний. CHI '25, 2025.
• Kosmyna N. и др. Ваш мозг на ChatGPT: накопление когнитивного долга при использовании ИИ-помощника для написания эссе. arXiv:2506.08872 (препринт; см. также экспертный комментарий arXiv:2601.00856 с замечаниями по дизайну и анализу).
• Капур М. "Продуктивная неудача". Cognition and Instruction, 2008.
• Roediger H., Karpicke J. Обучение с использованием тестов. Psychological Science, 2006.
• Bjork R. Желательные трудности в теории и практике.
• MacIntyre A. After Virtue, 1981 (глава о практике, внутренних и внешних благах).