Грядущая ИИ-катастрофа: почему зумеры проиграют

Всего за какое-то десятилетие, прошедшее с момента появления версии Google Translate на основе нейронной архитектуры и изобретения трансформера для нейронных сетей, мы стали свидетелями самого стремительного из технологических прорывов, по крайней мере, со времен Второй мировой войны, а возможно, и за всю историю человечества.

Искусственный интеллект доказал свою состоятельность в качестве удовлетворительной замены труда переводчиков и иллюстраторов и, похоже, вскоре станет адекватной заменой для работников колл-центров, программистов, помощников юристов, библиотекарей-консультантов и рентгенологов. Лучшие представители всех этих профессий всё ещё способны превзойти искусственный интеллект и, более того, могут считать его скорее дополнением, чем заменой своего труда, но типичный представитель таких профессий должен понимать, что искусственный интеллект будет вести себя как его конкурент. По мере того, как капитал продолжает вкладывать огромные средства в обучение искусственного интеллекта, он будет обеспечивать, как правило, адекватную, а зачастую и превосходящую замену всё большего числа работников.

Широко признается, что что совершенствующийся ИИ изменяет мир труда, и на самом деле мегаломаниакальные образы безумных учёных о массовой безработице среди «белых воротничков» являются частью презентаций для инвесторов. Менее широко осознаётся тот факт, что даже если технологии завтра перестанут совершенствоваться, они всё равно будут всё более эффективной заменой человеческого капитала. Это связано с тем, что они уже способны предоставить людям, и особенно молодёжи, возможность бездельничать, пребывая в глупости и невежестве.

Люди используют искусственный интеллект, ориентированный на потребителя, для самых разных целей. Каждые несколько дней кто-то узнаёт о каком-нибудь потрясающем приложении, например, для общения с мёртвыми, культивирования психоза или замены разочарований в отношениях с людьми удобными вайфуботами и симпатчатами. Но настоящее убойное применение для ИИ — это списывание домашних заданий.

График данных OpenRouter, ставший вирусным в августе этого года, показывает, что количество обработанных OpenAI токенов резко упало с окончанием учебного года. Я проверил текущие данные на панели управления OpenRouter, и количество токенов снова резко возросло с началом учебного года. Анализ OpenAI не разбивает запросы по датам, но показывает, что 40% всех запросов относятся к тому, что исследователи называют «выполнением заданий». Эти задания традиционно считаются работой по подготовке текстов или редактированию, а также реферирование или перевод.

Подобно великой кислородной катастрофе для интеллекта, первое применение технологии, копирующей человеческий интеллект, подрывает развитие настоящего. Джон Генри победил паровой бур, пусть и ценой сердечного приступа, но машина победила бы с минимальным преимуществом, если бы ранее она выполняла работу и упражнения Джона Генри за него. И искушение всегда присутствует. Google Docs, Microsoft Outlook, Microsoft Word и многие другие приложения или окна браузера, в которых регулярно набирается более сотни символов текста, имеют функции пользовательского интерфейса, позволяющие ИИ писать тексты. На каждом шагу бог-младенец активно ищет возможности сделать вашу работу за вас, независимо от того, насколько она важна для развития ваших способностей или поддержания вашего благополучия. Пользовательский интерфейс спрашивает, чего ты хочешь? Хочешь, чтобы твоя курсовая работа была сдана вовремя? Сделать немного домашнего задания? Хочешь ли ты жить ИИшечно?

Менеджеры образования ответственные за академическую дисциплину, рассказали мне, что им удалось лишь ненадолго вернуться к нормальной нагрузке после того, как они расчистили накопившиеся дела о нарушениях, связанных с удалённым обучением в эпоху COVID, прежде чем достичь новой нормы непрерывных дел о нарушениях, связанных с использованием LLM. Проблема явно непростая, потому что, в то время как облачные сервисы, такие как TurnItIn, позволяют относительно просто обнаружить и с точностью установить факт традиционного копипаста, как правило можно только заподозрить, но не окончательно доказать несанкционированное использование LLM. TurnItIn создал детектор ИИ, но многие университеты отказываются его использовать, поскольку у него пусть и достаточно низкий порог ложных срабатываний, - 5% - но, тем не менее, существенный.

Очевидным решением является выставлять оценки на основе аудиторных заданий, но это сопряжено как с интеллектуальными, так и с практическими проблемами. Интеллектуальная проблема заключается в том, что иногда нам требуется постоянная вовлеченность в проект, как при руководстве курсовой работой. Практическая проблема заключается в том, что спрос на образование в онлайн-обучении минимален, поскольку невозможно обеспечить прокторинг на том же уровне, что и с учебниками в поточной аудитории.

Иногда приходится слышать, что вместо того, чтобы вести невыполнимую борьбу за то, чтобы отучить детей использовать ИИ, мы должны научить их пользоваться им. В этом есть своя логика. Когда технология становится более доступной, зарплаты тех, у кого есть человеческий капитал, дополняющий эту технологию, растут. Но это поднимает вопрос о том, какой человеческий капитал является дополнением к искусственному интеллекту, а не его заменой, и, как следствие, какой человеческий капитал лучше всего развивать – через использование искусственного интеллекта или воздержание от него? Обычно предполагается, что самый ценный навык, который можно приобрести, – это умение быстро искать и принимать решения. Это действительно важный навык, но я скептически отношусь к тому, что можно научиться хорошо взаимодействовать с ИИ, перекладывая на него задачи чтения и письма в процессе обучения.

Мой опыт показывает, что мошенники слишком невежественны и ленивы, чтобы знать, как должен выглядеть хороший результат. Иногда эти ошибки очевидны, как, например, когда двое моих студентов сдали тексты, в которых не было краткого изложения заданного материала. Знание того, как должен выглядеть хороший результат, требует навыков и знаний, которые можно приобрести только старомодным способом, выполняя работу самостоятельно. И я говорю о студентах элитного университета через несколько лет после начала бума ИИ. Насколько хуже должно быть в рандомно выбранном среднем вузе? И насколько хуже будет, когда студенты, которые использовали ИИ на протяжении всего своего времени в средней школе, сначала поступят в колледж, а затем пойдут на работу?

Лично я считаю, что разумное и осторожное использование ИИ помогает мне в работе, но это потому, что я получил образование несколько десятилетий назад и с тех пор сам активно учусь. Тридцать лет преподавания в высшем учебном заведении дают мне навыки, которые ИИ только дополняет, а не подменяет. Десятилетия работы без ИИ позволили мне научиться писать, читать и программировать, поэтому ИИ может служить мне хорошим помощником. И самое главное, мои накопленные знания вдохновляют меня на новые исследовательские проекты. Я могу задавать ИИ конкретные вопросы о том, подходил ли кто-то ранее к этому вопросу подобным образом, и предоставлять ссылки, которые я смогу изучить сам. По мере адаптации экономики к ИИ те из нас, кто способен использовать ИИ в качестве дополнения будут работать продуктивнее тех, кто знает только, как спросить: «@grok, это правда?» Проблема в том, что развитие навыков, необходимых для взаимодействия с ИИ, требует отказа от их использования в образовании.

Как сказал мне друг, который работает в сфере искусственного интеллекта, большие генеративные языковые модели только обостряют противоречия. ИИ — благо для тех, у кого есть мотивация и опыт для накопления знаний, но он означает полное разрушение системы всеобщего образования и его сертификации. Меня беспокоит, что у нас могут закончиться люди с мотивацией и опытом, чтобы учиться, знать и работать. В будущем представители поколения X и миллениалы, работающие с информацией, станут человеческим капиталом, эквивалентным довоенной стали. Точно так же, как для детекторов частиц нужна сталь, выкованная до того, как ядерные испытания давали всей свежевыкованной стали неприемлемый фон радиации, мы обнаружим, что даже если ваша работа в основном заключается во взаимодействии с ИИ, для достижения успеха потребуются люди, которые помнят, каково это было читать и понимать документ или сопоставлять две идеи, не прося ИИ сделать это за вас.

А сейчас я мог бы спросить ИИ: «Хотите ли вы, чтобы я подробнее рассказал о том, что происходит с социальной стабильностью, когда отношения между социальными классами быстро меняются и труд молодежи оказывается излишним по сравнению с потребностями капитала?»

Compact