Социальные последствия искусственного интеллекта необратимое оглупление детей и молодёжи вследствие внедрения ИИ в образование

•  Татьяна Воеводина

Этот текст подготовлен для выступления на XI Всероссийской научно-практической конференции «Современные проблемы социально-экономического развития: статика и динамика исторических процессов» - мартовские чтения памяти д.э.н., профессора, члена-корреспондента РАН Дмитрия Евгеньевича Сорокина в Финансовом Университете при Правительстве России 6 марта 2025 г.

Искусственный интеллект (ИИ) в настоящее время на пике моды, его полагается развивать, совершенствовать, внедрять во всё новые области, приходить в восторг от его успехов, начинать взаимодействовать с ним в самом юном возрасте. Такой первоначальный восторг сопутствует всем новым технологиям и техническим новинкам. Теневые стороны этих изобретений обнажаются уже потом. В настоящее время говорить об этих теневых сторонах ИИ – неприлично, бестактно, а сомневаться в универсальных благах ИИ – значит показать себя невежественном ретроградом, которому недоступны дары прогресса. Меж тем полезно наметить некоторые ожидающие нас опасности.

Главнейшей опасностью представляется мне не восстание роботов, давно предсказанное и описанное фантастами, не случайный запуск ракет или иная глобальная техническая ошибка. Всё это страшно, но всё-таки поправимо. А вот что может стать крайне опасным последствием широкого применения ИИ в образовании – это необратимое оглупление детей и молодёжи вследствие внедрения ИИ в образование.

Совершенно очевидно: если не использовать какую-то функцию организма (неважно физическую или умственную) – она отмирает. Если не ходить – разучишься (или не научишься) ходить. Всякий, кому доводилось по причине болезни или травмы лежать, не поднимаясь, хотя бы неделю – вынужден заново учиться ходить. Если не говорить на иностранном языке – потеряешь этот навык, если не считать в уме – разучишься. Наличие в компьютере функции проверки орфографии привело к утрате очень многими пишущими орфографических навыков. Это хорошо видно по изобилию ошибок в тех случаях, когда существуют разные написания, но их нужно использовать правильно, народ этого не умеет, а проверщик орфографии пропускает любой вариант. Самый ходовой пример: нужно или не нужно ставить Ь перед -ся: ошибок пруд пруди. Современный водитель уже не имеет в голове хотя бы общей схемы своего города, не умеет пользоваться картой: зачем? Навигатор доведёт.

Утрачивается навык поиска информации – я уж не говорю: в книгах, а хотя бы в интернете. Теперь ИИ выплёвывает готовый ответ. Если этого ответа нет – вопрошающий сначала застывает в недоумении, а дальше утверждается в мысли, что того, что он ищет, вообще не существует на свете.

Но всё-таки взрослые люди, которые когда-то эти навыки имели, утрачивают их не до конца. К тому же вспомнить или даже научиться заново тому, что когда-то умел и делал, но потом забыл, гораздо легче, чем приобрести этот навык заново, особенно в зрелом возрасте.

Отсутствие навыков устного счёта и вообще способности к какой-то цифровой прикидке повышает возможности манипуляции сознанием. Люди постепенно утрачивают счётную меру и начинают жить в мире, где «один-два-много». Впрочем, это явление наблюдалось ещё до возникновения ИИ; о нём писал С.Г. Кара-Мурза в своих книжках о манипуляции сознанием.

ИИ замещает собой повседневные умственные усилия человека, он решает за человека простые, но многочисленные задачи, которые прежде решал сам человек и, решая, усовершенствовал свои умственные способности. Кажется, что это сущие пустяки, но точно такими же пустяками является, например, ходьба. Перестань это делать – и она атрофируется. Как лучше пойти или поехать в определённое место? Где разыскать нужную формулу или цитату? Всё это не совершенно не технические вопросы, как кажется многим. Положим, тебе нужно узнать формулу … ну, положим, марганцовки. Чтобы обратиться к учебнику химии, надо хотя бы знать, что твой вопрос относится к области химии. Какой химии – неорганической или органической? К какому разделу? А сейчас – ничего этого знать не надо: ответ выдаётся в готовом виде. Как еда из «Яндекс-еды».

Возможность получить немедленный ответ на любой вопрос безо всякого труда ведёт к атрофии умственных качеств. (К тому же ответ часто оказывается убогим и даже неправильным, но это предмет особого обсуждения).

Но это всё ещё не задачи ИИ – с этим справляется Яндекс.

Особую опасность представляет способность ИИ создавать тексты – вполне приличные на вид, в разных стилях, заданной длины. По этому случаю принято соболезновать бесчисленным копирайтерам и «писателям газет», которых ИИ на глазах лишает кормовой базы. Но это не так уж страшно: в крайности пойдут в курьеры, ещё и зарабатывать будут больше прежнего. Автоматическое создание текстов ускорит общую дебилизацию молодого поколения.

Детям уже не требуется писать сочинения: поручи это очередной «Алисе», и она всё сочинит. Сначала школьное сочинение, а потом – курсовую, диплом, диссертацию, «а также всё, что понадобится впредь», как это сказано в незабываемой «печатке Полыхаева». Не требуется читать длинные и сложные книги – можно заказать короткий пересказ. Да, он будет глупый и убогий, но вполне социально приемлемый.

На протяжении веков умение читать с пониманием, пересказывать тексты, а дальше писать собственные сочинения считалось непременным навыком всякого культурного человека. Этому учили и в царской гимназии, и в советской школе. В биографии Ленина, написанной Львом Данилкиным (ЖЗЛ) сообщается, что гимназисты писали около ста сочинений за весь курс обучения. Это выходит по сочинению раз в две недели. Немало. Это очень ценный навык: подобрать материал на определённую тему, выстроить его, осознать, чего не хватает, выработать план. Ленин, между прочим, не был литературно одарённым человеком, но доносить свои мысли до читателя он умел, и этому, как мне кажется, он научился в гимназии.

Сегодня этот навык не формируется. Ко мне когда-то ходил мальчик 11-12 лет подтягиваться летом по английскому (изначально он был учеником моей дочери, подрабатывавшей репетиторством). Симпатичный, бойкий парнишка, он вовсе не был дебилом и даже учился в какой-то особо продвинутой школе. Но он абсолютно не понимал текстов, не умел их пересказывать, не мог изложить последовательность событий. Дело тут не в английском – он и по-русски их не понимал. От школьников этого, как он мне сказал, не требовали.

Меж тем, с начала времён и до наших дней текст – это единственный способ передачи знаний. Других способов, вроде знаний в таблетках, пока не выработано. Чтобы уметь эффективно потреблять текст, надо понимать хотя бы в общих чертах, как он устроен, а чтобы понять это – надо уметь хотя бы на базовом уровне создавать тексты. Теперь это не нужно. Тексты, которые циркулируют в обществе, становятся всё короче и примитивнее, а когда к делу подключился ИИ – и вовсе будут превращаться в словесную жвачку. Чем они, собственно, и являются: ИИ ведь не имеет доступа к реальности – он просто перемалывает имеющиеся тексты и создаёт из них что-то похожее.

А люди будут прогрессивно и высокотехнологически глупеть.

Недавно мне привелось познакомиться в результатами широкого использования ИИ в быту. Это было в Китае, где ИИ находится на высоком уровне развития, а народ – поражает свои трудолюбием и работоспособностью.

Учатся дети, - рассказывал наш сопровождающий, - в школе с раннего утра до семи вечера, а потом приходят домой и готовят уроки до полуночи. Многие, кто может себе позволить, держат ещё и репетиторов.

Один из важнейших предметов – английский, по нему все сдают выпускной экзамен в письменной форме.

При таких усилиях в китайских гостиницах по-английски практически не говорили. А гостиницы-то были всё приличные, одна сети Hilton, две другие – китайских владельцев, ещё более импозантные – с мрамором, хрустальными люстрами и новейшей сантехникой.

Как всё это было и выглядело? А вот как. Стоит заговорить по-английски – тебе р-р-раз - и суют под нос гаджет с установленной на нём программой переводчиком. На экранчике тут же высвечивается перевод на китайский. Можно говорить хоть по-русски, хоть по-малороссийски, хоть на папуасском языке – переводчик всё переведёт на китайский. Затем девушка немедленно переадресует твой вопрос искусственному интеллекту и с любезной улыбкой предоставляет тебе тот же гаджет с его ответом. Ответ ИИ обычно очень абстрактный и часто малополезный. Если ответ не удовлетворяет клиента и вызывает желание что-то уточнить (так обычно и бывает) – в этом случае процедура повторяется. Третьего раза обычно не случается: клиент плюёт и отходит. Со мной, во всяком случае, происходило именно так.

То, что я описала, делают девушки на рецепции, с другими работниками гостиницы, вроде горничных, тружеников ресторана или каких-то мужчин с невнятными функциями – лучше вообще не пытаться вступать в коммуникацию: они лишь мило улыбаются.

Как совместить увиденное с упорным изучением английского до двенадцати ночи на протяжении всех двенадцати школьных лет? Ума не приложу.

Но больше поражает даже не английский, а то, что девушки даже не пытаются ответить на вопросы постояльцев просто так, старым дедовским способом – напрягая свою голову. Им это просто не приходит в голову: зачем, когда есть гаджет? Мне кажется, глубокое проникновение в обиход искусственного интеллекта сильно подкосило естественный. «Соображаловка» (не хочется называть это свойство интеллектом) постепенно отмирает по причине неупотребления. Самые элементарные вопросы вызывают испуганное недоумение. А ведь я спрашивала не о её взглядах на философию Конфуция.

Я захотела послать несколько открыток родным и друзьям. Куда опускать открытку и на какую сумму надо наклеить марок – мне объясняли целых две девушки и примкнувшая к ним начальница, вызванная по причине сложности задачи. Искусственный интеллект объяснил нам, сколько стоит послать открытку в Россию, но тут возникла новая засада. На открытке уже в типографии напечатана марка на какую-то сумму (как делалось когда-то у нас в Советском Союзе). Надо ли её учитывать? Для ответа на этот вопрос не хватило совокупной мощи трёх естественных и одного искусственного интеллекта. Я на всякий случай наклеила без учёта той злополучной марки.

Подобная история приключилась со мной в аэропорту, когда вылетала в Москву. Я решила купить шёлковый платочек для подруги, оплатив покупку наличными юанями и частично евро, тоже наличными. Продавщица встала в тупик перед столь сложной арифметической задачей.

Моя подруга, изучающая китайский язык и преподающая русский китайцам, просила меня купить ей китайскую книжку – что-нибудь романтическое, про любовь. Я была уверена, что это самое просто дело. Оказалось, купить книжку в Китае не так-то просто: книжные магазины существуют, но их мало, они оказались далеко расположены, а свободного времени у нас было мало. Оказывается, китайцы давно уж не читают бумажных книг, предпочитая гаджеты. В последний вечер я предложила нашему сопровождающему принести мне какую-нибудь книжку из школьной программы его детей – и я у него её куплю. Миша ответил тоном некоторого превосходства технологически продвинутого существа над отсталым: «Я книг дома не держу». Может, тут, хотя бы отчасти, кроется причина вышеописанных трудностей?

В аэропорту книжек и даже газет с журналами – не было в принципе. Ни детских, ни изданий «в дорогу» - ничего. Возможно, оттого, что аэропорт новый и ещё не заполнился торговыми точками. Но так или иначе, никаких книг не было.

А вот в гостинице в лобби был огромный стеллаж, на полках которого были живописно раскиданы разные красивые штучки и … муляжи книг. Муляжи! И то сказать, зачем им держать всякую устарелую муру? Если что – ИИ знает ответ на все вопросы.

И ответ этот будет прогрессивно глупеть по легко понятной причине. ИИ не может обратиться к реальности – он имеет дело только с текстами, которые пережёвывает с невообразимой скоростью в неимоверном количестве. Так вот чем дальше – тем больше среди этой текстовой жвачки будет попадаться изделий самого ИИ, а потом – и вторичных, третичных и т.д. изделий. Иными словами, я предвижу встречное движение: естественный интеллект будет прогрессивно слабеть ввиду неупотребления, а ИИ будет прогрессивно глупеть ввиду поглощения вздора, им же и произведённого. То есть, извините за неэстетичное сравнение, он будет питаться (и уже питается) собственными экскрементами.

Мне кажется, то, что я наблюдала в Китае – это наше недалёкое будущее. И будущее незавидное. Опасное будущее. Потому что речь идёт о деградации самого ценного, что есть на свете – человеческого ума.