«Наш король, наш священник, наш феодал – как искусственный интеллект возвращает нас в темные века»
Начиная с эпохи Просвещения мы принимали решения самостоятельно. Но теперь ИИ может изменить ситуацию
Этим летом я оказался в пробке на изнурительно жарких улицах Марселя. На перекрестке мой друг, сидевший на пассажирском сиденье, сказал мне повернуть направо к месту, известному своим рыбным супом. Но навигационное приложение Waze велело нам ехать прямо. Уставший и чувствуя себя в Renault как в сауне на колесах, я последовал совету Waze. Через мгновение мы застряли на строительной площадке.
Возможно, это был незначительный момент. Но он отражает, пожалуй, определяющий вопрос нашей эпохи, в которой технологии затрагивают почти все аспекты нашей жизни: кому мы доверяем больше — людям и собственным инстинктам или машинам?
Немецкий философ Иммануил Кант дал известное определение Просвещению как «выходу человека из самонавязанной незрелости». Незрелость, писал он, «это неспособность использовать свой разум без руководства со стороны другого». На протяжении веков этим «другим», направляющим человеческие мысли и жизнь, часто были священники, монархи или феодалы — те, кто утверждал, что действует как глас Бога на Земле. Пытаясь понять природные явления — почему извергаются вулканы, почему меняются времена года — люди искали ответы у Бога. В формировании социального мира, от экономики до любви, религия служила нам руководством.
Кант утверждал, что люди всегда обладали способностью к разуму. Просто они не всегда имели смелость, чтобы ее использовать. Но с американской, а затем и французской революцией наступила новая эра: разум заменил веру, и человеческий разум, освободившись от оков власти, стал двигателем прогресса и более нравственного мира. «Sapere aude!» или «Имей смелость пользоваться своим разумом!», — призывал Кант своих современников.
Спустя два с половиной века можно задаться вопросом, не возвращаемся ли мы незаметно к незрелости. Приложение, подсказывающее нам, по какой дороге идти, — это одно. Но искусственный интеллект угрожает стать нашим новым «другим» — молчаливой властью, которая направляет наши мысли и действия. Мы рискуем уступить с трудом завоеванную смелость думать самостоятельно — и на этот раз не богам или королям, а коду.
ChatGPT был запущен всего три года назад, но уже в апреле глобальный опрос показал, что 82 % респондентов использовали ИИ в течение последних шести месяцев. Будь то решение о разрыве отношений или о том, за кого голосовать, люди обращаются за советом к машинам. По данным OpenAI, 73 % запросов пользователей касаются тем, не связанных с работой. Еще более интригующим, чем наша зависимость от суждений ИИ в повседневной жизни, является то, что происходит, когда мы позволяем ему говорить за нас. Написание текстов сейчас является одним из наиболее распространенных видов использования ChatGPT, уступая только практическим запросам, таким как советы по ремонту или приготовлению пищи. Американская писательница Джоан Дидион однажды сказала: «Я пишу исключительно для того, чтобы понять, о чем я думаю». Что происходит, когда мы перестаем писать? Перестаем ли мы понимать?
Вызывает беспокойство то, что некоторые данные указывают на то, что ответ может быть положительным. В исследовании Массачусетского технологического института с помощью электроэнцефалографии (ЭЭГ) отслеживали мозговую активность авторов эссе, которым был предоставлен доступ к ИИ, поисковым системам, таким как Google, и которым ничего не было предоставлено. Те, кто мог полагаться на ИИ, демонстрировали самую низкую когнитивную активность и с трудом могли точно процитировать свои работы. Возможно, наиболее тревожным было то, что в течение пары месяцев участники группы ИИ становились все более ленивыми, копируя целые блоки текста в своих эссе.
Исследование небольшое и несовершенное, но Кант бы распознал эту закономерность. «Леность и трусость, — писал он, — являются причинами, по которым такая большая часть людей… остается в пожизненной незрелости и почему другим так легко утвердиться в роли их опекунов. Так легко быть незрелым».
Конечно, привлекательность ИИ заключается в его удобстве. Он экономит время, избавляет от лишних усилий и — что особенно важно — предлагает новый способ сбросить с себя ответственность. В своей книге «Бегство от свободы», опубликованной в 1941 году, немецкий психоаналитик Эрих Фромм утверждал, что подъем фашизма можно частично объяснить тем, что люди предпочитают отказаться от своей свободы в обмен на успокаивающую уверенность в подчинении. ИИ предлагает новый способ избавиться от бремени необходимости думать и принимать решения самостоятельно.
Самое большое преимущество ИИ заключается в том, что он может делать то, что не под силу нашему разуму — просеивать огромные объемы данных и обрабатывать их с беспрецедентной скоростью. Сидя в машине в Марселе, я в конце концов решил довериться машине, а не моей подруге, сидящей на пассажирском сиденье (она восприняла это решение как оскорбление). Имея доступ ко всем данным, приложение, безусловно, знает лучше — так я полагал.
Проблема в том, что ИИ — это черный ящик. Он генерирует знания, но не обязательно углубляет человеческое понимание. Мы не знаем, как ИИ приходит к своим выводам — даже программисты это признают. Мы также не можем проверить его рассуждения по четким, объективным критериям. Поэтому, следуя советам ИИ, мы не руководствуемся разумом. Мы возвращаемся в сферу веры. In dubio pro machina: в случае сомнений доверяй машине — это может стать нашим будущим руководящим принципом.
ИИ может быть мощным союзником человека в рациональном поиске. Он может помочь нам изобретать лекарства, освободить нас от «бессмысленной работы» или от необходимости платить налоги — задач, которые не требуют больших умственных усилий и не приносят удовлетворения. Это хорошо. Но Кант и его современники отстаивали превосходство разума над верой не для того, чтобы люди могли строить лучшие полки или иметь больше свободного времени. Критическое мышление было не только вопросом эффективности — оно было практикой свободы и освобождения человека.
Человеческое мышление беспорядочно и полно ошибок, но оно заставляет нас спорить, сомневаться, проверять идеи друг друга — и признавать пределы нашего собственного понимания. Оно укрепляет уверенность, как индивидуальную, так и коллективную. Для Канта использование разума никогда не сводилось только к знанию; оно позволяло людям становиться хозяевами своей жизни и сопротивляться господству. Речь шла о построении морального сообщества, основанного на общем принципе разума и дискуссии, а не на слепой вере.
При всех преимуществах, которые дает ИИ, задача состоит в следующем: как мы можем использовать его потенциал сверхчеловеческого интеллекта, не подрывая человеческое мышление, которое является краеугольным камнем Просвещения и самой либеральной демократии? Это, возможно, один из определяющих вопросов XXI века. И мы не должны передавать его решение машинам.
ДЖОЗЕФ ДЕ ВЕК, научный сотрудник Института исследований внешней политики
26.12.2025
Подключите эксклюзивный VPN-POISTINE. Надежный. Безопасный. Наш
