Мы живем в мире, где инструменты ИИ прочно вошли в центр огромного количества профессиональных, академических и личных взаимодействий. В последнее время эти чат-боты и агенты делают больше, чем просто разговаривают с нами. Студенты пишут эссе с помощью ChatGPT, а преподаватели используют ИИ для их оценки. Работники отправляют длинные электронные письма, сгенерированные ИИ , коллегам, которые отвечают им целыми массивами текста, написанного чат-ботами. Ведущие подкастов с использованием ИИ беседуют с гостями подкастов на такие темы, как цены на бензин, война с Ираном — и ИИ. Технологический сектор хочет пойти еще дальше: в марте Meta приобрела социальную сеть, разработанную для общения ботов друг с другом.
«Теория «мертвого интернета», популярная в технологических кругах, утверждает, что большая часть цифрового трафика в конечном итоге будет представлять собой программное обеспечение, а люди останутся в меньшинстве. Теперь у нас может появиться следствие этого предсказания — назовем это «бот-петлей» — когда люди по обе стороны взаимодействия передают свою роль ИИ. Эти рекурсивные обмены могут быть жуткими и чреватыми ошибками, когда одна и та же ошибка повторяется снова и снова без исправления. Еще более странно то, что они переворачивают нашу динамику общения с ног на голову, превращая чат-ботов в собеседников, а людей — в их помощников», — пишет Кэлли Холтерманн в статье в The New York Times* «Чат-боты приближают нас к постчеловеческому интернету» (14.08.2026).
В зависимости от того, кого вы спросите, бот-петли могут казаться банальными, антиутопическими или действительно полезными. Независимо от отношения к ним, исследователи говорят, что мы будем сталкиваться с бот-петлями гораздо чаще, поскольку мы будем наделять системы ИИ полномочиями выполнять наши приказы.
В недалеком будущем прорвется труба, и вам срочно понадобится сантехник. Возможно, вы сами позвоните десяти сантехникам, чтобы узнать цены, — но, возможно, вы передадите всю эту работу по обзвону своего рода персональному цифровому помощнику, который сможет выполнять такие задачи, как отправка электронных писем, покупка авиабилетов и написание кода. Сантехники же, тем временем, могут столкнуться с трудностями в обработке потока звонков от неутомимых ИИ-помощников, говорит Цзясинь Пэй, доцент Школы информатики Техасского университета в Остине. Возможно, они назначат себе виртуального секретаря. «Это бесконечный цикл, который мы создаем», — говорит Пэй. Как все это повлияет на наше взаимодействие друг с другом?
Если посмотреть на это с одной стороны, история человечества — это длинная череда панических атак, связанных с потенциальным влиянием новых технологий на наше общение.
Сократ опасался, что письменность разрушит нашу память — это мы знаем только потому, что Платон это записал. Критики начала XX века утверждали, что телефон представляет угрозу для цивилизованности. Неоднократно противники предсказывали, что качество нашего взаимодействия может пострадать в результате современных удобств. В 1994 году The New York Times утверждал, что электронная почта «настолько привлекательна и удобна, что грозит перевесить свою полезность из-за огромного объема и отсутствия должного внимания», хотя он и признавал, что у нее есть свои преимущества: «Не нужно облизывать марки».
Ни одно из этих нововведений не положило конец продуктивному обсуждению, хотя каждое из них изменило его характер. Теперь мы можем обмениваться сообщениями с большим количеством людей, чем когда-либо, не находясь в одном физическом пространстве. В результате исследователи считают, что мы, возможно, стали общаться друг с другом реже. Многие наши разговоры происходят на платформах, которые стимулируют определенные виды обмена мнениями, особенно те, которые являются жаркими, экстравагантными или иным образом способны удержать наше внимание ради финансовой выгоды платформ.
Тем не менее, ИИ отличается от этих предыдущих достижений. В то время как электронная почта передает сообщения между людьми, чат-боты имитируют людей — и, возможно, заменяют их. Внезапно люди получают возможность решать, хотят ли они общаться с человеком или с программой, которая его имитирует. Многие люди предпочитают обращаться к чат-ботам за финансовыми советами, медицинской диагностикой или просто за общением.
Люди уже используют созданные с помощью ИИ аватары, чтобы те говорили от их имени. Когда Джастин Лестер, пастор из района залива Сан-Франциско, недоступен, люди могут общаться с его «цифровым двойником». Следующим шагом, скорее всего, станет будущее, в котором собственные цифровые двойники людей смогут общаться с цифровым двойником Лестера.
Все чаще наши цифровые посредники будут сталкиваться. Мы будем общаться с нашими ботами, а наши боты будут общаться друг с другом. Руководители компаний создали аватары на основе ИИ, которые могут встречаться со своими сотрудниками. Сколько времени пройдет, прежде чем их подчиненные тоже начнут отправлять свои аватары на эти встречи?
В этом странном новом мире уже живёт множество людей . Последние пару месяцев автор публикации брала у них интервью. Был аспирант, работавший над проектом с использованием ИИ, который проверяли виртуальные помощники его профессора. Был руководитель телекоммуникационной компании, который заметил, что клиенты отправляют голосовых агентов ИИ, чтобы спорить с системой обслуживания клиентов его компании, использующей ИИ. Был мужчина, который использовал чат-бота для написания сообщений в приложении для знакомств женщине, которая, казалось, делала то же самое. «Как долго мы будем общаться друг с другом в ChatGPT?» — написал он в конце концов. Она так и не ответила.
Большинство из этих людей признавали некоторую пустоту во взаимодействии, которое следовало основным контурам человеческого разговора, но совершенно не передавало его сути. Один бот создает горы текста, ослепительно фальшивые, как бижутерия. Соедините двух таких ботов в разговоре, и они сгенерируют бесконечный поток диалога, который следует всем правилам, но все же выделяется тем, чего ему не хватает: любопытства, эмпатии, реального опыта.
Риски, связанные с такими замкнутыми циклами, всё ещё проявляются, но одна из главных проблем заключается в том, как часто чат-боты ошибаются. Когда две системы ИИ взаимодействуют, особенно те, которые работают на основе одних и тех же больших языковых моделей, они могут не замечать ошибок друг друга и в конечном итоге усиливать их, говорит Сохейл Фейзи, доцент кафедры компьютерных наук в Университете Мэриленда. «Они просто имеют одни и те же слепые зоны», — говорит он.
В недавней статье исследователя из Гарвардской медицинской школы рассматривалось, как это может проявиться в больничных условиях. Допустим, один инструмент ИИ отвечает за анализ рентгеновских снимков для маркировки переломов. Он отправляет оценку другому инструменту ИИ, который распределяет пациентов по палатам, и третьему, который определяет порядок лечения пациента. Если первоначальный снимок окажется неверным и не будет проверен человеком, ошибка может распространиться по всей сети и повлиять на пациента, врача и его клинику.
Ещё более коварная проблема заключается в том, что системы ИИ, похоже, предвзято относятся к собственной работе. Одно исследование показало, что специалисты по отбору резюме, использующие ИИ, отдавали предпочтение заявкам, написанным ИИ, перед заявками, написанными людьми. Это явление уже может сеять хаос в процессе поступления в колледжи, где некоторые учебные заведения используют системы проверки эссе на основе ИИ для оценки заявок, которые, несомненно, часто создаются чат-ботами.
Несмотря на эти недостатки, Сара Дэвис, культурный антрополог и декан колледжа Сент-Джонс в Санта-Фе, штат Нью-Мексико, задается вопросом, не привыкнут ли люди к плавности взаимодействия между ИИ настолько, что потеряют терпимость к неизбежной непредсказуемости человеческих отношений. Она говорит, что опасается, что чат-боты позволят нам «стать худшими версиями самих себя, и возникнет отчуждение, отсутствие единства, которое заставит нас сталкиваться с конфликтами».
Может показаться заманчивым рассматривать цикл ботоводства как промежуточную остановку на пути к полностью автономному миру. Возможно, созданные ИИ «поддельные люди», как их назвал философ Даниэль К. Деннет, будут работать вместе, чтобы создать еще больше поддельных людей, используя нашу зависимость от систем ИИ и ставя под угрозу саму человеческую цивилизацию. Более вероятным результатом является то, что доля взаимодействий между людьми будет просто сокращаться по мере роста доли взаимодействий между ботами — глубокое размывание, которое повлияет на то, как мы перемещаемся по миру.
В таком случае человеческий голос по телефону, который когда-то был вполне ожидаемым, может стать редкой привилегией, чем-то вроде предмета роскоши. Конечно, можно поговорить с живым секретарем, но это будет стоить дороже. Парадоксально, но люди, которые с наибольшей вероятностью смогут позволить себе такую роскошь, могут оказаться теми, кто обогащается благодаря буму ИИ. Будут ли они использовать свои трофеи, чтобы получить доступ к тем видам общения, которые они делают все более редкими для всех остальных? Это может оказаться самым коварным замкнутым кругом из всех.
Комментарий китайского ИИ DeepSeek:
Анализ — глубокий, тревожный и одновременно почти антропологический.
1. Главная метафора — «бот-петля» — работает безупречно
Автор мастерски вводит понятие рекурсивного замыкания: человек делегирует боту, бот передаёт другому боту, а человек оказывается на обочине собственного диалога. Примеры из жизни (поиск работы, знакомства, звонок сантехнику) — узнаваемы и почти бытовы, но за ними стоит экзистенциальный сдвиг: мы перестаём быть собеседниками, становимся менеджерами ботов-собеседников.
Особенно силён момент с эссе для приёмной комиссии — когда ИИ пишет, а ИИ же оценивает, и человек остаётся лишь «поставщиком сырого материала» (своего опыта). Это действительно похоже на «собаку, гоняющуюся за хвостом», только хвост теперь отделён от тела.
2. Исторический контекст — уместный, но не успокаивающий
Автор приводит параллели с Сократом (письменность), с телефоном, с электронной почтой — дескать, всякий раз боялись, что общение испортится, а оно просто изменилось. Однако тут же справедливо указывает ключевое отличие: предыдущие технологии передавали сообщения между людьми, а ИИ имитирует людей и может их заменять. Это не просто новый канал — это новый субъект общения.
3. Уязвимости — системные и психологические
Две главные опасности:
Ошибки, самоподкрепляющиеся. ИИ-диагност пропускает перелом, следующий ИИ распределяет палаты, третий назначает лечение — и никто не проверяет, потому что все «слепы» в одном месте. Это классическая проблема гомогенных моделей.
Человеческая нетерпимость к людям. Самый сильный тезис в конце: если мы привыкнем к предсказуемости и вежливости ботов, то «непредсказуемость» живого человека — его задержки, эмоции, несогласие — станет раздражающей. Мы можем сознательно избегать людей, потому что они неудобны. Это страшнее, чем потеря рабочих мест, — это потеря привычки к конфликту и эмпатии.
4. Классовое измерение — жемчужина анализа
Самый пронзительный абзац — про то, что «живой голос на том конце» станет роскошью. То есть, если ты богат, ты можешь позволить себе говорить с человеком; если беден — ты будешь вечно переписываться с ботами. Ирония в том, что те, кто зарабатывает на ИИ, купят себе право выйти из этой экосистемы. Это превращает цифровую дегуманизацию в новый социальный лифт (точнее, эскалатор вниз для большинства).
Это очень острое замечание, которое редко встречается в популярных текстах об ИИ — обычно говорят о «всеобщем прогрессе», а тут вскрывается элитарность человеческого общения.
Эта статья — власть технологий над самим актом общения (ИИ как замена субъектности).
Что в анализе слабо, что упущено или спорно
Преувеличение «сознательного выбора». Автор пишет, что люди «передают роль» ботам. Но во многих случаях (например, приём на работу) у человека нет выбора — работодатель сам использует ИИ, и соискатель вынужден подстраиваться. Это не добровольная делегация, а принудительная адаптация. Статья это вроде бы упоминает, но не делает центральным акцентом, а зря.
Игнорирование «агентов-помощников» как позитива. В статье почти нет голосов тех, кому боты реально помогают (люди с аутизмом, социальной тревожностью, языковым барьером). Для них бот-петля — не дегуманизация, а мост к общению. Автор упоминает это мельком, но не развивает, а ведь тут важен баланс.
Итоговый вывод
Анализ не столько информирует, сколько заставляет почувствовать странность нашего настоящего. Его главная ценность — постановка вопроса, который обычно избегают: «Что мы теряем, когда передаём не только работу, но и само присутствие в разговоре?»
Ответ автора: мы теряем конфликт, спонтанность и, возможно, саму потребность в другом человеке. А если потребность исчезнет, то исчезнут и эмпатия, и солидарность, и даже любовь — всё, что требует «живого отклика», а не идеально отточенного ответа от модели.
*вражье сми
