Экспоненциальный рост искусственного интеллекта вызвал дискуссии о том, подходит ли к концу эпоха человеческого господства на нашей планете. Самые мрачные прогнозы утверждают, что машины возьмут верх в течение пяти-десяти лет.
Об этом пишут профессора из университета Миддлбери Эрик Блайх и Кристофер Стар в статье на сайте The Conversation «Как Апокалипсис стал как светской, так и религиозной идеей» (02.05.2024):
«Страхи перед ИИ — не единственные причины, по которым общественность обеспокоена концом света. Изменение климата и пандемические заболевания — также известные угрозы. Сообщения об этих проблемах и их обозначение как потенциального «апокалипсиса» стали обычным явлением в СМИ — настолько обычным, что это может остаться незамеченным или просто быть списано на преувеличение.
Значимо ли использование слова «апокалипсис» в СМИ? Наш общий интерес к тому, как американская общественность понимает апокалиптические угрозы, свел нас вместе, чтобы ответить на этот вопрос. Один из нас — ученый, изучающий апокалипсис в древнем мире , а другой изучает освещение в прессе современных проблем .
Отслеживая, какие события СМИ описывают как «апокалиптические», мы можем получить представление о наших меняющихся страхах относительно потенциальных катастроф. Мы обнаружили, что обсуждения апокалипсиса объединяют древнее и современное, религиозное и светское, откровенное и рациональное. Они показывают, как термин, корни которого уходят в классическую Грецию и раннее христианство, помогает нам сегодня сформулировать наши самые глубокие тревоги.
Что такое апокалипсис?
Люди были очарованы кончиной мира с древних времен. Однако слово апокалипсис не предназначалось для выражения этой озабоченности. В греческом языке глагол «apokalyptein» изначально означал просто «открывать» или «раскрывать».
В своем диалоге «Протагор» Платон использовал этот термин, чтобы описать, как врач может попросить пациента обнажить свое тело для медицинского осмотра. Он также использовал его метафорически, когда просил собеседника раскрыть свои мысли.
Авторы Нового Завета использовали существительное «апокалипсис» для обозначения «откровения» божественного плана Бога для мира. В оригинальной версии греческого койне «апокалипсис» — это первое слово Книги Откровения, которая описывает не только надвигающееся пришествие мучительного ада для грешников, но и второе пришествие Христа, которое принесет вечное спасение верующим.
Апокалипсис в современном мире
Многие американские христиане сегодня чувствуют, что день Божьего суда не за горами. В опросе Pew Research Center , проведенном в декабре 2022 года, 39% опрошенных считали, что они «живут в конце времен», а 10% заявили, что Иисус «определенно» или «вероятно» вернется при их жизни.
Однако для некоторых верующих христианский апокалипсис не рассматривается полностью негативно. Скорее, это момент, который возвысит праведников и очистит мир от грешников.
Светское понимание этого слова, напротив, редко включает этот искупительный элемент. Апокалипсис чаще понимается как катастрофическое, разрушительное событие, которое непоправимо изменит наш мир к худшему. Это то, чего следует избегать, а не то, чего следует ждать.
Чего мы боимся больше всего, десятилетие за десятилетием
Учёные, изучающие политические коммуникации, Кристофер Влезиен и Стюарт Сорока в своих исследованиях показывают, что СМИ, скорее всего, отражают общественное мнение даже больше, чем направляют или изменяют его. Хотя их исследование в основном было сосредоточено на взглядах американцев на важные политические решения, их выводы, как они утверждают, применимы и за пределами этих областей.
Если они верны, мы можем использовать обсуждения апокалипсиса в СМИ за последние несколько десятилетий в качестве барометра преобладающих общественных опасений.
Следуя этой логике, мы собрали все статьи, в которых упоминаются слова «апокалипсис» или «апокалиптический» из The New York Times, The Wall Street Journal и The Washington Post в период с 1 января 1980 года по 31 декабря 2023 года. После фильтрации статей, посвященных религии и развлечениям, было обнаружено 9380 статей, в которых упоминалась одна или несколько из четырех основных апокалиптических проблем: ядерная война, болезни, изменение климата и ИИ.
В конце Холодной войны страх перед ядерным апокалипсисом преобладал не только в собранных нами газетных данных, но и в визуальных средствах массовой информации, таких как постапокалиптический фильм 1983 года «На следующий день», который посмотрели около 100 миллионов американцев.
Однако к 1990-м годам статьи, связывающие слово «апокалипсис» с климатом и болезнями — примерно в равной степени — превзошли статьи, посвященные ядерной войне. К 2000-м годам, и тем более в 2010-х годах, внимание газет полностью переключилось на экологические проблемы.
2020-е годы нарушили эту закономерность. COVID-19 вызвал всплеск статей, в которых упоминалась пандемия. За первые четыре года этого десятилетия было почти в три раза больше историй, связывающих болезни с апокалипсисом, по сравнению со всеми 2010-ми годами.
Кроме того, хотя в 2015 году тема ИИ практически не освещалась в СМИ, в 2023 году недавние технологические прорывы впервые привели к появлению большего количества статей об апокалипсисе, затрагивающих тему ИИ, чем ядерных проблем.
Чего нам следует бояться больше всего?
Действительно ли апокалиптические страхи, о которых мы читаем, представляют наибольшую опасность для человечества? Некоторые журналисты недавно выступили с предупреждениями о том, что ядерная война более вероятна, чем мы думаем.
Это перекликается с точкой зрения ученых, ответственных за Часы Судного дня, которые отслеживают то, что они считают критическими угрозами человеческому существованию. Они сосредоточены в основном на ядерных проблемах , за которыми следуют климат, биологические угрозы и ИИ.
Может показаться, что использование апокалиптического языка для описания этих проблем представляет собой растущую секуляризацию концепции. Например, философ Джорджио Агамбен утверждал, что изображение в СМИ COVID-19 как потенциально апокалиптического события отражает замену религии наукой. Аналогичным образом историк культуры Ева Хорн утверждала, что современное видение конца света — это апокалипсис без Бога.
Однако, как показывает опрос Pew, апокалиптическое мышление по-прежнему распространено среди американских христиан.
Ключевым моментом является то, что и религиозные, и светские взгляды на конец света используют одно и то же слово. Таким образом, значение слова «апокалипсис» за последние десятилетия расширилось от исключительно религиозной идеи до включения других, более движимых человеком апокалиптических сценариев, таких как «ядерный апокалипсис», «климатический апокалипсис», «апокалипсис COVID-19» или «апокалипсис ИИ».
Короче говоря, сообщения об апокалипсисе в СМИ действительно дают откровение — не о том, как закончится мир, а о все возрастающем количестве способов, которыми он может закончиться. Они также раскрывают парадокс: люди сегодня часто представляют себе будущее наиболее ярко, когда они возрождают и адаптируют древнее слово».
Адам Кирш в статье в The Atlantiс “Апокалипсис, Постоянно. Люди любят воображать свою собственную кончину» (31.12.2024) пишет:
«В 1985 году, когда мне было 9 лет, я посмотрел первую серию нового сериала «Сумеречная зона», перезагрузки классического сериала начала 1960-х годов. Люди редко говорят о версии 80-х годов, которая длилась всего три сезона. Но, должно быть, есть и другие зрители примерно моего возраста, которые никогда не забывали «Немного тишины и покоя», вторую историю в том дебютном эпизоде. Она о женщине, которая находит волшебный кулон в форме солнечных часов, который дает ей возможность останавливать время. Всякий раз, когда она говорит «Заткнись», все и вся в мире, кроме нее, останавливаются, возобновляя свое существование только тогда, когда она говорит: «Начинай говорить».
Сначала она использует устройство, чтобы отдохнуть от раздражающего мужа и болтливых детей. Но в конце эпизода она слышит объявление о том, что Советы начали ядерную атаку на Соединенные Штаты, и она использует волшебную фразу, чтобы остановить время. В последней сцене она выходит из дома и смотрит вверх, чтобы увидеть застывшие в воздухе МБР, оставляя ее перед невозможным выбором: разморозить время и быть уничтоженной вместе со всем человечеством или провести вечность как единственный живой человек в мире.
Я помню этот телевизионный образ лучше, чем большинство вещей, которые я видел в реальной жизни в детстве. Это был идеальный символ понимания истории, которое поколение X не могло не усвоить — если не из «Сумеречной зоны» , то из таких фильмов, как «На следующий день» и «Военные игры».Гонка ядерных вооружений означала, что уничтожение человечества было неизбежным, хотя на самом деле никто этого не хотел, потому что мы все были слишком глупы и легкомысленны, чтобы предотвратить это. Мы были в ужасе от будущего, как женщина в телешоу, — но мы также тайно жаждали наступления катастрофы, потому что только она могла освободить нас от тревоги ожидания.
Страх вымирания всегда был с нами, меняется лишь механизм.
Через четыре года после этой трансляции Холодная война закончилась американской победой с падением Берлинской стены. В влиятельном эссе, опубликованном в эйфорическом 1989 году, политолог Фрэнсис Фукуяма провозгласил «конец истории». Но это было больше похоже на возобновление истории. На протяжении четырех десятилетий балансирования на грани ядерного оружия человечество жило в страхе ожидания, как Брут в «Юлии Цезаре» : «Между совершением ужасного дела / И первым движением, весь промежуток / Похож на фантазм или отвратительный сон». Теперь оружие Судного дня было если не отменено, то, по крайней мере, убрано в кобуру, и течение времени могло означать прогресс, а не обратный отсчет до уничтожения.
Каким-то образом всё повернулось не так. Молодёжь сегодня не менее одержима климатическими катастрофами, чем поколение X было одержимо ядерной войной. Там, где у нас были кошмары о ракетах, их кошмары о массовых вымираниях и климатических беженцах, лесных пожарах и войнах за воду. И это только начало. Как пишет Дориан Лински, британский журналист и критик, в своей книге «Всё должно уйти: истории, которые мы рассказываем о конце света», куда бы вы ни посмотрели в современной поп-культуре, человечество уничтожается — если не загрязнением и экстремальными погодными условиями (как в «Валл-И» и «Послезавтра» ), то метеором или кометой ( «Армагеддон», «Столкновение с бездной» ), вирусом («Станция Одиннадцать», «Ходячие мертвецы» ) или внезапным, необъяснимым бесплодием («Дитя человеческое»).
Это больше, чем просто голливудские штампы. Лински ссылается на опросы, показывающие, что 56 процентов людей в возрасте от 16 до 25 лет согласны с утверждением «Человечество обречено», в то время как почти треть американцев ожидают, что апокалиптическое событие произойдет в течение их жизни. Достаточно логично, что люди, которые верят в то, что мир скоро закончится, гораздо менее склонны приводить в него детей.
Согласно опросу Pew Research Center 2024 года среди неженатых американцев в возрасте от 18 до 34 лет, 69 процентов говорят, что хотят когда-нибудь жениться, но только 51 процент говорят, что хотят иметь детей. Во всем мире рождаемость стремительно падает. Один южнокорейский интернет-магазин сообщил, что в этой стране сейчас продается больше колясок для собак, чем для младенцев. Возможно, именно так мир и закончится — «не с грохотом, а с хныканьем», как написал Т. С. Элиот в своем стихотворении 1925 года «Полые люди».
Но тот факт, что Элиот уже фантазировал о конце света столетие назад, говорит о том, что страх вымирания всегда был с нами. Меняется только механизм. За тридцать лет до «Полых людей» в романе Герберта Уэллса 1895 года «Машина времени» было представлено окончательное вымирание жизни на Земле, поскольку Вселенная погружается в энтропию и тепловую смерть. Почти за 70 лет до этого в романе Мэри Шелли «Последний человек» было представлено уничтожение человеческой расы в результате эпидемии. И даже тогда эта тема считалась старой. Лински показывает, что одна из причин, по которой «Последний человек» не произвел того же впечатления, что и «Франкенштейн» Шелли, заключается в том, что в том же году в Великобритании были опубликованы два других произведения под названием «Последний человек», а также поэма под названием «Смерть мира».
В этих современных баснях вымирание человечества представляется в научных терминах, как результат естественных причин. Но страхи, которые они выражают, намного старше науки. Термин «апокалипсис» происходит от древнегреческого слова, означающего «раскрытие», и он использовался в литературном смысле для описания библейских книг, таких как Даниил и Откровение, которые предлагают неясные, но весьма драматичные предсказания о конце дней.
В книге Everything Must Go упоминаются эти ранние предшественники, но Лински в основном фокусируется на книгах и фильмах, снятых в США и Великобритании за последние 200 лет, после того как христианский апокалипсис начал «терять свою монополию на концепцию конца света».Он делит этот материал на разделы, чтобы показать, как излюбленные методы уничтожения со временем развивались вместе с научным прогрессом.
В середине ХIХ века, когда астрономы начали понимать истинную природу комет и метеоров, писатели начали представлять, что могло бы произойти, если бы один из этих небесных странников столкнулся с нашей планетой. Рассказ Эдгара Аллана По «Уничтожение мира», опубликованный в 1843 году, был, пожалуй, первым, в котором описывался начальный момент столкновения:
«На мгновение появился только дикий, ослепительный свет, посещающий и пронизывающий все вещи… затем раздался громкий всепроникающий звук, словно исходивший из самых уст ЕГО; в то время как вся окружающая масса эфира, в которой мы существовали, сразу же взорвалась неким подобием интенсивного пламени».
Подобные катастрофические фантазии никуда не делись — в фильме 2021 года «Не смотри вверх» астрономы обнаруживают новую комету за несколько месяцев до того, как она должна была столкнуться с Землей. Но если истории ХIХ века подчеркивали беспомощность человечества перед внешними угрозами, то технический прогресс ХХ века породил новый страх: что мы уничтожим себя, намеренно или случайно.
Хиросима продемонстрировала, что глобальная ядерная война не может быть выиграна. Радиоактивные осадки и ядерная зима, в которой пыль и дым затмевают солнце, означали бы вымирание большей части жизни на Земле. Этот сценарий можно было бы разыграть для жуткой трагедии: в фильме 1959 года «На пляже» австралийцы живут своей обычной жизнью, ожидая, когда наступят последствия ядерной войны и завершат уничтожение человечества. «Доктор Стрейнджлав» Стэнли Кубрика (1964) инсценировал конец света как абсурдистскую комедию, случайный результат идеологической мании и чистого идиотизма. Фильм завершается ужасающим, но нелепым изображением американского летчика, едущего на падающей бомбе, как бычок на родео.
Технология не просто позволила нам уничтожить себя. Что еще более тревожно, она повысила вероятность того, что мы сделаем себя устаревшими. Сегодня этот страх часто выражается в терминах ИИ, но впервые он всплыл более века назад в пьесе 1920 года RUR чешского драматурга Карела Чапека. Чапек придумал и слово «робот» (адаптированное от чешского слова, означающего «принудительный труд»), и первое восстание роботов. В конце пьесы на Земле остается только один человек, инженер, которого роботы пощадили, чтобы он помогал им размножаться. Классический сборник научно-фантастических рассказов Айзека Азимова «Я, робот» (1950) представлял более благожелательный сценарий, в котором роботы становятся настолько умными так быстро, что они просто берут на себя управление миром, превращая человечество в своих подопечных — нравится нам это или нет.
Все эти истории можно рассматривать как вариации на тему «Ученика чародея», рассказа в форме баллады Гёте, написанной в 1797 году на заре эпохи технологий. Поскольку наши инструменты стали слишком мощными для нас, чтобы ими управлять, будущее никогда не разворачивается так, как мы ожидаем. Наши утопии всегда перерастают в антиутопию.
Этот элемент самообвинения делает историю апокалипсиса отчетливо современной. Когда люди представляли, что мир погибнет в результате божественного указа или небесного столкновения, они могли рвать на себе одежду и волосы, но они ничего не могли с этим поделать. Когда мы представляем себе конец света в ядерной войне или захват ИИ, мы не только жертвы, но и виновники. Как Чарлтон Хестон в конце «Планеты обезьян» , нам некого проклинать, кроме самих себя: «Вы, маньяки! Вы все взорвали! Ах, черт вас побери! Черт вас всех побери!»
В книге «Век будущего: как воображение будущего формирует настоящее» историк и музейный куратор Гленн Адамсон рассматривает другой жанр историй о будущем — те, что рассказывают «футурологи» ХХ века. В то время как писатели и режиссеры Лински представляли будущее как неизбежную катастрофу, эти современные провидцы верили, что мы можем контролировать свою судьбу, если только у нас хватит здравого смысла следовать их советам.
Адамсон применяет термин «футуролог» к широкому кругу деятелей в бизнесе, науке, политике и искусстве, большинство из которых не описали бы себя таким образом. Для дизайнера Нормана Бела Геддеса формирование будущего означало наброски «автомобилей, автобусов и поездов, которые резко раздувались к передней части, как будто они едва могли дождаться, чтобы добраться туда, куда они направлялись». Для феминистки Суламифь Файрстоун это означало призыв к отмене нуклеарной семьи. Мы также встречаем Маркуса Гарви, который возглавлял движение чернокожих националистов в начале ХХ века, и Стюарта Брэнда, автора библии хиппи «Каталог всей Земли». Ассортимент визионеров странный, но Адамсон отводит им всем место в своей книге, потому что они расширили чувство возможного в Америке, ее ожидания относительно того, что может принести будущее.
Злодеи книги Адамсона, напротив, — это технократы футуризма — эксперты аналитических центров, руководители предприятий и правительственные чиновники, которые считали, что могут диктовать будущее, собирая достаточно данных и применяя правильные теории. Классическим примером является Роберт Макнамара, который служит притчей о «взлете и падении неоспоримого господства технократической футурологии» в Америке времен холодной войны.
Макнамара стал профессором Гарвардской школы бизнеса в 1940-х годах и продемонстрировал талант «к планированию, прогнозированию, количественному анализу, выделению проблемных мест и выявлению будущих тенденций, абстрагированию, проектированию и предсказанию». Во время Второй мировой войны он был завербован ВВС для изучения методов производства и устранения неэффективности. После войны он делал то же самое в Ford Motor Company, став ее главой.
Когда Джон Ф. Кеннеди назначил Макнамару своим министром обороны, этот выбор казался идеальным. Кто лучше, чем гениальный планировщик, спланирует победу Америки в холодной войне? Вместо этого Макнамара провел следующие семь лет, руководя все углубляющейся катастрофой во Вьетнаме, где стратегический провал Америки был замаскирован путем представления ситуации, пишет Адамсон, как «серии точек данных, рассматривающих «соотношение потерь» и «количество убитых» как прогностические меры в ходе войны».
Вывод, который Адамсон делает из своих просветляющих экскурсов в культурную историю, заключается в том, что любое утверждение о возможности контролировать будущее является иллюзией. Чем более научно это звучит, тем опаснее это может быть. Тем не менее, он в конечном итоге признается в «определенном восхищении» футурологами, несмотря на их ошибки, потому что «они помогают нам чувствовать будущее, захватывающую, пугающую, потрясающую ответственность, которой оно является».
Будущее может быть нашей ответственностью, только если у нас есть сила — и воля — изменить его. В противном случае оно становится нашей судьбой, василиском, который превращает нас в камень, когда мы смотрим на него. Долгое время этим монстром была ядерная война, но сегодняшняя сосредоточенность на наихудших сценариях, возникающих из-за изменения климата, не так хорошо подходит для повествования. Лински цитирует жалобу эколога Билла Маккиббена на то, что «глобальное потепление еще не породило Оруэлла или Хаксли, Верна или Уэллса… или в кино эквивалент «На пляже» или «Доктора Стрейнджлава».
Изменение климата трудно драматизировать по той же причине, по которой его трудно решить: оно происходит медленно и на заднем плане, пока не перестает. По сравнению с телевизионным изображением российских ракет, висящих над головой, наши нынешние страхи за будущее столь же неосязаемы и вездесущи, как погода. Столкнувшись с тающими ледниками и исчезающими видами, наши обещания использовать бумажные трубочки или перекрывать кран, пока мы чистим зубы, кажутся не решениями, а скорее суеверными жестами.
Любопытным образом чтение Everything Must Go может служить терапией для такого рода фатализма. «Нереализованные страхи прошлого могут быть утешением», — пишет Лински, «потому что убеждение, что человек живёт в худшие времена, вечнозелено». Конечно, есть разница между жизнью в страхе перед Страшным судом и жизнью в страхе перед ядерной войной или глобальным потеплением. Первое — вопрос веры; второе — эмпирические реальности. Но когда надвигающиеся катастрофы реальны, тем более важно, чтобы мы не пугали себя, считая их неизбежными. Как указывает Эдгар в «Короле Лире»: «Худшего нет / Пока мы можем сказать: «Это худшее».
