На протяжении полувека экономисты поклонялись технологиям как однозначной силе добра. Сопротивление технологиям значило вызвать застой, бедность и тьму. Бесчисленные экономические модели, как и вся современная история, казалось, доказывали простое и неопровержимое уравнение: технологии = процветание для всех.
Так сейчас говорят об искусственном интеллекте.
Но нашелся экономист, который делает все возможное, чтобы бить тревогу, — еретик, утверждающий, что нынешняя траектория развития ИИ скорее навредит нам, чем поможет.
Дарон Аджемоглу, экономист Массачусетского технологического института, настолько плодовит и уважаем, что его уже давно считают ведущим кандидатом на Нобелевскую премию по экономике. Раньше он верил в общепринятую точку зрения, согласно которой технологии всегда являются движущей силой экономического блага. Но теперь, вместе со своим давним соратником Саймоном Джонсоном, Аджемоглу написал 546-страничный трактат, который разрушает Технологическую церковь и демонстрирует, как инновации часто оказываются вредными для общества. В своей книге «Власть и прогресс»Аджемоглу и Джонсон демонстрируют серию крупных изобретений, сделанных за последние 1000 лет, которые, вопреки тому, что нам говорили, не улучшили, а иногда даже ухудшили жизнь большинства людей. Когда крупные технологические прорывы действительно приводили к всеобщему благу (примеры, которые приводят сегодняшние оптимисты в области искусственного интеллекта), это происходило только потому, что правящие элиты были вынуждены широко делиться достижениями от инноваций, а не оставлять себе прибыль и власть, а не только технологии сами по себе, которые в конечном итоге принесли пользу обществу.
«Широкое процветание прошлого не было результатом каких-либо автоматических, гарантированных достижений технологического прогресса», — пишут Аджемоглу и Джонсон. «Мы являемся бенефициарами прогресса, главным образом потому, что наши предшественники заставляли прогресс работать на большее количество людей».
Сегодня, в этот момент пика развития ИИ, по какому пути мы идем? Потрясающий, где мы все получаем пользу от этих новых инструментов? Или ужасный, в котором большинство из нас проигрывает? В ходе трех бесед летом 2023 года Аджемоглу сказал Аки Ито (Insider), что он обеспокоен тем, что «мы сейчас катимся по дороге, которая закончится катастрофой». Повсюду вокруг себя он видит поток предупреждающих знаков — тех, которые в прошлом приводили к тому, что немногие отдавали предпочтение множеству. Власть сосредоточилась в руках горстки технологических гигантов. Технологи, руководители и исследователи сосредоточились на замене людей, а не на расширении их прав и возможностей. Одержимость слежкой за работниками. Рекордно низкий уровень профсоюзов. Ослабленные демократии. Исследования Аджемоглу показывают – и история говорит нам – что основанные на технологиях антиутопии не являются какой-то научной фантастикой. На самом деле они гораздо более распространены, чем кто-либо мог себе представить.
«Есть большая вероятность, что если мы не скорректируем курс, у нас будет действительно двухуровневая система», — говорит Аджемоглу. «Небольшое количество людей будет на вершине — они будут разрабатывать и использовать эти технологии — и очень большое количество людей будет иметь лишь второстепенную или не очень значимую работу». Результатом, как он опасается, станет будущее с более низкой заработной платой для большинства из нас.
Аджемоглу разделяет эти мрачные предупреждения не для того, чтобы призывать рабочих полностью противостоять ИИ и не заставлять нас отсчитывать годы до нашей экономической гибели. Он видит возможность благоприятного исхода для ИИ — «технология, которую мы имеем в наших руках, обладает всеми возможностями, чтобы принести много пользы» — но только если рабочие, политики, исследователи и, возможно, даже несколько благородных технологических магнатов сделают это. это так. Учитывая, как быстро ChatGPT распространился на рабочих местах — в одном опросе 81% крупных компаний заявили, что уже используют ИИ для замены повторяющейся работы — Аджемоглу призывает общество действовать быстро. И его первая задача весьма сложна: депрограммировать всех нас от того, что он называет «слепым технооптимизмом», поддерживаемым «современной олигархией».
«Это, — говорит он, — последняя возможность для нас проснуться».
Аджемоглу, 56 лет, живет со своей женой и двумя сыновьями в тихом, богатом пригороде Бостона. Но он родился в 5000 милях отсюда, в Стамбуле. Когда ему было три года, военные захватили контроль над правительством, а его отец, профессор левого толка, опасавшийся обыска в доме семьи, сжег книги. Экономика рухнула под тяжестью трехзначной инфляции, огромного долга и высокого уровня безработицы. Когда Аджемоглу было 13 лет, военные задержали и судили сотни тысяч людей, многих пытали и казнили. Наблюдая за насилием и бедностью вокруг себя, Аджемоглу начал задаваться вопросом о связи между диктатурами и экономическим ростом — вопрос, который он не смог бы свободно изучать, если бы остался в Турции. В 19 лет он уехал поступать в колледж в Великобритании. В 25-летнем возрасте переехал в Бостон, чтобы преподавать в Массачусетском технологическом институте.
Книга, написанная совместно с Джонсоном и еще одним давним соавтором, Джеймсом Робинсоном, затрагивает вопрос, над которым он размышлял, будучи подростком: развивают ли демократические страны лучшую экономику, чем диктатуры? Это огромный вопрос, на который трудно ответить, потому что, возможно, бедность ведет к диктатуре, а не наоборот.
В своей амбициозной и обширной книге «Почему нации терпят неудачу» Аджемоглу и Робинсон отвергли такие факторы, как культура, погода и география, как вещи, которые сделали одни страны богатыми, а другие бедными. Единственным фактором, который действительно имел значение, была демократия.
Книга неожиданно стала бестселлером, и экономисты расценили ее как сдвиг парадигмы. Но Аджемоглу занимался и другим направлением исследований, которое давно его увлекало: технологическим прогрессом. Как и почти все его коллеги, он начинал как беззастенчивый технооптимист. В 2008 году он опубликовал учебник для аспирантов, в котором поддержал ортодоксальную позицию «технологии всегда хороши». «Я следовал канону экономических моделей, и во всех этих моделях технологические изменения являются основным фактором роста ВВП на душу населения и заработной платы», — говорит Аджемоглу.
Но по мере того, как он думал об этом больше, он начал задаваться вопросом, может ли быть что-то еще в этой истории. Первым поворотным моментом стала статья, над которой он работал вместе с экономистом Дэвидом Атором. Там была поразительная диаграмма, отражающая доходы американских мужчин за пять десятилетий с поправкой на инфляцию. В 1960-х и начале 1970-х годов заработная плата всех людей росла одновременно, независимо от образования. Но затем, примерно в 1980 году, зарплаты людей с учеными степенями начали стремительно расти, в то время как зарплаты выпускников средних школ и бросивших учебу резко упали. Что-то делало жизнь менее образованных американцев явно хуже. Это было что-то технологическое?
Аджемоглу догадывался, что это так. Вместе с Паскуалем Рестрепо, одним из его тогдашних учеников, он начал думать об автоматизации как о чем-то, что одновременно делает две противоположные вещи: она крадет задачи у людей и в то же время создает новые задачи для людей. Он и Рестрепо предположили, что в конечном итоге успех рабочих зависит во многом от баланса этих двух действий. Когда вновь созданные задачи компенсируют украденные задачи, у работников все в порядке: они могут перейти на новую работу, которая часто оплачивается лучше, чем на старой. Но когда украденные задачи опережают новые, уволенным работникам некуда идти. В более поздних эмпирических работах Аджемоглу и Рестрепо показали, что именно это и произошло. В течение четырех десятилетий после Второй мировой войны эти два вида задач уравновешивали друг друга. Но в течение следующих трех десятилетий украденные задачи значительно опережали новые. Короче говоря, автоматизация пошла в обе стороны. Иногда это было хорошо, а иногда было плохо.
Это была плохая сторона, в которой экономисты до сих пор не были убеждены. Поэтому Аджемоглу и Рестрепо, поискав дополнительные эмпирические доказательства, сосредоточились на роботах. То, что они обнаружили, было ошеломляющим: с 1990 года внедрение каждого дополнительного робота сократило занятость примерно на шесть человек, одновременно заметно снизив заработную плату. «Это открыло мне глаза», — сказал мне Аджемоглу. «Люди думали, что такие негативные последствия от роботов невозможны».
Многие экономисты, придерживающиеся технологической ортодоксальности, отвергли влияние роботов на рабочих-людей как «преходящее явление». В конце концов, настаивали они, технология окажется полезной для всех. Но Аджемоглу счел такую точку зрения неудовлетворительной. Можно ли действительно назвать то, что происходило на протяжении трех или четырех десятилетий, «преходящим»? По его подсчетам, роботы лишили работы более полумиллиона американцев. Возможно, в долгосрочной перспективе преимущества технологий в конечном итоге дойдут до большинства людей. Но, как однажды пошутил экономист Джон Мейнард Кейнс, в долгосрочной перспективе мы все умрем.
Роботы, как обнаружил Аджемоглу, уничтожили рабочие места и снизили заработную плату. «Это было откровением», — говорит он. «Люди думали, что такие негативные последствия от роботов невозможны».
Поэтому Аджемоглу приступил к изучению долгосрочной перспективы. Во-первых, он и Джонсон изучили ход западной истории, чтобы увидеть, были ли другие времена, когда технологии не могли выполнить свои обещания. Была ли недавняя эра автоматизации аномалией, как предполагали многие экономисты?
Это не так, выяснили Аджемоглу и Джонсон. Возьмем, к примеру, средневековье, период, который обычно называют технологической пустошью. Но в средние века на самом деле произошел ряд инноваций, в том числе тяжелые колесные плуги, механические часы, прялки, более разумные методы севооборота, широкое распространение тачек и более широкое использование лошадей. Эти достижения сделали сельское хозяйство намного более продуктивным. Но причина, по которой мы помним этот период как «Темные века», заключается именно в том, что доходы никогда не доходили до крестьян, которые выполняли реальную работу. Несмотря на все технологические достижения, они трудились дольше, все больше недоедали и, скорее всего, жили короче. Излишки, созданные благодаря новой технологии, достались почти исключительно элите, находившейся на вершине общества: духовенству,
Или возьмем промышленную революцию, на которую технооптимисты радостно указывают как на пример неизменной пользы инноваций. Первый, длительный период промышленной революции оказался фактически катастрофическим для рабочих. Технология, которая механизировала прядение и ткачество, уничтожила средства к существованию квалифицированных ремесленников, передав рабочие места в текстильной промышленности неквалифицированным женщинам и детям, которые получали более низкую заработную плату и практически не имели переговорной силы. Люди, стекавшиеся в города ради работы на фабриках, жили рядом с выгребными ямами с отходами жизнедеятельности человека, дышали загрязненным углем воздухом и были беззащитны перед такими эпидемиями, как холера и туберкулез, которые уничтожили их семьи. Их также заставляли работать дольше, в то время как реальные доходы оставались на прежнем уровне.
Если средний человек не получил от этого выгоды, куда шло все дополнительное богатство, созданное новыми машинами? И снова его накопили элиты: промышленники. «Обычно технология поглощается и контролируется довольно небольшим количеством людей, которые используют ее в первую очередь для собственной выгоды», — говорит Джонсон. «Это большой урок человеческой истории».
Аджемоглу и Джонсон признали, что технологии не всегда были плохими: временами они обнаруживали, что они были не чем иным, как чудом. В Англии во время второй фазы промышленной революции реальная заработная плата выросла на 123%. Средний рабочий день сократился до девяти часов, детский труд был ограничен, а продолжительность жизни выросла. В Соединенных Штатах во время послевоенного бума с 1949 по 1973 год реальная заработная плата росла почти на 3% в год, создавая динамичный и стабильный средний класс. «Насколько известно, никогда не было другой эпохи такого быстрого и всеобщего процветания», — пишут Аджемоглу и Джонсон, начиная с древних греков и римлян. Именно подобные эпизоды заставили экономистов так горячо поверить в силу технологий.
Так что же отличает хорошие технологические времена от плохих? Это центральный вопрос, который Аджемоглу и Джонсон решают в книге «Власть и прогресс». По их словам, результат новой технологии определяют два фактора. Прежде всего, это природа самой технологии: создает ли она достаточно новых задач для работников, чтобы компенсировать те задачи, которые она отнимает. Они утверждают, что на первом этапе промышленной революции доминировали текстильные машины, которые заменили квалифицированных прядильщиц и ткачей, не создав для них достаточного количества новых рабочих мест, обрекая их на неквалифицированную работу с более низкой заработной платой и худшими условиями. На втором этапе промышленной революции, напротив, паровые локомотивы вытеснили водителей дилижансов, но они также создали множество новых рабочих мест для инженеров, строителей, продавцов билетов, носильщиков, и менеджеры, которые контролировали их всех. Зачастую это были высококвалифицированные и высокооплачиваемые рабочие места. Снизив стоимость транспортировки, паровой двигатель также помог расширить такие отрасли, как металлургическая промышленность и розничная торговля, создав рабочие места и в этих областях.
В обычное время подобные идеи могут показаться чисто академическими — просто очередными дебатами о том, как интерпретировать прошлое. Но есть один момент, в котором согласны и Аджемоглу, и техническая элита, которую он критикует: сегодня мы переживаем еще одну технологическую революцию с ИИ.
«Что особенного в ИИ, так это его скорость», — говорит Аджемоглу. «ИИ намного быстрее, чем предыдущие технологии. ИИ широко распространен. ИИ будут применять практически во всех секторах. ИИ очень гибок. «Это неправильно, если это разрушительное направление, оно может очень быстро распространиться и стать доминирующим».
Аджемоглу признает, что его взгляды далеки от консенсуса в его профессии. Но есть признаки того, что его взгляды начинают оказывать более широкое влияние на разгорающуюся битву за искусственный интеллект. В июне 2023 года Гита Гопинатх, заместитель руководителя Международного валютного фонда, выступила с речью, призывая мир регулировать ИИ таким образом, чтобы это приносило пользу обществу, назвав Аджемоглу по имени. Люди из высшего руководства ведущих лабораторий искусственного интеллекта читают и обсуждают его работу. А Пол Ромер, получивший Нобелевскую премию в 2018 году за работу, которая показала, насколько важны инновации для экономического роста, говорит, что он претерпел изменения в мышлении, которые отражают точку зрения Аджемоглу.
«Экономисты, в том числе и я, выдавали желаемое за действительное, которые хотели верить, что все, естественно, обернется хорошо», — говорит Ромер. «Что мне становится все более и более очевидным, так это то, что это не является чем-то само собой разумеющимся. Ослепляюще очевидно, ex post facto, что существует множество форм технологий, которые могут нанести большой вред, а также множество форм, которые могут принести огромную пользу».
Ромер хвалит Аджемоглу за то, что он бросил вызов общепринятым представлениям.
В начале 2023 года исследовательская инициатива, организованная Microsoft, предоставила Аджемоглу ранний доступ к GPT-4. Поигравшись с ним, он был поражен ответами, которые получил от бота. «Каждый раз, когда я разговаривал с GPT-4, я был настолько впечатлен, что в конце сказал: «Спасибо», — говорит он, смеясь. «Это, конечно, выходит за рамки того, что я мог себе представить год назад. Я думаю, что это демонстрирует большой потенциал в выполнении множества задач».
Но ранние эксперименты с ИИ также познакомили его с его недостатками. Он не думает, что мы приблизились к тому моменту, когда программное обеспечение сможет делать все, что могут люди, — состоянию, которое ученые-компьютерщики называют общим искусственным интеллектом. В результате он и Джонсон не предвидят будущего массовой безработицы. Люди по-прежнему будут работать, но с более низкой заработной платой. «Что нас беспокоит, так это то, что навыки большого числа работников будут гораздо менее ценными», — говорит он. «Поэтому их доходы не будут поддерживаться».
Интерес Аджемоглу к ИИ возник за много лет до бурного развития ChatGPT. Отчасти это заслуга его жены Асу Оздаглар, которая возглавляет факультет электротехники и информатики в Массачусетском технологическом институте. Благодаря ей он получил раннее образование в области машинного обучения, которое позволило компьютерам выполнять более широкий круг задач. Углубляясь в автоматизацию, он начал задаваться вопросом о ее влиянии не только на рабочие места на фабриках, но и на офисных работников. «Роботы важны, но сколько рабочих у нас осталось?», спрашивает он. «Если у вас есть технология, которая автоматизирует интеллектуальную работу, работу служащих, канцелярскую работу, это будет гораздо важнее для следующего этапа автоматизации».
Теоретически вполне возможно, что автоматизация в конечном итоге станет чистым благом для служащих. Но сейчас Аджемоглу обеспокоен тем, что в конечном итоге это обернется плохими последствиями, поскольку в настоящее время общество не создает условий, необходимых для того, чтобы новые технологии приносили пользу всем. Во-первых, благодаря продолжавшейся десятилетиями атаке на профсоюзы, только 10% работающего населения состоят в профсоюзах — рекордно низкий уровень. Без переговорной силы работники не смогут влиять на то, как инструменты ИИ применяются на работе или кто получает долю в создаваемом ими богатстве. А, во-вторых, годы дезинформации ослабили демократические институты — тенденция, которая, вероятно, ухудшится в эпоху глубоких фейков.
Более того, Аджемоглу обеспокоен тем, что ИИ не создает достаточно новых задач, чтобы компенсировать те, которые он отнимает. В недавнем исследовании он обнаружил, что компании, которые за последнее десятилетие наняли больше специалистов по искусственному интеллекту, в целом стали нанимать меньше людей. Это говорит о том, что еще до эпохи ChatGPT работодатели использовали ИИ для замены своих работников-людей программным обеспечением, а не для повышения производительности труда людей – как они это делали с более ранними формами цифровых технологий. Компании, конечно, всегда стремятся сократить расходы и увеличить краткосрочную прибыль. Но Аджемоглу также обвиняет область исследований ИИ в том, что они уделяют особое внимание замене рабочих. Ученые-компьютерщики, отмечает он, судят о своих творениях ИИ, оценивая, могут ли их программы достичь «человеческого паритета» — выполнять определенные задачи так же хорошо, как и людей.
«Для людей в отрасли и в более широкой экосистеме стало второй натурой оценивать эти новые технологии по тому, насколько хорошо они похожи на человека», — сказал он мне. «Это создает очень естественный путь к автоматизации и воспроизведению того, что делают люди — и часто недостаточно для того, чтобы они могли быть наиболее полезными для людей с совсем другими навыками», чем компьютеры.
Аджемоглу утверждает, что создание инструментов, полезных для работников, а не инструментов, которые их заменят, принесет пользу не только работникам, но и их работодателям. Зачем тратить столько энергии на то, что люди уже могут делать достаточно хорошо, если вместо этого ИИ может помочь нам сделать то, чего мы никогда раньше не могли? Эту идею Эрик Бриньолфссон, другой известный экономист, изучающий технологические изменения, продвигает уже десять лет. «Было бы глупо, если бы кто-то решил создать машину с человеческими ступнями и ногами», — говорит Бриньольфссон. «Это была бы довольно медленная машина». Создание искусственного интеллекта с целью подражания людям также не позволяет реализовать истинный потенциал технологии.
«Будущее будет во многом зависеть от работы в сфере знаний», — говорит Аджемоглу. «Генеративный ИИ может стать одним из инструментов, которые сделают работников намного более продуктивными. Здесь есть большая дорога, на которой вы действительно сможете повысить производительность, получать прибыль, а также внести свой вклад в общественное благо — если вы найдете способ используйте эту технологию как инструмент, расширяющий возможности работников».
В марте 2023 года Аджемоглу подписал скандальное открытое письмо, призывающее лаборатории искусственного интеллекта приостановить обучение своих систем в течение как минимум шести месяцев. Он не думал, что компании примут мораторий, и не согласился с акцентом в письме на экзистенциальный риск, который ИИ представляет для человечества. Но он все равно присоединился к списку, насчитывающему более тысячи других подписавших – группу, в которую входили учёный в области искусственного интеллекта Йошуа Бенджио, историк Юваль Ной Харари, бывший кандидат в президенты Эндрю Янги Илон Маск. «Я подумал, что это замечательно — собрать вместе удивительную группу самых разных людей, которые выражали обеспокоенность по поводу направления развития технологий», — говорит Аджемоглу. «Громкие попытки сказать: «Послушайте, возможно, что-то не так с направлением изменений, и нам следует взглянуть и подумать о регулировании» — это важно».
Когда общество готово начать говорить о конкретных способах обеспечения того, чтобы ИИ привел к всеобщему процветанию, Аджемоглу и Джонсон посвящают целую главу в конце своей книги тому, что они считают многообещающими решениями.
Среди них:
меньше облагать налогом заработную плату и больше программного обеспечения, чтобы у компаний не было стимула заменять своих работников технологиями;
содействовать созданию новых организаций, которые защищают потребности работников в эпоху искусственного интеллекта, подобно тому, как Гринпис продвигает климатический активизм;
отменить статьи 230 Закона о порядочности в сфере коммуникаций, чтобы заставить интернет-компании прекратить распространение дезинформации, которая наносит ущерб демократическому процессу;
создать федеральные субсидии на технологии, которые дополняют работников, а не заменяют их.;
разделять крупные технологических компаний для содействия усилению конкуренции и инноваций.
Экономисты – по крайней мере, те, кто не являются убежденными консерваторами – в целом не возражают против предложений Аджемоглу по увеличению переговорной силы рабочих. Но многие с трудом воспринимают идею попытаться направить исследования и внедрение ИИ в направлении, выгодном для работников.
Возможно ли вообще предсказать, какие технологии создадут достаточно новых задач, чтобы компенсировать те, которые они заменяют.
С 1800 года, когда в США впервые началась промышленная революция, ВВП на душу населения — наиболее распространенный показатель уровня жизни — вырос более чем в двадцать раз. Невидимая рука технологий, как продолжает верить большинство экономистов, в конечном итоге принесет пользу всем, если предоставить ее самой себе.
Аджемоглу снова и снова говорит, что мы не бессильны перед лицом антиутопического будущего, которое он предвидит, — что у нас есть возможность управлять развитием ИИ. Да, «для этого потребуется провести подробный список огромных политических мер перед лицом технологического лобби с неограниченными ресурсами через Конгресс и Верховный суд, в то время как общественность подпитывает цифровой пожарный шланг все более наглой лжи».
«Я понимаю, что это очень, очень трудная задача», — говорит Аджемоглу.
«Вывод, который следует сделать, не таков, что технология — враг рабочих. Нам нужно убедиться, что в конечном итоге мы выберем направления технологий, которые в большей степени способствуют росту заработной платы и всеобщему процветанию».
«История может указать на то, насколько разрушительным может быть ИИ. Но это не обязательно должно повторяться».
(использована публикация Аки Ито в Insider 18 сентября 2023 года).
