— Владимир Семенович, задам, возможно, наивный вопрос: действительно ли нам так необходим искусственный интеллект? Чем не угодил интеллект человеческий, естественный? Или это — тяга ученых к изобретательству, желание создать что-то новенькое и получить Нобелевскую премию?
— Искусственный интеллект (ИИ) нам действительно необходим. Так уж случилось, что естественный интеллект, то есть — природный человеческий мозг, банально не справляется сегодня даже с теми элементарными задачами, которые легко решает примитивный калькулятор. Да, человек в состоянии что-то посчитать в уме, зная таблицу умножения. Но как быстро?
Об этом говорит Пол Шарре — вице-президент и директор по исследованиям Центра новой американской безопасности. Он выпустил интересную книгу, которая вышла в США в самом конце февраля — «Четыре поля битвы: власть в эпоху искусственного интеллекта».
— О чем книга?
— Шарре — специалист по стратегическому планированию, трудился в канцелярии министра обороны США. Он участвовал в разработке применения беспилотных и автономных систем и новых оружейных технологий, определял политику Пентагона по разведке. Серьезный специалист.
Шарре исследует, как международная конкуренция за самую мощную технологию — искусственный интеллект, — меняет глобальную динамику власти. По его мнению, исход этой борьбы определит следующую глобальную сверхдержаву.
— Какие он приводит аргументы?
— Весьма убедительные. Он утверждает, что битва за мощь ИИ произведет революцию в мировых вооруженных силах и экономике. Он на днях в Insider дал интервью о проблемах, отраженных в его книге, в которой делается вывод о четырех ключевых полях битвы глобальной конкуренции: в области искусственного интеллекта или данных; вычислительного оборудования или вычислений; человеческого таланта; институтов, необходимых для успешного внедрения систем ИИ.
— Наверное, в первую очередь он подразумевает военную пользу от искусственного интеллекта?
— Да, причем он конкретно говорит о военном конфликте на Украине. Он откровенно признает: «Я думаю, вполне вероятно, что министерство обороны США и разведывательное сообщество используют ИИ для анализа изображений, полученных со спутников или дронов, и, хотя они не признают этого публично, вполне возможно, что это играет роль в информации, которой США делятся с Украиной. Мы видели и другие примеры использования технологий искусственного интеллекта непосредственно украинскими силами на местах, в частности, некоторыми операторами гражданских беспилотников. Мы также видим в войне на Украине важность логистики, например, и операций по техническому обслуживанию, и это то, что основная часть того, что военные делают изо дня в день, это перемещение людей и вещей из пункта А до пункта Б — это очень похоже на Walmart или Amazon. Это место, где военные могут улучшить свою логистику, боеготовность, финансы, персонал и техническое обслуживание».
— Пока звучит не очень убедительно. Прилежный выпускник Академии нашего — да и любого — Генштаба может на подробной карте за час нарисовать вам любую логистику. Да и вы, как генерал, хорошо знакомы с алгоритмом решения этой проблемы. Причем, это решение может быть оригинальным, нестандартным и даже остроумным. Зачем нужны механические мозги?
— В этом и заключается вся проблема — в скорости принятия правильного решения. Да, человек найдет решение, — но когда, как быстро? Сколько времени уйдет на дебаты, согласования с инстанциями, на проверки тех или иных вариантов? Измерить по той же карте расстояние курвиметром? Даже просто посчитать что-то в уме или в столбик? А зачастую все решают мгновения.
Шарре приводит такой аргумент: «Что касается военных достижений в области ведения войны, то также есть несколько примеров. В конкурсе DARPA Alpha Dog целью было создание агента ИИ, который мог бы достичь сверхчеловеческих характеристик в симуляторе против человека в воздушном бою. ИИ преуспел, вышел лицом к лицу с опытным пилотом ВВС и полностью разгромил пилота-человека со счетом 15: 0 — человек не сделал ни одного выстрела против ИИ.
В частности, выстрелы «лицом к лицу» фактически запрещены при обучении пилотов-людей, потому что существует высокий риск столкновения, если пилот пытается маневрировать летательным аппаратом, когда вы мчитесь друг за другом со скоростью сотни миль в час. И в любом случае это чрезвычайно сложно сделать и требует сверхчеловеческого уровня точности, но все это не было проблемой для агента ИИ. Он может делать эти выстрелы за доли секунды, избегая при этом столкновения. И агент ИИ научился делать все это сам — его этому не обучали. Система искусственного интеллекта, которая победила, была обучена на симуляторе и имела более 30 лет имитируемого времени полета. Это была одна из вещей, которые она просто выучила сама за все эти годы имитируемых воздушных боев». В этом вся соль ИИ — универсальный солдат.
— Впечатляет. Но ведь искусственный интеллект нужен не только на войне?
— Об этом Шарре и говорит: «Есть множество мест, где ИИ может со временем оказать довольно значительное влияние на экономическую производительность. Например, — специальные приложения, которые могут улучшить финансы, медицину, транспорт или другие отрасли. Автомобили с автоматическим управлением должны быть на том этапе, когда они действительно эффективны и жизнеспособны на дорогах. Использование ИИ в медицине, для визуализации, — такие вещи могут быть очень полезными для всего общества. Но одна из самых захватывающих вещей в ИИ — это его способность повышать производительность в самых разных местах».
— А что искусственный интеллект может сделать для обычного, отдельно взятого человека?
— Многое. Американские эксперты утверждают, что ИИ — это, собственно, не интеллект — это предсказание. С большими языковыми моделями наблюдается увеличение способности машины предсказывать и выполнять желаемый результат. Так, Пол Шарре считает, что «ИИ обладает огромным потенциалом для того, чтобы приносить пользу в различных секторах, включая образование, здравоохранение и борьбу с изменением климата. Например, FireAId — это компьютерная система на базе искусственного интеллекта, которая использует карты риска лесных пожаров. В здравоохранении ИИ используется для улучшения ухода за пациентами за счет более эффективной профилактики, диагностики и лечения. Повышение эффективности также снижает расходы на здравоохранение. Более того, искусственный интеллект должен радикально изменить — а в идеале — улучшить уход за пожилыми людьми».
И вот, что очень важно, — искусственный интеллект защищает людей от уголовщины, то есть, обеспечивает безопасность обычных людей. Шарре приводит китайский опыт: «В Китае находится половина из 1 миллиарда (!) камер наблюдения в мире, и они все чаще используют инструменты искусственного интеллекта, такие, как распознавание лиц или распознавание походки, чтобы определить, кем являются люди, на основе их моделей походки и того, как они ходят. И в соединении этого с другими типами данных, такими, как данные номерных знаков, звонки или данные геолокации на телефонах и покупательском поведении людей, чтобы отслеживать граждан Китая.
Китай экспортирует большую часть технологий за границу, поэтому 80 стран мира приобрели китайские технологии наблюдения».
— Не угрожают ли эти подобные полицейские сверхспособности искусственного интеллекта элементарным свободам человека? За каждым из нас теперь будет следить Большой Брат?
— Такие опасения есть. Но для этого нужны не только технологические ограничения, но и тщательно проработанные законодательные рамки. Ведь ИИ, каким бы совершенным не был, — пусть и самообучающийся, сам по себе — бездушный и лишенный понятия морали, религии и идеологии механизм. Все эти свойства в него вкладывают разработчики программы. То есть, в электронный мозг ИИ вполне может быть вложена ненависть к России или, скажем, к США или Китаю. И тут, увы, вся ответственность ложится на человека-разработчика.
Согласитесь, не важно, что пистолет-пулемет МП-40 (его ошибочно именуют «шмайссер») когда-то был сделан на заводе гитлеровской Германии. Важно, в чьих руках он находился. Одно дело — в руках эсэсовца, расстреливающего мирных заложников гетто. Другое — в руках советского партизана.
— Мне кажется, что вы весьма пессимистично относитесь к великим умам, создающим искусственный интеллект…
— Писатель Зощенко как-то заметил: «Чтобы не думать о людях плохо, лучше о них вообще не думать».
— И все-таки, может ли искусственный интеллект вдруг однажды взбунтоваться против своего создателя — человека?
Вы намекаете на голливудский блокбастер про терминатора? Вы не поверите, но я лично не исключаю так называемого «восстания машин», каким бы фантастическим это не казалось.
И об этом говорит тот же Пол Шарре: «Microsoft и Google совсем недавно публично развернули чат-боты с искусственным интеллектом, которые не были готовы. И проблема не в том, что Bing заявляет о своей любви к пользователям и говорит, что тот, с кем общается чат, должен оставить свою жену, чтобы быть с ним — я имею в виду, что это довольно странно».
Согласитесь, — действительно, странно. Ваш ноутбук на полном серьезе предлагает вам жить с ним вместо жены. Как тут не сойти с ума?
Но тут я согласен с тем же Шарре, который комментирует этот прогнозируемый ужас: «Для меня это то, что должно заставить нас задуматься, когда мы думаем о том, как мы используем эти системы ИИ в более реальных приложениях. В настоящее время риск того, что чат-бот заденет чьи-то чувства, не ошеломляет мир, но поскольку мы видим, что ИИ интегрирован в приложения с более серьезными последствиями, мы хотим убедиться, что эти системы будут делать то, что мы от них хотим».
То есть, опять же, все зависит от человека-разработчика.
— Перспектива выглядит, мягко говоря, не солнечно. Что предлагают американские эксперты?
— В отличие от вас, американцы не столь трагически настроены. Не надо всерьез воспринимать продукцию Голливуда.
Тот же Шарре бодренько заявил: «Я бы не сказал, что оптимистично отношусь к технологии. Я имею в виду, что я довольно оптимистичен в отношении того, куда движется ИИ с точки зрения возможностей. Я просто думаю, что мы наблюдаем огромный прогресс, и я думаю, что нет никаких признаков его замедления в ближайшем будущем. Но есть много рисков, связанных с ИИ. Я бы просто сказал, что с оптимизмом смотрю на способность общества справиться с этими рисками».
— Подход к проблеме — вдумчивый и серьезный. Вы согласны с Шарре, что искусственный интеллект открывает новую эпоху в жизни человечества?
— Хотим мы этого или не хотим, но это — так. Нам важно сделать, чтобы ИИ стал бы не новым оружием, типа ядерного, которое бы влияло на баланс сил, а инструментом созидания. Средство, чем уничтожить друг друга и, в частности, себя, — у нас уже есть. Давайте подумаем, как всех нас сохранить. Может, искусственный разум и подскажет правильный алгоритм?
