Елена Ларина и Владимир Овчинский: Трамп с искусственным интеллектом

Президент России Владимир Путин 19 декабря 2019 года на ежегодной большой пресс – конференции в очередной раз подчеркнул важность продолжения работы в сфере изучения искусственного интеллекта (ИИ) и его возможностей. Напомним, что в октябре 2019 года президентом РФ была принята Национальная стратегия развития ИИ на период до 2030 года.

По существу в мире началась беспрецедентная борьба за лидерство в развитии ИИ. Ознакомление с последними (2019 года) стратегическими документами США по этому вопросу свидетельствует о том, что Соединенные Штаты рассматривают эту борьбу уже как вариант военных действий. Такая ситуация вокруг ИИ безусловно скажется на всем комплексе международных отношений. Она требует комплексного анализа и разработки мер по защите национальных интересов России.

Президент США Дональд Трамп в феврале 2019 года подписал указ «Американская ИИ – инициатива». Указ Трампа требует наращивать объемы и повышать эффективность ассигнований на ИИ для создания «возможностей, обеспечивающих нашу экономическую и национальную безопасность». Национальный стратегический план в области развития ИИ, подготовленный в 2016 г. и обновлённый в 2019 г. наметил разумный перечень целей.

Правительство США во исполнение указа Трампа выпустило Стратегическое руководство. В нём подчеркивается центральное значение ИИ для национальной безопасности. Члены Конгресса подали более 30 законопроектов, касающихся ИИ, из которых более трети приобрели силы законов. В соответствии с решениями Конгресса создана специальная межпартийная группа по развитию ИИ. Сотни перспективных проектов, связанных с ИИ, реализуется Министерством обороны. Создан новый орган правительства США – Объединённый Центр ИИ в статусе федеральной службы. Проект Maven является объединением усилий американских технологических компаний, стартапов, университетов по эффективному обнаружению, классификации и отслеживанию объектов на видеопотоках. Разведывательное сообщество выделило в качестве приоритетных направлений финансирование IARPA исследования в области ИИ. АНБ и Министерство энергетики приняли решения о предоставлении мощностей их объединенной сети суперкомпьютеров для доступа исследователей и разработчиков ИИ к высокопроизводительным вычислительным ресурсам.

21 декабря 2019 года Трамп подписал Закон об американском оборонном бюджете на 2020 год, где разработке искусственного интеллекта, наряду с гиперзвуковым оружием, технологиями направленной энергии и созданию Космических войск США уделено первостепенное внимание.

Законом США о национальной обороне на 2019 финансовый год в марте того же года в Конгрессе утверждена Комиссия по искусственному интеллекту для национальной безопасности. На неё возложено «рассмотрение методов и средств, необходимых для развития ИИ, машинного обучения и связанных с ними технологий, для всестороннего и успешного решения задач национальной безопасности, обороны и информационного превосходства Соединенных Штатов». Председателем Комиссии стал бывший глава Google, член Бильдербергского клуба, миллиардер Эрик Шмидт (одновременно Шмидт состоит в Американском технологическом совете, утвержденном Трампом в июне 2017 года и с 2016 года возглавляет Совет по инновациям при Министерстве обороны США).

В Комиссию входят технологические предприниматели, руководители университетов, высокопоставленные военные, лидеры разведывательного сообщества, представители основных политических сил Америки. Конгресс дал Комиссии широкий мандат на изучение ИИ через призму национальной конкурентоспособности, выявления технологических преимуществ, определения господствующих тенденций, а также установления реальной картины развития ИИ другими национальными государствами, корпорациями и международными структурами. Комиссия также уполномочена подготовить конкретные предложения по увеличению инвестиций в фундаментальные и передовые исследования, кадры, образование и т.п. Также миссия Комиссии включает прогнозирование будущей эволюции ИИ, тех рисков и возможностей, которые она несет. На данном этапе основное внимание Комиссии сосредоточено на:

— угрозах национальной безопасности со стороны ИИ иностранных, прежде всего, враждебных и конкурирующих с Америкой государств, а также рисков владения ИИ террористическими организациями;

— наиболее полном использовании возможностей ИИ для укрепления обороноспособности США, увеличения осведомленности и качества работы разведки, повышения уровня охраны правопорядка и соблюдения законов;

— взаимосвязи между ИИ, экономической конкурентоспособностью и технологическими достижениями, как важнейшими компонентами национальной безопасности;

— этических соображениях и ограничениях, которые необходимо учитывать при развитии ИИ в интересах национальной безопасности.

В ноябре 2019 года Комиссия подготовила промежуточный доклад, который удовлетворяет специальным просьбам Конгресса об информировании относительно реального состояния дел с ИИ в Соединенных Штатах и месте Соединенных Штатов в глобальной гонке развития ИИ. В докладе предпринята попытка спрогнозировать основные возможности, риски и угрозы развития ИИ в контексте национальной безопасности.

В докладе определены пять основных направлений усилий, необходимых для сохранения преимуществ США. К ним относятся:

— продолжение активных инвестиций в исследования и разработки в сфере ИИ;

— рекрутированные молодых американцев в отрасль ИИ, а также привлечение наиболее талантливых математиков, программистов, нейрофизиологов, когнитологов со всего мира в программы ИИ в Соединенных Штатах;

— недопущение законодательных мер, способных сдерживать инновационный потенциал американских компаний – лидеров в сфере ИИ, и создавать на этой основе преимущества для их китайских конкурентов;

— создание системы глобального мониторинга и инвентаризации наиболее многообещающих эффективных решений, фреймворков в области ИИ с обеспечением патентной и юридической собственности субъектов права США на эти достижения;

— продолжение осуществления на государственном, бизнесовом и университетском уровнях сотрудничества в области ИИ между Соединенными Штатами и странами – друзьями, союзниками.

Главная задача

В докладе делается акцент на том, что мы живём в мире, когда одновременно происходят революция ИИ, возрождение конкуренции между великими державами, а также между державами и корпорациями и международным сообществом — с одной стороны, и террористическими организованностями – с другой. Эти три фактора угрожают роли Соединённых Штатов как мирового лидера инноваций, бросают вызов американскому военному превосходству и ставят под сомнение национальное интеллектуальное лидерство.

Важнейшее обстоятельство, которое Комиссия учитывает в своей работе, — это принципиальное отличие нашего времени от 40-х годов прошлого века. Атомная гонка и Манхэттенский проект осуществлялись в режиме строжайшей секретности и конфиденциальности. Между тем, ИИ развивается в открытом мире, где значительная часть не только программных, но и аппаратных решений базируется на разработках с открытым исходным кодом.

Кроме того, конкуренция между странами и компаниями происходит в электромагнитной среде. В ней нет границ, а соответственно ни одна страна мира не может вырезать себя из глобальной сети без трагического ущерба для собственной безопасности.

В XXI веке реализация ключевых проектов в области национальной безопасности предполагает не полную секретность, а, напротив, полную открытость.

Как известно, Стратегия национальной безопасности США, действующая в настоящее время, предполагает противоборство на пяти полях боя — в воздухе, на земле, на воде, в космическом пространстве и электромагнитной среде и в семи сферах противоборства, включая технологическую.

Конкуренция за первенство в ИИ — это наиболее яркое проявление глобального технологического конфликта, который охватил планету и по своим последствиям, возможно, превосходит традиционные политические, экономические и военные противоборства.

В докладе содержится положение, которое идентично высказываниям президента России Владимира Путина: тот, кто выиграет в технологической гонке, в конечном счете, станет победителем и в других. Проигравшие в технологической гонке в лучшем случае перестанут быть великими державами, а в худшем – утратят национальный суверенитет и даже могут превратиться в несостоявшиеся государства.

Что Комиссия Конгресса понимает под ИИ

ИИ – это способность компьютерной системы решать те или иные проблемы, которые в противном случае потребовали бы участия человека. Технологии ИИ развивались на протяжении многих десятилетий. Например, распознавание образов, машинное обучение, компьютерное зрение, понимание естественного языка и распознавание речи – это технологии, берущие свое начало в 50-х гг. прошлого века.

Нынешний бум ИИ по состоянию на конец 2019 г. связан не с прорывами в области программирования и использования принципиально новых, не существовавших ранее вычислительных методов, а со скачкообразным наращиванием мощностей, быстродействия и экономичности аппаратной части, а также с принципиально новой телекоммуникационной связанностью мира, возможностями получения архивирования и обработки больших данных.

В настоящее время и на ближайшую перспективу реалистичным будет наращивание и повышение эффективности так называемого специализированного или слабого ИИ. В рамках слабого ИИ компьютеры могут достичь превосходства над человеком в части решения вычислительных, алгоритмических, в конечном счете, комбинаторных задач, выполняемых строго по правилам, в рамках которых осуществляется поиск и обработка огромных массивов данных на предмет выявления закономерностей, поиска аномалий и осуществления оптимизации конкретных показателей.

Совершенствование аппаратных устройств, в том числе использующих графические процессоры, позволило на практике все шире использовать машинное обучение, как способ решения поставленных перед компьютером задач. Многие исследователи ИИ, вплоть до начала XXI века вдохновлялись перспективой создания компьютера, способного выполнять все те же задачи, что и люди. Для такого рода компьютеров используется термин «сильный ИИ» или «искусственно-генный интеллект (AGI)».

До настоящего времени не только медиа и университеты, но и многие компании пытаются создать прообразы AGI. Позиция комиссии в том, что вместо расходования ресурсов, времени и способностей на несбыточную, по крайней мере, в среднесрочной перспективе, задачу, гораздо более эффективно сосредоточиться на узких местах слабого или специализированного ИИ.

Уже сегодня слабый ИИ или вычисления на основе больших данных в рамках алгоритмически заданных правил позволяют успешно решать широкий спектр задач в области национальной безопасности, особенно в сфере разведывательного прогнозирования и управления автономными робототехническими системами.

По мнению Комиссии, ИИ не является лишь программно-аппаратным устройством, а представляет собой скорее реализацию обширного технологического пакета. Один из основоположников ИИ Эндрю Мур описывает ИИ как «массовую взаимоувязанную коллекцию технологических блоков, математико-формальных методов, телекоммуникационной связи, в совокупности называемых стеком ИИ».

Комиссия в качестве главного фактора развития ИИ и обеспечения американского лидерства видит таланты математиков, разработчиков, программистов. В конечном счете, главным в ИИ являются люди. Соответственно первостепенная задача для обеспечения американского лидерства – создать для людей, занятых разработкой, обслуживанием, эксплуатацией ИИ наиболее благоприятные материальные и иные условия, комфортную среду для проживания, свободного обмена мнениями, работы в тех условиях, к которым они привыкли и, конечно же, получение вознаграждения и общественного признания. Именно от привлечения талантов и обеспечения им наилучших условий зависит победа США в гонке ИИ.

Материализация ИИ

Исследователи вспоминают, что за последние 70 лет как минимум дважды – в начале 60-х и в конце 90-х гг. – обществу казалось, что сильный ИИ уже рядом и скоро станет полноправным партнёром человека. Провал ожиданий дважды привел к так называемым «зимам» ИИ, когда из отрасли уходили инвестиции, таланты и т.п.

Сегодняшняя ситуация коренным образом отличается от прошлого. Более того, сегодняшний прогресс ИИ – это в основном не плод новых открытий и достижений, а освоение методов, алгоритмов и теорий, разработанных 30-50 лет назад. Сегодня они приносят дивиденды из-за прорывов в вычислительных мощностях, дешевизне телекоммуникаций, облачных вычислений, появлении больших данных и наступлении интернета всего.

Именно развитие ИИ будет определять будущее власти. Именно ИИ призван внести решающую роль в достижении экономических конкурентных преимуществ, укрепление обороноспособности и лучшее, чем когда-либо, регулирование общественным поведением.

Эта мантия все больше и больше зависит не от наличия или отсутствия у страны ресурсов, не от традиционной военной мощи и даже не от накопленных золотовалютных запасов, а от силы инновационной экономики, уровня развития ИИ, освоения новых, никогда ранее не использованных технологий в самых различных областях.

ИИ – это технология двойного назначения, используемая для военных и гражданских целей (можно выделить и третье назначение – криминальное – Е.Л., В. О.). Однако эта простая дихотомия скрывает главное. ИИ, по сути, является программно-аппаратной реализацией функции управления. В быстром сложном мире именно управление определяет не только прогресс, но и что еще более важно, устойчивость обществ, возможность гибко и даже превентивно реагировать на внешние и внутренние вызовы.

Комиссия полагает, что в ближайшем будущем исход борьбы за лидерство в мире будет определяться не столько в традиционных военно-политических конфликтах, сколько в ходе технологического противоборства, и, что является принципиально новым, будет зависеть от устойчивости государств и обществ к новым вызовам, в том числе тем, которые называются «чёрными лебедями».

ИИ и обороноспособность

ИИ коренным образом изменит способы и инструменты защиты Америки. ИИ не только позволит более эффективно бороться с киберугрозами, но и за счет обеспечения большей информационной осведомленности и качества управления резко повысит эффективность всех видов вооруженных сил Соединенных Штатов. Возможность обработки больших объемов данных позволит точнее оценивать риски и адекватнее в режиме реального времени реагировать на угрозы. Уже сегодня системы ИИ за счет эффективных способов выявления аномалий позволяют превентивно отражать террористические и криминальные угрозы, а также выявлять слабые сигналы наступающих опасностей.

ИИ изменит методы работы разведывательных сообществ. ИИ позволит при прогнозировании, поиске аномалий и анализе связей в рамках одной задачи использовать терабайты разнородной информации. Анализ с поддержкой ИИ обеспечит более быструю и точную ситуационную осведомленность и на этой основе повысит качество решений.

ИИ будет воздействовать на разведывательное сообщество США ещё одним, достаточно необычным образом. Собственниками значительных объемов ценной информации является частный бизнес. Поскольку разведка во всё  возрастающей степени будет связана с анализом больших данных и ИИ, следует ожидать не только передачи части государственной разведки бизнесу, но и формирования на постоянной основе частно-государственных разведывательных партнёрств.

На будущих полях боя военные будут использовать машины с поддержкой ИИ, а также программно-аппаратные и телекоммуникационные средства на базе ИИ, обеспечивающие координацию проведения сложных многодоменных операций.

Наконец, ИИ коренным образом изменит понимание того, что мы называем войной. Традиционная война – это насилие и разрушение. Однако, гораздо эффективнее не разрушать, а подчинять. Соответственно, применение ИИ позволит преобразовывать стихийную человеческую деятельность в такой набор операций и действий, который благодаря алгоритмизации становится более выгодным и менее энергозатратным. Такие примеры в нынешнем мире уже есть. Это – Uber, Amazone, Airbnb и т.п. Соответственно, тот, кто сможет предложить более эффективные алгоритмы и одновременно подавить вражеские вычисления, станет лидером. Некоторые считают, что этот аспект внедрения ИИ откроет принципиально новую эру – эру алгоритмических войн.

Алгоритмические войны – это не просто битва искусственных интеллектов или сражение алгоритмов против алгоритмов. Это – не разрушение сайтов и критических инфраструктур как в кибервойнах, а сражение алгоритмов против алгоритмов, управляющих деятельностью и поведением людей на основе их инстинктов, предпочтений и т.п. Вероятно, в ближайшем будущем алгоритмические войны в гораздо большей степени определят сущность конфликтов, нежели традиционные факторы, такие как численность войск, уровень вооружений, диапазон использования оружия. Вычислительные сражения будут определяться превосходством в данных, вычислительных мощностях, общей устойчивостью системы, умением использовать человеческие инстинкты, стереотипы и привычки. Достижение такого будущего потребует разработки принципиально новых оперативных концепций, конструкций и способов ведения конфликтов.

Комиссия также признает, что смертоносные автономные вооруженные системы (LAWS) представляют собой важный аспект использования ИИ. Комиссия стремится понять различные точки зрения на LAWS, а также оценить риски использования этих систем другими государствами и террористическими сетями.

Главные угрозы

ИИ усиливает и ускоряет существующие угрозы, а также создает новые. Они могут возникнуть из двух аспектов: из того, что противник может сделать с ИИ, а также из непредвиденных последствий собственного использования ИИ.

Комиссия выделяет несколько основных направлений угроз.

1) Эрозия военного преимущества США. По мнению Комиссии, стратегические конкуренты, и прежде всего, Китай и Россия стремятся максимально широко использовать ИИ, а также LAWS с ИИ в ходе своих военных операций, в рамках гибридных войн и прокси конфликтов для подрыва военного превосходства США и лишения эффективности традиционной американской стратегии сдерживания.

2) Угроза стратегической стабильности. Глобальная стабильность и ядерное сдерживание могут быть подорваны, если системы с поддержкой ИИ позволят отслеживать и наносить удары по ранее неуязвимым целям. Дестабилизация ядерного равновесия в условиях ИИ может подтолкнуть отдельные государства к принятию более агрессивных стратегий, а главное, практических действий, что чревато быстрой и возможно неуправляемой эскалацией локальных конфликтов.

3) Неконтролируемое распространение ИИ. По мере того, как платформы, приложения и фреймворки ИИ становятся все более доступными, растет вероятность безрассудного и неэтичного использования ИИ государствами-изгоями, агрессивными государствами и негосударственными, в том числе террористическими субъектами. Как показывают консультации Комиссии с технологическими компаниями и университетами, уже сегодня агрессоры и преступники вполне могут создать ИИ, базируясь на выложенных в сеть свободных решениях и программах с открытым исходным кодом. Крайне угрожающим, по мнению Комиссии, является принятие решения технологическими гигантами об открытии платформ и фреймворков ИИ как ответ на их критику со стороны общественности и подозрения в злоупотреблении возможностями управления поведением. В результате этих, по большей мере, необоснованных подозрений, враждебные государства, террористы и преступники-одиночки уже сегодня могут создать не только простые, но и среднего уровня платформы, использующие ИИ. Это уже завтра станет огромной угрозой международной стабильности, целостности финансовой системы и безопасности личной жизни американцев.

4) Дезинформация и угрозы демократической системе. ИИ усиливает и без того серьезные угрозы злонамеренного управления поведением через проведение кампаний дезинформаций, а также риски осуществления киберопераций, включая действия «под чужим флагом», ИИ уже сегодня позволяет создавать deep fakes, неотличимых от подлинных фото и аудиоконтента, видеороликов и т.п. Впервые в истории люди оказываются в информационной среде, в отношении которой они не могут быть убеждены, что это реальность, а не создание манипуляторов. Все это может не только поставить под угрозу подведение итогов выборов, но, что гораздо страшнее, создать атмосферу тотального недоверия, дезинформации и агрессивности американцев, усугубить нарастающее разделение общества по обе стороны Атлантического океана.

5) Эрозия личной жизни и гражданских свобод. Новые инструменты ИИ предоставляют государствам несравнимо большие, чем раньше возможности мониторинга, отслеживания и манипуляции поведением, как собственных граждан, так и граждан других государств. Уже в настоящее время практически на каждого жителя в развитых государствах и значительной части развивающихся имеются цифровые профили, включающие не только профессиональные, идентификационные данные, но и сведения об их поведения онлайн и офлайн, а также чувствительные персональные данные, связанные с убеждениями, религиозной принадлежностью, состоянием здоровья, психики и т.п. Внедрение ИИ в комбинации с системами видеонаблюдения и интернетом вещей превращают весь цифровой мир в средство копирования любых следов личности и создают предпосылки для полной информационной осведомленности собственников платформ и брокеров данных о поведении, как отдельных граждан, так и любых их совокупностей. В этой связи особую тревогу Комиссии вызывает использование Китаем ИИ для создания систем тотального мониторинга поведения, включая видеонаблюдение. У Комиссии имеются задокументированные данные о том, что китайские системы размещены и работают минимум в 74 странах, включая многие либеральные демократии.

6) Всё более опасные кибератаки. ИИ мультиплицирует риски и угрозы кибератак. Уже сегодня есть свидетельства наличия шпионских, боевых киберплатформ, ранее привычно называемых вирусами, управляемых ИИ. ИИ находит слабые сектора в антивирусной обороне и системах информационной безопасности и рассчитывает способ их преодоления. Кроме того, сами по себе суперкомпьютеры и облачные сервера, связанные с ИИ, становятся приоритетной целью для кибератак. По мере того, как весь мир переходит к интернету всего, где все – от автомобилей до критических инфраструктур – управляется ИИ, именно кибервооружение становится одновременно наиболее разрушительным, экономичным и вероятно доступным видом оружия массового поражения. Комиссия считает, что мир со стратегическим кибероружием не обладает встроенными механизмами предупреждения конфликтов, которые существовали в прошлом, когда обе стороны – США и СССР – знали о так называемом гарантированном ответном ядерном ударе.

7) Новые методы, приносящие новые уязвимости. ИИ станет желанным инструментом для злоумышленников и преступников всех видов и направлений. Они будут не столько разрушать системы ИИ, сколько брать их под управление, либо, в крайнем случае, получать доступ к этим системам, чтобы в нужный момент использовать в своих целях.

8) Опасность непредвиденных чрезвычайных ситуаций. Новые технологии создают дополнительные риски для безопасности и надежности. Относительно бедные и технически неразвитые страны вполне могут пользоваться ИИ по модели SААS, т.е. «сервис, как услуга». Это может привести к крупномасштабным катастрофам и инцидентам в развивающихся государствах. Что касается Соединенных Штатов, то здесь возникает другая опасность. Поскольку в интернете все связано со всем, то, несомненно, будут связаны друг с другом и ИИ. Уже сегодня специалисты не вполне понимают ход вычислений, который приводит к тем или иным выводам. Завтра же массовое внедрение ИИ может создать сверхсложную среду, где люди будут неспособны принимать оптимальные решения и раз за разом ошибаться.

Период неопределенности

Возрастающую технологическую неопределенность порождает комбинация возможностей, рисков и угроз в изменчивой, турбулентной политической, экономической и технологической среде. В обществе существует высокая степень обеспокоенности по поводу последствий использования ИИ, особенно в значительной степени в засекреченной сфере национальной безопасности. В процессе работы Комиссия не раз встречалась с мнениями руководителей бизнеса и правительственных организаций, ведущих исследователей относительно рисков негативного воздействия ИИ на общество, экономику и правопорядок. Комиссия указывает следующие риски.

А. Многие эксперты в области обороны призывают Соединенные Штаты как можно быстрее поставить на вооружение LAWS с управлением ИИ. По их мнению, это позволит Соединенным Штатам оставаться конкурентоспособными в конфликтах с государствами, уже эксплуатирующими LAWS с поддержкой ИИ, а также спасти жизни американцев и сократить жертвы среди гражданского населения. В то же время представители гражданского общества и многие разработчики призывают Соединенные Штаты отказаться от LAWS с поддержкой ИИ, полагая, что в противном случае Америка развяжет гонку киберфизических вооружений, управляемых ИИ, которая может привести к катастрофическим последствиям. Некоторые технические работники, обеспокоенные, что их усилия в части развития ИИ, могут быть использованы в военных целях, призвали своих работодателей ограничить сотрудничество с Министерством обороны, а желательно прекратить его вообще. В то же время военные, а также руководители технологических компаний указывают, что важнейшим преимуществом Китая перед Соединёнными Штатами является участие абсолютно всех команд и коллективов разработчиков ИИ в реализации общенациональной программы военного использования ИИ. По их мнению, отказ тех или иных американских специалистов и групп от сотрудничества с Министерством обороны в области ИИ является прямым пособничеством противнику.

Б. Технологические фирмы создают комитеты по этике для разработки руководящих принципов работы в области ИИ и интернета вещей, а также предлагают на законодательном уровне запретить правительству США иметь дело со странами, которые используют ИИ для угнетения своих граждан. Значительная часть американских военных, руководителей технологических компаний выступают за более активное, вплоть до принятия законодательных актов, противодействие Соединенных Штатов китайскому цифровому авторитаризму, который давно уже вышел за пределы Китая и становится, по их мнению, угрозой для всего человечества.

В. Компании и университеты подчеркивают, что изоляционизм и замыкание исключительно на внутренних проблемах США создает стратегическую угрозу, прежде всего, для самих Соединённых Штатов. Технологический бизнес однозначно высказывается за широкое международное сотрудничество, за более активное привлечение талантов и высококвалифицированных специалистов в Соединенные Штаты. Сотрудники национальной безопасности и правоохранительных органов подчеркивают, что новый американский изоляционизм успешно используется Китаем, максимально широко привлекающим компьютерные таланты со всего мира и стремительно развивающим международное сотрудничество в области ИИ.

Альтернативное видение будущего

Прогноз Комиссии носит не столько аналитический, сколько нормативный характер. Комиссия описывает будущее таким, каким бы хотелось его видеть, и которое, наверняка, таким не будет.

Комиссия представляет себе мир, в котором ИИ используется для продления и обогащения жизни, для развития способностей и расширения возможностей для максимального числа американцев. Комиссия надеется, что благодаря целенаправленной работе удастся блокировать наибольшие опасности и снизить риски негативного воздействия ИИ на Америку. Комиссия полагает, что одна из главных миссий ИИ – это освободить людей от тяжелых, однообразных, негативно влияющих на здоровье человека, работ. Мы верим, что в будущем мире удастся защитить конфиденциальность данных и оградить их от злоупотреблений. В отличие от сегодняшних опасений, технологии ИИ помогут сделать мир более прозрачным и предсказуемым. Это будет мир, где системы ИИ используются в соответствии с основными ценностями, которыми дорожат американцы. Он будет защищать, а не ослаблять права американцев, закрепленные в конституционных документах.

В то же время не меньше шансов на реализацию имеет и чёрная сторона будущего. Вполне вероятно, что цифровой авторитаризм перестанет быть прерогативой Китая и союзных ему стран, и станет ответом на усиливающиеся экономические, политические, социальные кризисные явления во всем мире. Цифровой авторитаризм вполне может отбросить человечество даже не в средневековье, а гораздо дальше, во времена рабовладельчества и даже кастового строя. Главная опасность ИИ состоит в том, что он мультиплицирует риски тоталитаризма и диктатуры, которые существовали и существуют на протяжении всей человеческой истории. Особое опасение вызывает тот факт, что наряду с системным цифровым авторитаризмом в Китае, отдельные элементы этого антигуманного строя начинают проявляться и в либеральных демократиях по всему миру.

ИИ способен дестабилизировать глобальный мир, покоящийся на взаимном страхе перед применением ядерного оружия. В отличие от ядерного оружия кибервооружения, управляемые ИИ, позволяют уничтожать объекты критической инфраструктуры, экономический потенциал, городские инфраструктуры и население в строго дозированных, заранее установленных масштабах. Соответственно, снимается главное преимущество ядерного оружия как гаранта мира – обязательность взаимного уничтожения. Комбинация развитого ИИ и кибервооружений позволяет агрессорам надеяться на первый победный обезоруживающий удар, после которого противник не только не сможет восстановить политическое и экономическое управление, но и не будет способен нанести ответный киберудар.

Согласование основных принципов

Комиссия надеется начать в США широкую национальную дискуссию в части использования ИИ для национальной безопасности. В рамках дискуссии ставится задача сформировать общенациональный консенсус вокруг базовых принципов взаимодействия между ИИ и национальной безопасностью.

I. Глобальное и безусловное лидерство в технологиях ИИ является приоритетом номер один национальной безопасности. Учитывая центральную роль ИИ в будущей экономике, общественной жизни и национальной безопасности, правительство США должно разработать и неуклонно проводить в жизнь на двухпартийной основе инвестиционную стратегию, направленную на увеличения технологического преимущества Америки перед остальным миром в области ИИ.

Глобальное лидерство предоставляет оборонным учреждениям и органам правопорядка США доступ к лучшим технологиям и ставит Соединенные Штаты в наилучшее положение в этой области. Глобальное лидерство создает возможность для активной политики Соединенных Штатов по развертыванию системы международных норм, стандартов и договоров, касающихся ИИ. В то время, как американские компании будут продолжать играть ключевую роль в исследованиях, разработках и эксплуатации ИИ, правительство должно нести основную ответственность за финансирование фундаментальных и рискованных исследований в области ИИ.

II. Принятие ИИ как центральной платформы обороны и безопасности является безотлагательным национальным императивом. Главными направлениями первоочередного применения ИИ в сфере национальной безопасности является национальное разведывательное сообщество, использование ИИ для повышения оборонной и наступательной мощи кибервооружений, сил специального назначения, а также высокотехнологичных войск и подразделений.

На базе их Комиссия ставит задачу осуществить глубокую модернизацию инфраструктуры обеспечения полной информационной осведомленности и интеллектуального превосходства американских вооруженных сил на поле боя. Военнослужащие должны иметь доступ к самым передовым технологиям ИИ для защиты американского народа, американского образа жизни и наших союзников.

III. Руководители частного сектора, должностные лица, отвечающие за обеспечение благосостояния и безопасность американского народа, должны более активно, чем в последние годы наращивать и повышать эффективность инвестиций в фундаментальные и прикладные исследования по теме ИИ.

Особую роль в значительном увеличении этих инвестиций принадлежит федеральному правительству, включая вооруженные силы и национальное разведывательное сообщество. Они должны брать на себя наиболее спорные рискованные инвестиции, и в случае успеха передавать их в частный сектор при условии максимального вклада частного сектора в укрепление американского лидерства в сфере использования ИИ для национальной обороны. Промышленность должна помогать правительству обеспечить американское лидерство, а правительство – не только предоставлять инвестиции, но и формулировать политику ответственного использования ИИ в целях национальной безопасности.

IV. Таланты остаются главным и важнейшим фактором обеспечения лидерства в области ИИ. Комиссия ставит задачу в ближайшие несколько лет осуществить глубокую реформу американской средней школы как основу образовательной системы на базе STEM. Необходимо прямо сказать нации, что в ближайшем будущем высококвалифицированная миграция имеет важнейшее значение для обеспечения кадрами высоких технологий вообще и ИИ, в частности.

Одно из важнейших преимуществ Америки – это высшее образование и технологический бизнес. Они являются магнитами, притягивающими лучшие таланты в области ИИ со всего мира. Высочайший уровень образования, неограниченное финансирование стартапов, свобода и безопасность, которые может предоставить Америка, позволяет стране приобретать лучшие кадры, и прежде всего из Китая и России. Дословно в докладе ставится задача «поощрять этот процесс и иметь в виду, что любой специалист – программист, разработчик в области ИИ — приехавший в Америку из Китая, России и других стран цифрового авторитаризма – это не только большой плюс в копилку американского лидерства, но и минус для потенциала стран, откуда они уехали. Необходимо на двухпартийной основе как можно скорее принять дополнительные законодательные решения, облегчающие миграцию в США подобным кадрам и облегчающие их обустройство в Америке».

V. Открытая инновационная среда ИИ основывается на принципах свободного исследования, свободного предпринимательства и свободного обмена идеями. В докладе ставится задача и далее использовать ограничения экспорта технологий в «злонамеренные агрессивные страны». При этом, такого рода запреты должны быть связаны не только с фактом прямой агрессии, но и с принятием теми или иными странами курса на цифровой авторитаризм, подавление прав и свобод собственных граждан. Комиссия считает, чтотрадиционный экспортный контроль уже недостаточен для поддержания конкурентоспособности США в области ИИ. Вместо традиционного контроля, основанного на формировании списков запрещенных компонентов, правительству стоит рассмотреть вопрос о распространении на экспорт программной, аппаратной, инфраструктурной и производственной компонент ИИ тех же принципов, которые действуют в сфере контроля над экспортом вооружений. Контроль над экспортом вооружений сосредотачивается не на составлении списков товаров, запрещенных к экспорту, а на перечне стран, куда экспорт вооружений запрещен либо непосредственно, либо через государства и компании-посредники.

VI. Американский ИИ должен отражать американские ценности, в том числе безусловное верховенство закона, свободы и равноправие граждан. Для федеральных правоохранительных органов, проводящих расследования с использованием ИИ, это означает, что они должны четко соответствовать конституциональным принципам, надлежащим правовым процедурам, во всех случаях учитывать неприкосновенность личной жизни и отсутствие дискриминации. Для американской дипломатии это означает, что она должна всеми возможными способами противодействовать применению ИИ для установления и укрепления цифрового авторитаризма, подавления свободы личности или нарушения прав граждан. Использование ИИ для цифрового авторитаризма не может быть внутренним делом какой-либо страны. Американские идеалы свободы, демократии и равенства требуют бороться не только за американские ценности в Америке, но и поддерживать борьбу народов против цифровых авторитарных режимов.

Паника в окружении Трампа из — за развития ИИ в Китае

За лозунгами об «отстаивании американских идеалов свободы» фактически прячется паника в окружении Трампа из — за взлета исследований ИИ в Китае. Комиссия в своем докладе прямо пишет, что угрожающим выглядит 30-кратное увеличение Китаем финансирования НИОКР в области ИИ за период с 1991 по 2015 гг. Есть все основания полагать, что Китай к 2030 г. обойдёт Соединенные Штаты по размерам расходов на НИОКР, производство и обслуживание ИИ. Также сокращается лидерство в Америке по такому ключевому показателю, как научные публикации. Специалисты в области анализа научно-технических разработок в 2019 г. пришли к выводу, что Китай уже в 2020 г. превзойдет Соединенные Штаты по количеству авторов наиболее цитируемых публикаций в области ИИ в рамках 10% наиболее цитированных документов, а к 2025 г. авторов в рамках 1% наиболее цитируемых исследований.

Китай начинает резко сокращать отставание от Соединенных Штатов в области коммерческой эксплуатации ИИ. Китайские технологические фирмы готовы стать лидерами в области прикладного использования ИИ, особенно в отраслях электронной коммерции, образования и здравоохранения. Развитие таких китайских фирм, как Baidu, Alibaba, Tencent, iFlytek, и Sensetime, не только создает угрозу коммерческим позициям американских технологических гигантов, но и проблемы для национальной безопасности США. Эти и другие компании гораздо большую долю средств по сравнению с американскими гигантами расходуют на поддержку лабораторий, работающих в сферах глубокого обучения, нейроподобных компьютеров, прямого интерфейса «мозг-компьютер», а также в сфере дополненной реальности.

Китай фактически создал единый военно-гражданский комплекс ИИ.Концепция «военно-гражданского слияния» провозглашена КПК как главной принцип развития науки, технологий и производства. Китай отказался от какого-либо разграничения между гражданскими и военными разработками и исходит из принципа, что любая технология ИИ имеет военное и гражданское применение.

Китай старается максимально использовать американский опыт особого порядка финансирования прорывных исследований на основе DARPA и IARPA.В частности, именно таким образом китайцы развивают так называемый роевой ИИ, нейроподобные компьютеры, вероятностные компьютеры и стаи автономных роботизированных систем вооружения с центральным ИИ.

Китай пытается конкурировать на мировом рынке талантов с Соединёнными Штатами. Китай прилагает активные усилия по привлечению глобальных талантов ИИ. При этом, особый упор он делает на перехват талантов из России, Украины. Пакистана, некоторых латиноамериканских стран.

Комиссия делает вывод, что без изменения отмеченных выше тенденций Соединённые Штаты могут допустить ликвидацию отставания Китая в области исследования, разработок и применения ИИ. Это может иметь не только печальные экономические и политические последствия, но и поставить под угрозу национальную безопасность США и глобальную стабильность (риторика военного времени – Е.Л., В.О.).

Как американцы собираются ответить на китайский вызов

В докладе Комиссии подчеркнуто, что противоборство с Китаем в сфере ИИ представляет собой для Соединенных Штатов самую сложную, чреватую рисками, угрозу со времен соперничества с СССР периода Холодной войны.

Учитывая нынешнюю торговую напряженность между США и Китаем, а также обостряющуюся военно-политическую глобальную конкуренцию, многие задаются вопросом, не должны ли Соединенные Штаты оперативно осуществить комплекс мер, направленных против китайской экспансии.

Китай уже долгие годы выигрывает от открытого характера академической и коммерческой экосистем США и беззастенчиво крадет интеллектуальную собственность в области ИИ на миллиарды долларов. Американские университеты за последние 15 лет подготовили многих ведущих китайских исследователей ИИ. Многие американские университеты и технологические компании зависят от китайских инвестиций и от взаимодействия с китайскими федеральными органами власти. Начиная с 2005 г. десятки китайских компаний, в том числе все крупнейшие, создали исследовательские лаборатории и бизнес-филиалы в Соединенных Штатах. Американские венчурные капиталисты финансируют ИИ-стартапы в Китае, в то время, как китайские суверенные фонды инвестируют и скупают лучшие американские стартапы в области ИИ.

Комиссия располагает многочисленными сведениями о конкретных примерах краж интеллектуальной собственности и проведения шпионских программ китайцами против американского научно-технологического сектора. Директор ФБР Кристофер Рей недавно заявил, что Бюро имеет «данные о китайское шпионской активности, расследованием которых занимаются все 56 полевых региональных отделений Бюро. Эти расследования охватывают почти все отрасли или сектора», в первую очередь, ИИ, биотехнологии и интерфейсы «мозг-компьютер». По данным Министерства юстиции «с 2011 по 2018 гг. более 90% дел, открытых по фактам шпионажа на территории США связаны с Китаем. Также на Китай приходится 2/3 случаев нарушения коммерческой тайны».

Комиссия полагает, что Соединенные Штаты столкнулись со сложной проблемой. С одной стороны, китайским шпионским операциям, а также воровству интеллектуальной собственности надо дать жесткий отпор. В то же время, в ходе предварительных слушаний представители американской промышленности, научных кругов предупреждали, что глубокие человеческие контакты, взаимодействия в части программно-аппаратных средств, цепочек поставок и т.п. не могут быть разорваны без значительных экономических издержек и непредвиденных последствий для экономики США. С этой точки зрения американские университеты, лаборатории и компании могут потерять доступ к важным рынкам и любопытным исследованиям. В долговременной перспективе Соединенные Штаты при разрыве взаимодействия с Китаем могут быть лишены понимания китайских достижений в области ИИ. Кроме того, по мнению бизнеса, уход американских компаний из Китая и разрыв сотрудничества позволит эту нишу заполнить компаниями других стран.

Соответственно решение не может быть однозначным, а выбор не сводится к дилемме: тесное сотрудничество или полный разрыв. Комиссия будет стремиться определить перечень конкретных действий, которые наметят разумный путь вперед при сохранении элементов сотрудничества в условиях лучшей защиты американских интересов.

От Е.Л. и В.О. — для размышления: известный американский экономист Нуриэль Рубини в своей статье «Трамп снова сделает Китай великим» (Project Syndicate, от 23.12.2019) пишет: «США опасаются, что председатель КНР Си Цзинпин, отказавшись от совета своего предшественника Дэн Сяопина «скрывать свою силу и ждать своего времени», перешел к стратегии агрессивного экспансионизма». В то же время Рубини полагает, что «китайцы, вероятно, предпочитают, чтобы Трамп был переизбран в 2020 году. Он может быть помехой в краткосрочной перспективе, но, получив достаточно времени в должности, он разрушит стратегические союзы, которые формируют основу американской мягкой и жесткой силы. Как настоящий «Маньчжурский кандидат», Трамп снова сделает Китай великим».

Американские преимущества

Соединенные Штаты по состоянию на начало 2020 г. сохраняют целый ряд преимуществ. Американские университеты остаются ведущими центрами исследований и разработок в области ИИ. В Соединённых Штатах на государственный и частный сектора продолжают работать около 80% докторов наук по дисциплинам, связанным с ИИ, включая и китайских специалистов. На Соединенные Штаты приходится ¾ из 100 лучших ИИ стартапов в мире 2019 г. В Соединенных Штатах функционирует в два раза больше стартапов в области ИИ, чем в Китае. Если эту оценку расширить и объединить активы в области ИИ, США, Великобритании, Израиля, Канады, Австралии, Японии и активных европейских стран НАТО, то превосходство американского блока над Китаем и его партнерами выразится соотношением порядка 1 к 7.

Правительственные органы США начинают осознавать критическую важность ИИ для национальной безопасности. Однако большинство правительственных должностных лиц, кого опрашивала Комиссия, полагают, что их работа разворачивается еще достаточно медленно, а эффективным решениям препятствуют бюрократические процедуры, порожденные правительственными стандартами документооборота и отчетности. Комиссия считает, что правительство США пока находится на стадии принятия решений и выпуска документов и не приступило к практической работе по ускоренному развитию ИИ.

В определенной степени недостаточная эффективность работы правительства США в области ИИ связана с тем, что ИИ не соответствует традиционной парадигме технологического развития, движимой федеральными долларами с последующей доработкой за счет ассигнований бизнеса. С ИИ происходит обратное. Министерство обороны в основном адаптирует для национальной безопасности уже имеющиеся решения и технологии, разработанные технологическими гигантами и стартапами.

В результате, сложилось противоречие между двумя блоками технологий ИИ. С одной стороны Министерство обороны и разведывательное сообщество адаптируют для целей национальной безопасности коммерческие решения, базирующиеся на теоретическом заделе 70-90-х гг. прошлого века. С другой стороны, университеты, исследовательские лаборатории и стартапы наработали альтернативные и прорывные технологии ИИ. Однако им не хватает финансирования. В настоящее время решающее значение имеет федеральная поддержка не прикладных разработок, как это имеет место в традиционном типе взаимоотношениями между правительством и частным сектором, а инвестирование в высоко рисковые, находящиеся на ранней стадии разработки в области ИИ, которыми занимаются университеты стартапы и крупные технологические фирмы.

После окончания Холодной войны реальный инновационный потенциал государственных ассигнований из года в год снижается. В настоящее время он сосредоточен на доведении до технологической стадии уже опробованных исследований и разработок. В результате инвестирование происходят в режиме догоняющего финансирования, когда правительство пытается интегрировать ИИ в существующие инфраструктуру и технологии, которым иногда уже несколько десятилетий.

Инвестирование в исследования и разработки ИИ

Основа глобальной конкурентоспособности Америки в области ИИ связана с достижением технологических прорывов в федеральных, научных и коммерческих разработках. Технологические НИОКР в Соединённых Штатах уже давно движимы «трёхсторонним альянсом» между государственными учреждениями, университетами и частными компаниями. (В том числе, не только технологическими гигантами, но и старапами). Созданный в период Холодной войны, этот альянс привел страну к глобальному технологическому лидерству и экономическому процветанию, позволил создать и воплотить в жизнь технологические пакеты интернета, стелс и глобальной системы позиционирования (GPS).

Эти разработки были как минимум на поколение впереди того, чем располагали конкуренты США. Многие из нововведений, прежде всего, связанные с интернетом и производством микропроцессоров, в конечном счете, обеспечили абсолютное лидерство американского технологического сектора, беспрецедентный рост его капитализации в начале XXI века. Завершение Холодной войны и война с терроризмом заметно изменили соотношение сил в треугольнике. Государство в основном ушло из сферы прорывных и непарадигмальных (экстраординарных, лежащих вне традиционных научных парадигм) технологических инноваций. Федеральное финансирование НИОКР сокращается из года в год на протяжении десятилетий. В то же время коммерческий сектор, взяв на себя львиную часть ассигнований на исследования и разработки, основное внимание уделяет не фундаментальным исследованиям, подрывным инновациям ( меняющим нашу жизнь до неузнаваемости) и непарадигмальным разработкам, а доведению до технологического уровня исследований и разработок, созданных в предыдущие годы, а иногда и десятилетия.

Хотя правительство сохраняет ключевую роль в поддержке фундаментальных научных исследований, а также исследований, прямо относящихся к национальной безопасности, государственные инвестиции в условиях бюджетного дефицита направляются во все менее рискованные, а соответственно все более приближенные к эксплуатационной фазе решения и разработки.

За последние годы урезание ассигнований на НИОКР, в том числе в сфере ИИ, и акцент на удовлетворение текущих потребностей в ущерб перспективе создали ощутимую угрозу для будущего подрывных инноваций в области ИИ. В итоге, лидерство Америки может оказаться под угрозой гораздо раньше, чем это представляется политикам, государственным служащим и военным в настоящее время.

Потеря национального лидерства в области разработки ИИ будет означать, что американские военные и разведывательные органы должны будут приобретать аппаратные решения за пределами США и возможно даже в Китае. Это будет означать подлинную трагедию, которую необходимо предотвратить любой ценой.

В докладе Комиссии содержится абсолютно циничный, но объективный вывод о том, что «перед США есть наглядный пример России, Франции, которые когда то были лидерами в IT технологиях, располагали возможностями производства полного национального стека компьютерных решений, а в настоящее время целиком зависят от США, Китая и иных стран».

ИИ в противовес мнению государственных служащих – это не столько программная часть, сколько аппаратные устройства и телекоммуникационные системы. Только способность страны полностью произвести все три компонента гарантирует ее суверенитет в эпоху ИИ.

Соглашение о внутреннем консенсусе

Комиссия делает вывод, что по состоянию на сегодняшний день федеральное финансирование ИИ в США является недостаточным и не позволяет не только упрочить американское лидерство, но и сохранить его в перспективе до 2025 г.

За последние пять лет федеральное финансирование научных исследований в области компьютерных наук, в рамках которого инвестируется ИИ, увеличилось в Америке всего на 12,8%, при том, что в Китае ассигнования на ИИ увеличились более чем в два раза.

Правительство США имеет опыт, как вложить ресурсы в дерзкие технологические проекты и обеспечить их исторические успехи. Лучшие примеры этого – программа «Аполлон» и проект «Геном человека». За последние 10 лет китайское правительство тщательно изучило успешные амбициозные советские программы и опыт государственных мегапроектов США, и разработало на этой основе собственные подкрепленные ресурсами технологические мегапроекты, в том числе по ИИ. На фоне Китая продолжение политики финансирования фундаментальных исследований в области ИИ по остаточному принципу правительством США приведет к подлинному краху. Уже в настоящее время Соединенные Штаты по показателю общих расходов на НИОКР в процентах от ВВП занимают лишь десятое место в мире, тогда как в 1985 г. – первое.

Увеличение федеральных инвестиций в НИОКР может стимулировать развитие:

— базирующиеся на иных, нежели нейронные сети, ИИ, вдохновленных нейронаукой;

— создание отказоустойчивых ИИ, опережающим образом реагирующих на попытку взлома, перехвата управления или разрушения;

— развитие облачной инфраструктуры, помеченных обучающих данных и других инноваций для исследователей ИИ;

— создание оборудования нового поколения, использующего, в том числе нейроморфные чипы, квантовые вычисления, процессоры для вероятностных компьютеров, графовые семантические вычисления на основании сверхмощных видеокарт и т.п.;

— разработка и опробование новых решений для управляемых ИИ коллективов самообучающихся автономных роботизированных устройств различного назначения.

Ограниченная доступность федерального финансирования способствует перетоку мозгов из академических кругов в бизнес. Эта тенденция подрывает наши способности заниматься подрывными инновациями и обучать следующее поколение. Правительство должно преодолеть эту тенденцию в ближайшее время.

В координации работ по ИИ должна резко возрасти роль Национального Научного Фонда (NSF). В настоящее время Фонд управляет 85% всех федеральных ассигнований на научные исследования в области ИИ со стороны правительства. Комиссия считает необходимым в течение ближайших двух лет как минимум удвоить текущий бюджет NSF на развитие ИИ и близкие научные направления, которые на 2020 финансовый год составляют чуть менее 1 млрд. долларов.

Комиссия рассматривает ряд моделей, которые могли бы активизировать финансирование НИОКР в области ИИ. Например, предлагается учредить в рамках NSF Национальный институт ИИ, по своему функционалу и инвестиционным возможностям напоминающим Национальных институт рака.

Также предлагается направить дополнительные федеральные ассигнования, в том числе не из научных статей бюджета, на создание инфраструктуры новых высокотехнологичных кластеров, подобных Силиконовой Долине. За основу может быть принят опыт Канады, которая в течение двух лет развернула мощные кластеры ИИ на базе университетов Эдмонтона, Торонто и Монреаля.

Ещё одна многообещающая инициатива включает в себе предоставление целевых инвестиций не в темы или изделия, а непосредственно в руководителей лабораторий, специализирующихся на ИИ, предоставив им самим право выбирать конкретные направления исследований. Правительство США должно расставить приоритеты в области федеральных усилий по развитию ИИ, и в срочном порядке осуществить инвестиции в этой области, нацеленные на национальную безопасность.

Комиссия полагает, что принятые президентские и правительственные документы, а также решения Конгресса уже создали исчерпывающую базу для скорейшего развертывания практической работы в области ИИ. Именно на практике, а не на принятии новых постановлений должны быть сосредоточены усилия национальных органов в 2020-2022 гг.

В условиях бюджетных ограничений настало время перераспределить научный бюджет Министерства обороны и разведывательного сообщества в пользу ИИ за счет ограничения расходов на традиционные виды вооружений, которые не предусматривают качественного совершенствования, а продляют свой срок жизни лишь за счет модернизации.

Применение ИИ в сфере национальной безопасности

Комиссия пришла к выводу, что по состоянию на 2019 г. Министерство обороны и в несколько меньшей степени разведывательное сообщество далеки от реализации уже имеющихся выгод в применении ИИ. Главная причина этого – не ограничения финансирования, а различного рода бюрократические барьеры и несоответствие новым реалиям старых нормативных документов.Технологические прорывы в лабораториях и на производстве гасятся в сфере документооборота даже тогда, когда он является электронным.

По мнению Комиссии, в настоящее время в сфере правительственных усилий по ИИ царит хаос и бюрократический беспорядок. Удалось выявить, что в настоящее время в рамках правительства в условиях недостатка ресурсов приняты и осуществляются более 600 программ развития ИИ. Очевидно, что такое мелкотемье приводит к тому, что ни одна из программ не рассчитана на достижение действительно прорывных результатов и на технологические прорывы. Деньги в рамках программ в основном расходуются не на исследования и разработки, а на подготовку различного рода документации, или, что еще более удивительно, на проведение аудита того, чего нет в природе.

Комиссия пришла к выводу о том, что традиционные подходы к американской системе демократии, свобода и открытости зачастую мешают развивать важные направления использования ИИ. Например, Министерство обороны в рамках программы Maven широко привлекает к разработке общенациональной системы видеораспознавания и видеомониторинга университеты и крупнейшие технологические компании. В течение 2019 г. ряд ключевых для программы технологических гигантов и стартапов отказались участвовать в программе, мотивируя это протестами общественности, гражданских активистов и части собственных работников относительно допустимости видеонаблюдения в Америке. В результате, по состоянию на сегодняшний день, Америка даже не приступила к опробованию систем видеомониторинга, которые в рамках цифрового авторитаризма не только покрывают все города Китая, но и стали предметом китайского экспорта!!!

Лидерство в разработке и использовании ИИ требует иных подходов

Нынешняя система финансирования разработки и приобретения технологий разработана в Министерстве обороны 40 лет назад принципиально для иных типов и видов вооружения. В результате, прорывные решения входят в противоречия с управленческими процедурами. Например, разработка приложений в области ИИ может занять месяц. Но для получения разрешений на получение информации, необходимой для разработки, требуется иногда более шести месяцев, а на принятие решения о начале финансирования – до года. Этот процесс, разработанный для ограничения военных расходов в мирное время, совершенно не подходит для ситуации с ИИ (вновь Комиссия переходит на риторику военного времени – Е. Л., В. О.).

По сути, американским разработчикам и пользователям ИИ приходится вести две схватки: одну – с Китаем, вторую – с собственными федеральными учреждениями. Кроме того, Министерство обороны привыкло работать с технологическими гигантами. Между тем, в сфере ИИ значительная часть подрывных инноваций создается небольшими компаниями, стартапами, а иногда даже неформальными коллективами разработчиков. У Министерства обороны нет ни опыта, ни желания, ни организационных процедур работать с такими командами и компаниями. Более того, выделение такого рода субъектам финансовых ассигнований рассматривается аудиторами как косвенный указатель на возможную коррупцию. В этих условиях Министерство обороны отрезает себя от значительной части наиболее эффективных разработчиков.

Нельзя сказать, что Министерство обороны ничего не пытается изменить. Так, в 2019 г. созданы частно-государственные партнерства по развитию ИИ с MIT и университетом Карнеги-Меллона.

Существует противоречие между стремлением заказчика получить надежные и безопасные решения и потребностью разработчика проверить платформы в реальных условиях. В существующей системе контрактации для Министерства обороны предусмотрена сдача полностью готовых, протестированных изделий. Однако, в случае ИИ это невозможно. ИИ по самой своей природе требует дообучения на практических повседневных реальных данных. Поэтому необходимо изменить в соответствии с современными требованиями порядок контрактации.

Даже самые передовые алгоритмы ИИ потерпят неудачу, если будут реализовываться на компьютерах с недостаточной вычислительной мощностью. Хотя Америке принадлежит 2/3 из 50 наиболее мощных суперкомпьютеров, проблема вычислительной мощности для ИИ остаётся острой. Суперкомпьютеры на сегодняшний день — это в подавляющем большинстве научные машины. Массовому производству сверхмощных компьютеров, ориентированных в том числе на облачные вычислительные платформы, а именно такие компьютеры нужны ИИ, пока уделяется меньше внимания, чем они того заслуживают.

Нельзя не отметить, что правительство США не использует должным образом коммерческий ИИ для улучшения своей повседневной работы и экономии средств налогоплательщиков. Несмотря на многочисленные решения, министерства и ведомства правительства так и не перешли к электронному документообороту, так и не оцифровали в отличие от университетов и бизнеса своих архивов, так и не перешли на предоставление сведений в машиночитаемой форме.

Обучение и рекрутинг талантов в области ИИ

Комиссия делает вывод, что оборонные и разведывательные ведомства США нуждаются в кадровой революции. Значительная часть их работников не только не способна заниматься разработкой ИИ на стадии определения технических заданий, но и не подготовлена к его эксплуатации. Особенно это характерно для гражданских министерств и учреждений правительства.

До сих пор кадровая работа на федеральном уровне характеризуется беспорядочным набором и отсутствием продуманной системы управления талантами в сочетании с отсутствием вычислительных мощностей и качества больших данных правительственного характера. Комиссия полагает, что конкурировать с бизнесом и университетами за таланты правительству будет чрезвычайно сложно. Поэтому необходимо шире использовать практику частно-государственных партнерств. В рамках этих партнерств функции разработки должны оставаться за бизнесом и университетами, а эксплуатации – за правительственными учреждениями. Соответственно главная цель правительства в кадровой работе – это в сотрудничестве с университетами начать сплошную переподготовку административных кадров к использованию ИИ. Вероятно, в ближайшие два-три года специалист, не прошедший переподготовку по применению ИИ и не сдавший квалификационный экзамен не должен иметь возможность занимать сколько-нибудь значимую должность в правительстве.

Согласно рекомендациям Комиссии, органам и структурам национальной безопасности необходимо пересмотреть требования к кадрам в связи с революцией ИИ. Они должны быть способны качественно и эффективно выполнять шесть функций:

— планирование и разработка организационных документов;

— приобретение и обслуживание программно-аппаратных средств ИИ;

— осуществление анализа больших, умных, разнородных данных;

— формулирование требований к разработчикам по совершенствованию программно-аппаратных решений с позиции заказчиков;

— общение с разработчиками, пользователями, сервисными специалистами в области ИИ по вопросам эксплуатации этих систем;

— принятие решения о том, когда и для чего нужно использовать инструменты ИИ.

В каждом министерстве и ведомстве должно быть сформировано ядро пользователей и сервисных сотрудников, берущих на себя функции наиболее эффективного применения ИИ в практике работы ведомства и оказания помощи специалистам ведомства в практическом применении ИИ. Без формирования таких лидирующих ядер оборонные и разведывате6льные ведомства в условиях полной безграмотности персонала в части практического использования ИИ не смогут эффективно применять самые передовые решения.

Ядро ИИ должно обладать двумя дополнительными компетенциями. Во-первых, они должны понимать этические аспекты применения ИИ. Во-вторых, им нужен доступ к ключевым подразделениям в сфере национальной безопасности, ответственным за разработку и использование ИИ. Эти команды должны быть посредникам между разработчиками и пользователями. Правительство США имеет на сегодняшний день все возможности для более широкого найма талантов в области ИИ и повышение эффективности их работы. Однако многие министерства и ведомства не используют имеющиеся возможности из-за страха руководителей иметь в подчинении на порядок более компетентных в области ИИ людей, чем они сами.

Также к недостаткам можно отнести тот факт, что пока Комитет начальников штабов и различные рода вооруженных сил направляют на курсы ускоренной переподготовки по ИИ в ведущие американские университеты меньшее число офицеров, чем это предусмотрено квотами. Комиссия выяснила причину сложившегося положения. Наиболее талантливые, интеллигентные офицеры одновременно являются и наиболее незаменимыми с точки зрения решения текущих задач. Соответственно вышестоящее командование не отпускает их на учебу, поскольку заинтересовано в их постоянном присутствии в действующих вооруженных силах для выполнения текущих задач.

Существует жёсткий рынок для талантов, как в Соединённых Штатах, так и в мире в целом. Спрос на таланты на порядки превышает предложения. Поскольку заработная плата в частном секторе зачастую в несколько раз превышает ту, которую может предложить правительство, большинство талантов выбирает гражданский сектор.

Вряд ли удастся быстро изменить ситуацию, связанную с оплатой труда. Однако правительство может и должно привлечь новое поколение талантов дополнительными возможностями в области социальных пакетов, получения магистерского образования и ученых степеней, гарантированного трудоустройства после завершения срока службы в лучшие компании и университеты.

Сегодня существует две ключевых проблемы в области кадрового обеспечения прогресса ИИ. Первая проблема состоит в том, что, как это ни парадоксально, многие американские университеты не могут удовлетворить спрос на интерес студентов к ИИ и информатике в целом. Проблема в том, что также как у преподавателей, также как у разработчиков, спрос на них превышает предложение.

Анализ преподавания компьютерных наук, осуществленный в 2018 г. показал, что за два года количество вакансий в американских университетов на преподавателя по компьютерным наукам выросло на ошеломляющий 71%.В 2018 г. Ассоциация вычислительных исследований обнаружила, что количество студентов, желающих получить диплом в области компьютерных наук, выросло за 20 лет в 10 раз.

Комиссия предлагает американскому правительству всерьез задуматься о возможности предоставления на льготных условиях не только рабочих мест, но и американского гражданства преподавателям из стран, лидирующих в области компьютерных вычислений, математики, программирования и т.п. Комиссия предлагает разрешить университетам проводить дистанционные собеседования, а при необходимости, курсы повышения квалификации для преподавателей особенно из России и других стран постсоветского пространства, Индии. По завершении таких курсов преподаватели должны сдавать экзамен на знание английского языка, а также проходить собеседования, в том числе в странах своего постоянного проживания с представителями университетов. Подписание предварительного соглашения должно открывать для преподавателей границы Соединенных Штатов, как в части трудоустройства, так и эмиграции.

Комиссия в ближайшее время дополнительно изучит проблемы бакалавриата и магистратуры по ИИ и подготовит предложения правительства об облегчении визового режима и предоставления гражданству не только для талантов в области ИИ, но и для преподавателей.

Также Комиссия считает необходимой федеральную помощь, как университетам, так и иным образовательным структурам в части развертывания онлайновых форм обучения ИИ, в том числе на национальных языках для тех стран и регионов, где высок уровень школьной математической подготовки. Не стоит опасаться, что Америка будет готовить кадры для конкурентов. Как показывает анализ Комиссии, действующих онлайновых курсов Стэндфордского, Чикагского университетов и MIT , из 100 лучших выпускников курсов, в России более 70% получили предложения от американских университетов и компаний и переехали в США, для Индии соответствующий показатель превысил 90%.

Во всем мире предложение талантов ИИ является недостаточным для удовлетворения растущего спроса. Комиссия полагает, что гонка за таланты является самым главным направлением в битве за первенство в области ИИ. Руководители министерств и ведомств, политики должны понимать, что ИИ – это не более чем метафора. ИИ – это машина, которая реализует программы. Все программы в настоящее время и в обозримом будущем будут писаться людьми. Соответственно качество человеческого капитала является определяющим и главным фактором в прогрессе ИИ.

Вывод Комиссии: Америка должна сделать всё, чтобы не только обеспечить наилучшие условия для появления американских талантов, но и привлечь к себе максимальное число талантов со всего мира. Это тем более важно, что ИИ является высокомобильной областью. По итогам 2019 г. установлено, что около 1/3 исследователей, имеющих докторскую степень в области ИИ работают на работодателя, базирующегося в другой стране, нежели та, где была получена докторская степень. Для исследователей, входящих в 10% наиболее цитируемых этот показатель возрос до 60%, а для 1% — до 85%. Пока в Соединенных Штатах из докторов в области ИИ, входящих в 1% наиболее цитируемых в мире исследователей, работают 82%. Однако еще пять лет назад таковых было 94%.

Защита американских технологических преимуществ

На протяжении десятилетий Соединенные Штаты поддерживают открытую экономику и отстаивают академическую свободу, при этом защищая преимущества в части технологий, ориентированных на оборону и безопасность. Однако некоторые особенности нынешнего геополитического, технологического ландшафта создают угрозу для американского технологического лидерства. Среди такого рода неблагоприятных тенденций выявляются следующие:

— специфика технологий ИИ затрудняет секретность и защиту этих технологий. Исходно исследования в области ИИ носили в значительной степени децентрализованный характер, были ориентированы на бизнес и поэтому носили диффузный и доступный характер;

— значительная часть решений в области ИИ построена на открытом исходном коде. Более того, часть перспективных направлений в ИИ изначально развивается сообществами, ориентированными на открытый исходный код;

— Соединенные Штаты и Китай имеют тесные связи в области ИИ, включая кадровый обмен, финансирование и научные исследования;

— в то время как Китай использует открытость американского общества, китайское руководство засекречивает максимум информации, относящейся к исследованиям в области ИИ, и активно занимается дезинформационными мероприятиями;

— американские исследовательские университеты привлекают лучшие умы со всего мира. Среди этих умов есть и агенты зарубежных спецслужб, которые нацелены на получение секретных данных.

Комиссия полагает, что указанные проблемы не имеют простых решений. Требования безопасности реально сталкиваются с идеалами свободы. Комиссия попробовала найти способы возможных решений.

Прежде всего, правительство США должно продолжать активно использовать экспортный контроль для защиты конкурентных преимуществ США в оборудовании, в частности, в производстве полупроводникового оборудования, в процессорах для суперкомпьютеров и нетрадиционных вычислительных устройств, а также по другим направлениям.

Контроль за сохранением преимуществ США в аппаратной области может гарантировать, что американские компании сохранят доминирующее положение на мировом рынке. Это обеспечит правительство США в случае кризисной ситуации возможностями увеличения собственного производства и блокировки IT потенциала противников.

Самым главным в конкуренции является сохранение монопольного или доминирующего положения в части производства аппаратных вычислительных и телекоммуникационных устройств. Как известно, любая аппаратная составляющая ИИ имеет и программный компонент, обеспечивающий возможность удаленного управления этим устройством. Соответственно в ситуации острого конфликта Соединённые Штаты могут просто отключить элементы критической инфраструктуры противника вне зависимости от того, где они расположены.

Американскому правительству целесообразно более строго подходить к разрешению иностранных инвестиций в критическую область производства аппаратных компонентов, чипов и т.п. для компьютеров и телекоммуникаций.

В последнее десятилетие наблюдается взрыв китайских инвестиций в американскую микропроцессорную отрасль, связанную с ИИ. В 2010 г. китайцы совершили лишь одну сделку на сумму 1,5 млн. долларов, а в 2017 г. – 27 сделок на сумму 514,5 млн. долларов.

Недавно в США принят Закон о снижении рисков от иностранных инвестиций (CFIUS). Комиссия считает, что в Министерстве финансов и Государственном департаменте должны полностью использовать возможности, предоставляемые этим законом для избирательной блокировки нежелательных китайских инвестиций.

Самая главная задача для Соединенных Штатов в части сохранения информационного суверенитета – это упрочение лидерства в области производства аппаратного обеспечения ИИ. В настоящее время развертывается финансирование двух принятых в 2018 г. программ в этой области, а именно «Инновационной программы развития микроэлектроники для национальной безопасности» и инициативы DARPA по «возрождению национальной электроники».

В гонку вступил и Китай. В 2019 г. он учредил Национальный интегрированный инвестиционный фонд, поставив задачу добиться в течение 10 лет 100% самообеспечения компонентами для полного производства в Китае аппаратного обеспечения ИИ и телекоммуникаций. Этот Фонд израсходует на указанную цель за 10 лет 100 млрд. долларов. Пожалуй, главная проблема США в соревновании с Китаем в части производства аппаратного обеспечения состоит в том, что Китай может без усилий централизовать ресурсы государства, бизнеса и китайской общины за рубежом, тогда как в Соединенных Штатах бизнес и правительство развивают ИИ исходя из собственных интересов и целей. Эти интересы не всегда совпадают друг с другом. В результате ряд не только стартапов, но и технологических гигантов отказываются от контрактов с Министерством обороны и американским разведывательным сообществом ради сохранения зарубежных, прежде всего азиатских, рынков.

Комиссия полагает маловероятным использованием китайского опыта в централизации усилий и инвестиций в Соединенных Штатах. Вместо этого Америке следует наращивать свое интеллектуальное лидерство, развивая принципиально новые направления аппаратного обеспечения в условиях полной конфиденциальности и секретности. Речь идет, прежде всего, о квантовых вычислениях, вероятностных компьютерах, кремниевой фотонике, нейроподобных процессорах и других нетрадиционных вычислительных системах, необходимых для ИИ.

В докладе Комиссии перед правоохранительными органами и научными руководителями поставлена задача найти точки соприкосновения между открытой исследовательской системой и эффективным противодействием деятельности иностранных разведок в американских кампусах. В условиях американской открытости и традиционных академических свобод противоборствующие государства максимально используют порождаемые этим возможности.

Комиссия подтверждает принципиальную важность сохранения открытости Соединенных Штатов и академических свобод. При этом, полагает целесообразным повысить уровень и масштабы превентивного мониторинга поведения лиц, непосредственно связанных с исследовательскими разработками в области ИИ. Частично это может быть решено в бизнесе за счёт более тщательного отношения к коммерческой тайне. Что касается университетов, то здесь можно было бы уточнить их уставы с тем, чтобы открыть возможности для наблюдения за сомнительными студентами и преподавателями, подозреваемыми в работе на иностранные державы. Наиболее пристальное внимание Комиссия рекомендует уделять лицам, ориентированным на прямую или косвенную помощь военному и разведывательному потенциалу Китая. Комиссия высказывается против превентивного зачисления иностранных талантов в лица, заслуживающие пристального наблюдения. В силу межгосударственных отношений, а также особенностей менталитета китайцам гораздо проще склонять к сотрудничеству американцев, чем жителей и студентов из России, Украины, Индии и т.п. Необходимо иметь в виду, что большая часть этих студентов переехали в Соединенные Штаты еще и потому, что выбрали свободу. В то же время никто не должен удивляться тому, что за студентами и исследователями их Китая, а также других союзных Китаю стран, должно быть усилено наблюдение. В Китае плотный мониторинг иностранцев, откуда бы они ни приехали, — норма действительности. Этому никто не удивляется. Против этого никто не протестует. Поэтому Китай, как серьёзный конкурент вполне заслуживает уважительного отношения и симметричного ответа (рекомендации идентичны документам США времён маккартизма! Можно представить себе уровень возмущения и протестов отечественных и американских правозащитников при появлении такого рода рекомендаций в официальных, открытых документах у нас в стране – Е.Л., В. О.).

Полупроводники – решающий участок противоборства

Как отмечалось выше, главным полем битвы между участниками гонки ИИ является аппаратное оборудование, позволяющее создавать все более производительные компьютеры для последовательных, а в перспективе параллельных вычислений. По состоянию на 2018 г. на долю компаний со штаб-квартирами в США приходится почти половина всего мирового производства полупроводников. Также на американские компании совместно с дружественными фирмами из Тайваня, Южной Кореи и Японии приходится более 80% производства процессоров, видеокарт и т.п., используемых в аппаратной части ИИ.

Как уже отмечалось, информационный суверенитет и лидерство страны предполагает автаркию производства аппаратной части. Однако этого не достаточно. В конечном счете, превосходство определяется по завершающей цикл технологии. Применительно к ИИ, это – линии и производства для изготовления оборудования по выпуску полупроводников, процессоров и видеокарт. В настоящее время 90% производства такого рода оборудования находится в Соединенных Штатах, Японии и Нидерландах. Китай не имеет собственных производств по выпуску оборудования для изготовления чипов, видеокарт и полупроводниковых компонентов ИИ. Комиссия считает важным сохранить эту ситуацию на перспективу.

Именно в этой области Комиссия рекомендует в максимальной степени использовать ограничивающие доступ иностранных государств к тем или иным технологиям законы, нормативные акты и т.п. Дословно: «допуск китайцев и их союзников к подобного рода оборудованию не может быть оправдан никакими коммерческими и исследовательскими аргументами».

Правительству Соединенных Штатов рекомендовано довести до компаний в США и странах-союзниках жесткий и однозначный запрет не только на продажу подобного рода производственной техники, но и проведение совместно с китайцами и их союзниками исследований в этой области.Помимо прочего, этот запрет может иметь и еще один полезный аспект. Страны – союзники Китая, ориентированные на создание собственной аппаратной базы, вполне могут отойти от Поднебесной и перейти в ранг сторонников США, понимая, что без этого им не удастся создать собственную аппаратную базу для ИИ.

Ассоциированные технологии

Ускорение технологической революции, основанной на данных и новых вычислительных методах, в решающей степени зависит от уровня вычислительного и телекоммуникационного оборудования. Определенная сложность состоит в том, что нынешняя технологическая революция базируется на пакете взаимоувязанных, но различных технологий, включая ИИ, сбор больших данных, интернет вещей, генную инженерию и синтетическую биологию, робототехнику и киборгизацию. Поскольку все технологии взаимодействуют и усиливают друг друга, не представляется возможным, как это случалось в прошлом, перенаправить средства с одних научных направлений на другие.

В настоящее время Комиссия выделила ряд технологических направлений, имеющих важное значение для ИИ. Прежде всего, это относится к сотовым сетям пятого поколения — 5G. Резко увеличивая скорость, объем и надежность, сети 5G в ближайшие три-пять лет станут мировым стандартом в области телекоммуникаций и базисом интернета всего.

Определенные опасения вызывает тот факт, что в отличие от полупроводниковой и микропроцессорной промышленности в сфере 5G в настоящее время первенствует Китай, а его технологические гиганты поставляют оборудование 5G не только китайским союзникам, но и в страны НАТО и даже некоторые города Соединённых Штатов.

Комиссия провела детальные консультации с ведущими университетами и пришла к выводу, что производитель оборудования для 5G может обеспечить встроенные возможности копирования информации, передаваемой по этим сетям и ее передачу производителю оборудования.Тем самым Китай, отставая в программно-аппаратной части, имеет шанс стать гегемоном в телекоммуникациях. Это в свою очередь создает угрозу национальной безопасности всех стран, использующих подобное оборудование.

По мнению Комиссии Правительство Соединенных Штатов должно в данном случае не считаясь с затратами срочно создать частно-государственное партнерство по доработке национальных стандартов 5G и обеспечения производства телекоммуникационного оборудования, необходимого для 5G исключительно американскими компаниями, а также компаниями стран – ближайших союзников США.

Прогресс в области ИИ идет рука об руку с совершенствованием вычислительной техники. В настоящее время из 25 мощнейших суперкомпьютеров 21 работают в Соединенных Штатах. С учетом вводимых в эксплуатацию в I квартале 2020 г. новых американских суперкомпьютеров Топ-5 вычислительных систем с супервозможностями будут работать в Америке. Не вполне ясны по состоянию на сегодняшний день перспективы квантовых компьютеров. В то же время Комиссия утверждает, что Америка, по сути, стала монополистом в области разработки, создания и эксплуатации вероятностных компьютеров, сочетающих достоинства обычных и квантовых компьютеров и позволяющих вести вычисления за пределами двоичного кода.

Также по состоянию на начало 2020 г. американские исследователи, бесспорно, лидируют в таких областях, как интерфейс мозг-компьютер и использование дополненной реальности для обеспечения полной информационной осведомленности. Особый вопрос – это соединение возможностей ИИ со стремительным развитием биотехнологий.Возможно, это наиболее сложная и важная тема применительно к вопросам национальной безопасности на ближайшие пять лет. Однако, Комиссия полагает необходимым создание отдельной консультативно-исследовательской структуры при Конгрессе США по вопросам биотехнологий, синтетической биологии и евгенической генетики.

***

Представляется, что многие выводы, содержащиеся в докладе Комиссии, имеют принципиальное значение для развития ИИ у нас в стране. На наш взгляд, среди них важнейшим является сбережение кадрового потенциала разработчиков и пользователей ИИ, недопущение их массового оттока в США, как то планируют осуществить наши партнёры за Океаном. Фактически, как можно было убедиться выше, объявлена настоящая охота за исследователями ИИ из России, с предоставлением им упрощенного режима получения американского гражданства. А охотиться есть за кем. В Альманахе «Искусственный интеллект», подготовленном Центром искусственного интеллекта МФТИ в июне 2019 года приводятся следующие данные о наличии исследователей ИИ в ведущих российских научных и учебных заведениях: РАН – 1194 чел., МГУ – 733, Университет ИТМО СПб – 716, СПб ГУ – 544, МФТИ – 377, НИУ ВШЭ – 297, Томский ГУ – 215, Сколтех – 105, Университет Иннополис – 84, а также десятки исследователей по другим вузам и университетам.

Обеспечить этим исследователям надлежащие условия для реализации их проектов у нас в стране – приоритетная задача государственной политики в сфере развития ИИ.