Возвращение Дональда Трампа в должность вызвало вопросы о возможных изменениях политики в отношении искусственного интеллекта в Соединенных Штатах.
Трамп пообещал отменить знаменательный Указ действующего президента Джо Байдена об искусственном интеллекте и создать Департамент эффективности государственного управления, получивший название DOGE, во главе с Илоном Маском.
Одновременно новая команда Трампа нацелена на жесткое технологическое противоборство с Китаем.
ИИ: регулирование или дерегулирование?
Мэри Боран в статье «Что будет означать новый срок Трампа для ИИ?», опубликованной в журнале Newsweek (17.11.2024) пишет, что «по мнению экспертов регулирование на уровне штатов и стремление к инновациям в области ИИ, скорее всего, сохранятся независимо от изменений в федеральном надзоре, хотя сохраняются опасения по поводу баланса между технологическим прогрессом и стандартами безопасности и этики».
Какова в настоящее время политика в области ИИ в США?
Текущая политика правительства США в области ИИ направлена на поиск баланса между инновациями и стандартами безопасности, защиты и этики посредством нескольких ключевых инициатив, включая Консорциум Института безопасности искусственного интеллекта США (AISIC), созданный в феврале 2024 года, и Указ об ИИ, подписанный Байденом в октябре 2023 года.
В указе под названием «Безопасная, надежная и заслуживающая доверия разработка и использование искусственного интеллекта» изложены меры по управлению разработкой и развертыванием ИИ. Он обязывает федеральные агентства устанавливать стандарты безопасности и защиты ИИ, защищать конфиденциальность и содействовать равенству. Он также требует создания должности главного сотрудника по искусственному интеллекту в основных федеральных агентствах для надзора за деятельностью, связанной с ИИ.
До того, как этот Указ был издан, в октябре 2022 года Управлением по научно-технической политике Белого дома (OSTP) был опубликован «Проект Билля о правах ИИ». В нём предлагалось пять принципов защиты общественности от вредоносных или дискриминационных автоматизированных систем.
Эти принципы включают обеспечение безопасных и эффективных систем, защиту от алгоритмической дискриминации, защиту конфиденциальности данных, предоставление уведомлений и объяснений, а также предложение человеческих альтернатив и запасных вариантов. Многое из этого было включено в Указ, который Трамп уже пообещал отменить, когда вернется в Белый дом.
«В каком-то смысле статус-кво регулирования ИИ таков, что его нет. По сути, целью Указа и Института безопасности ИИ было инициировать обсуждение на федеральном уровне того, что означает безопасный ИИ? Что означает надежный ИИ?» — рассказал Newsweek доктор Джейсон Корсо, профессор робототехники, электротехники и компьютерных наук в Мичиганском университете и соучредитель компании компьютерного зрения Voxel51.
«Я думаю, растет понимание того, что для повсеместного внедрения ИИ действительно необходимо больше доверия к нему, и эти правила или эти инициативы помогли бы инициировать этот диалог», — добавил он.
Как могут пострадать государственные законы в отношении ИИ?
Однако отмена федеральных правил не меняет законы штата. Например, в Калифорнии действует Закон о прозрачности ИИ, подписанный губернатором Гэвином Ньюсомом в сентябре 2024 года.
Этот закон требует от создателей систем генеративного искусственного интеллекта предоставлять инструменты для обнаружения использования ИИ, предлагать пользователям возможность самостоятельно включать информацию о том, что контент создан с помощью ИИ, встраивать эту информацию в сам контент, а также заключать договоры с правообладателями для поддержки внедрения таких механизмов.
«Администрация Трампа может смягчить федеральные правила в отношении ИИ, чтобы стимулировать инновации и уменьшить то, что она может воспринимать как нормативную нагрузку на бизнес, однако это не повлияет на законы штата, подобные тем, что недавно были приняты в Калифорнии», — рассказал Newsweek Шон Рен, доцент кафедры компьютерных наук в Университете Южной Калифорнии (USC) и Генеральный директор Sahara AI.
«Это может создать путаницу правил, из-за чего компаниям, работающим на национальном уровне, будет сложнее соблюдать требования. Хотя компании могут ощутить снижение нагрузки со стороны федерального регулирования, они всё равно должны соблюдать государственные нормы», — добавил он.
Маркус Андерльюнг, Директор по политике и исследованиям Центра управления ИИ и внештатный научный сотрудник Центра новой американской безопасности (CNAS), рассказал Newsweek, что в связи с отсутствием федеральных правил, специально нацеленных на передовые компании в сфере ИИ, самым большим изменением «станет активизация усилий по упрощению строительства новых центров обработки данных и выработки электроэнергии, включая ядерные реакторы, необходимые для их работы».
«Существует двухпартийный консенсус относительно важности поддержки американской индустрии искусственного интеллекта, конкуренции с Китаем и наращивания мощностей американских центров обработки данных», — добавил он.
По словам Андерльюнга, эта ориентация на конкуренцию с Китаем была элементом предыдущей администрации Трампа, которая «начала вводить более строгий контроль за экспортом продукции ИИ в Китай, начав с контроля над телекоммуникационной компанией Huawei , а затем перейдя к контролю за экспортом оборудования для производства полупроводников».
«Это говорит о том, что новая Администрация Трампа может сохранить или ужесточить контроль, введенный Администрацией Байдена, особенно в свете недавних сообщений о том, что чипы Huawei производятся на заводе TSMC (Taiwan Semiconductor Manufacturing Company)», — добавил он.
Какое место занимает Маск в планах Трампа по изменению политики в отношении ИИ?
С объявлением о создании DOGE , которую возглавит Маск, регулирование ИИ (или его дерегулирование) потенциально может войти в компетенцию руководителя Tesla.
«Роль Илона Маска на посту Генерального директора компаний, работающих на основе искусственного интеллекта, таких как Tesla и Neuralink, сопряжена с внутренним конфликтом интересов, поскольку политика, которую он помогает формировать, может напрямую повлиять на его бизнес», — сказал Рен.
«Это усложняет любую прямую консультативную роль, которую он мог бы взять на себя. Тем не менее, Маск давно выступает за ответственное регулирование ИИ и может привнести ценные идеи в политику в области ИИ, не ставя под угрозу общественные интересы».
Однако, учитывая сложность политики в области ИИ, Рен считает, что «эффективное руководство требует большего, чем просто одного ума», добавляя, что «крайне важно иметь экспертов из разных областей для решения различных этических, технологических и социальных вопросов».
Рен предположил, что для более эффективного решения проблем ИИ Трамп мог бы создать многопрофильную консультативную группу, в которую вошли бы эксперты из академических кругов, технологических областей и этики, что позволило бы уравновесить влияние Маска и обеспечить всестороннюю точку зрения.
Продолжение инноваций в области искусственного интеллекта
В конечном итоге, указывая на относительное отсутствие федерального регулирования в сфере ИИ, особенно по сравнению с ЕС, Корсо считает, что второй срок Трампа не обязательно изменит уровень инноваций в сфере ИИ, и что создание среды безопасного и надежного ИИ в большей степени зависит от отдельных игроков в этой сфере.
«В сфере ИИ уже существует огромное количество инноваций. Я не думаю, что регулирование действительно окажет на это влияние. В сфере ИИ и в дальнейшем будет существовать огромное количество инноваций», — сказал он.
«Я думаю, нам нужно увидеть больше компаний, больше лидеров, которые будут открыто делиться своей работой. Я считаю, что открытая экосистема для ИИ означает более безопасные и быстрые инновации».
Конгресс США напуган технологическими разработками Китая в области космоса, искусственного интеллекта, квантовых вычислений и биотехнологий
Ежегодный отчёт группы экспертов (Комиссии) Конгресса США по обзору экономики и безопасности США и Китая призывает к срочным мерам по противодействию быстрому прогрессу Китая в области искусственного интеллекта, квантовых вычислений, биотехнологий и космических технологий.
Ежегодный доклад по обзору экономики и безопасности США и Китая, опубликованный 19 ноября, выделяет государственные инвестиции и «техно-националистические» стратегии китайского правительства как ключевые движущие силы его прогресса в этих критически важных секторах.
В докладе подробно описывается, как Китай интегрировал передовые технологии в свои экономические и военные стратегии. Среди 32 рекомендаций комиссия призывает Конгресс определить космос приоритетным направлением конкуренции и провести всесторонний обзор коммерческой космической отрасли США.
В нем также предлагается, чтобы США создали «программу, похожую на Манхэттенский проект», для разработки возможностей искусственного интеллекта общего назначения (AGI).
Космические достижения Китая, особенно в военных направлениях, являются ключевой проблемой, упомянутой в докладе. Народно-освободительная армия Китая (НОАК) значительно расширила свои возможности космического наблюдения, утроив количество спутников на низкой околоземной орбите и удвоив количество спутников на геостационарной орбите в период с 2018 по 2024 годы. Эти активы, включая электрооптические спутники визуализации, теперь обеспечивают почти непрерывное покрытие Индо-Тихоокеанского региона, представляя существенную угрозу для операций США и их союзников.
В отчете также обсуждается стремление Китая к развитию противокосмических технологий, включая направленное энергетическое оружие и противоспутниковые системы, которые могут подорвать спутниковые сети США как в мирное время, так и в конфликтное. В ответ Комиссия рекомендует пересмотреть правила, регулирующие коммерческий космический сектор США, чтобы способствовать более быстрым инновациям и при этом защищать чувствительные технологии.
Пентагон призвали отдать приоритет ОИИ
Призыв Комиссии к преобразующему подходу к искусственному интеллекту является одним из ее самых ярких предложений. Она рекомендует Конгрессу создать и полностью профинансировать национальную программу по разработке AGI — продвинутой формы ИИ, способной к человеческому мышлению и адаптивности.
Хотя AGI остается теоретическим, в отчете подчеркивается риск отставания от Китая в этой области. Инвестиции Пекина в ИИ охватывают как гражданские, так и военные разработки, что вызывает опасения относительно возможности AGI изменить глобальный баланс сил.
Комиссия настоятельно призывает Конгресс поручить Министерству обороны США присвоить программам разработки ИИ статус «DX Rating», что даст им наивысший приоритет при финансировании и ресурсах.
В докладе повторяются давние опасения, высказанные представителями Министерства обороны США относительно способности НОАК нарушать военные операции США. Направленное энергетическое оружие, противоспутниковые возможности и другие противокосмические технологии могут серьезно угрожать американским спутникам, включая те, которые используются для связи, навигации и разведки.
Растущий арсенал противокосмических средств Китая также нацелен на возникающие угрозы со стороны коммерческих спутниковых провайдеров, чьи услуги стали неотъемлемой частью операций Пентагона. В докладе предупреждается, что НОАК рассматривает эти партнерства как уязвимости, которыми можно воспользоваться.
«Существует огромная ценность в развитии открытой экосистемы, в которой люди будут делиться своими мыслями, своими пониманиями, своими моделями, своими данными и т. д.».
Запрет США на инвестирование в китайские стартапы в сфере искусственного интеллекта может ужесточиться при Трампе
Администрация Байдена сосредоточилась на китайских компаниях, разрабатывающих передовые модели искусственного интеллекта, но Дональд Трамп мог бы использовать гораздо более широкий подход.
В конце октября 2024 года, Министерство финансов США окончательно утвердило новые правила, ограничивающие виды китайских технологических стартапов, в которые американские венчурные компании могут инвестировать по соображениям национальной безопасности. Когда они вступят в силу в январе 2025 года, долгожданные меры не позволят американским венчурным капиталистам и другим инвесторам вкладывать деньги в передовые китайские модели искусственного интеллекта. После того, как избранный президент Трамп вступит в должность несколько недель спустя, его Администрация может расширить правила и сделать их еще более жёсткими.
Wired (18.11.2024) пишет, что «в то время как США по-прежнему лидируют в мире в области передовых разработок ИИ, американское правительство все больше обеспокоено тем, что Китай вскоре догонит их. Новые ограничения на исходящие инвестиции призваны работать вместе с другими мерами, такими как экспортный контроль передовых компьютерных чипов и работа Комитета по иностранным инвестициям в США (CFIUS), чтобы в совокупности затруднить — или, по крайней мере, замедлить — прогресс китайских компаний в области ИИ».
Новые ограничения очерчивают две широкие запретные зоны для американских инвесторов в области ИИ. Первая — это компании, разрабатывающие технологии, предназначенные исключительно для чувствительных целей, таких как военные и разведывательные службы Китая, в которые инвесторам будет запрещено вкладывать деньги независимо от того, насколько продвинутыми могут быть их возможности ИИ.
Для китайских стартапов, работающих над такими вещами, как потребительский ИИ, американским венчурным фирмам нужно будет использовать определенный порог, чтобы определить, могут ли они инвестировать в них. Модель ИИ стартапа не может быть больше 10 в 25-й степени флопсов или операций с плавающей запятой в секунду, числовой меры, которая указывает на размер и возможности модели ИИ (Европейский союз использовал тот же порог, чтобы определить, какие системы ИИ должны подвергаться более строгому контролю со стороны регулирующих органов). Более низкий порог, 10 в 24-й степени флопсов, будет применяться к системам ИИ, которые в первую очередь обучаются с использованием данных о биологических последовательностях из-за опасений, что такие инструменты могут быть использованы для особо чувствительных целей, таких как создание биологического оружия.
Справка от Е.Л., В.О.:
FLOPS – внесистемная единица, используемая для производительности компьютера. Показывает, сколько операций с плавающей запятой в секунду выполняет данная вычислительная система.
«Модель 10 в 25-й степени флопсов — это граница. Самые большие модели, которые существуют сегодня, находятся в диапазоне от 10 в 25-й степени до 10 в 26-й степени флопсов», — говорит Хайме Севилья, директор Epoch AI, исследовательской организации, которая отслеживает траекторию индустрии ИИ. Сюда входят все громкие имена, такие как GPT OpenAI, Gemini Google, Llama и Claude Anthropic. «Модель 10 в 24-й степени флопсов — это то, как выглядела граница в 2022 году. Для большинства гораздо более типично обучение выше 10 в 24-й степени флопсов — порога в настоящее время», — объясняет Севилья.
Epoch AI отслеживает количество флопсов, которые компании ИИ раскрыли публично или которые можно оценить по их техническим характеристикам, хотя Севилья говорит, что компании становятся более осторожными в раскрытии точных измерений своих моделей. На данный момент только две китайские компании, владелец TikTok ByteDance и Zhipu AI, публично объявили о моделях, превышающих 10 в 25-й степени флопсов. Что касается китайских моделей, обученных в первую очередь на данных биологических последовательностей, ни одна из них не превзошла 10 в 24-й степени 4 флопсов.
Эмили Килкриз, старший научный сотрудник аналитического Центра новой американской безопасности, говорит, что порог в 10 в 25-й степени флопсов, установленный Министерством финансов, будет проще обеспечить для правительства США, чем полный запрет на все инвестиции в системы ИИ с военным применением. «Учитывая, что ИИ по сути своей имеет двойное назначение, я всегда рассматриваю ограничения конечного использования как принципиально неработоспособные», — говорит она. «Они являются своего рода дополнением к тому, что я на самом деле считаю более работоспособными ограничениями, основанными на вычислительной мощности модели ИИ».
Устанавливая стандарт 10 в 25-й степени флопсов, Министерство финансов нацеливается на относительно узкую полосу китайского сектора ИИ, которая немедленно будет отрезана от любых потенциальных инвестиций США в январе 2025 года. Учитывая их небольшой масштаб, ограничения могут иметь ограниченное немедленное финансовое воздействие, но они, вероятно, помогут отговорить все китайские компании ИИ от обращения за помощью, финансовой или иной, к Соединенным Штатам в будущем. Это может оказаться особенно актуальным, если новая Администрация Трампа решит сделать их еще более строгими.
Несколько из первых назначенцев Трампа имеют давнюю историю жесткой позиции по отношению к Китаю, а некоторые из них конкретно выразили заинтересованность в ограничении потока денег инвесторов из США в Китайскую Народную Республику. Марко Рубио, сенатор США от Флориды, который был номинирован на пост нового Госсекретаря Трампа, в сентябре 2024 года предложил законопроект, значительно увеличивающий сумму налогов, которые инвесторы должны платить за свои инвестиции в китайские компании.
Больше домашних заданий
В краткосрочной перспективе трудно сказать, почувствует ли китайская индустрия искусственного интеллекта влияние новых правил. Инвестиционные потоки между США и Китаем уже сократились до минимума после многих лет напряженных отношений между двумя странами, особенно по вопросам, связанным с передовыми технологиями.
«Пик этих типов инвестиций действительно пришелся на 2016 год. И с тех пор наблюдается довольно большой спад», — говорит Сара Бауэрле Данцман, доцент кафедры международных исследований в Университете Индианы в Блумингтоне, которая ранее помогала правительству США в рассмотрении иностранных инвестиций. Но есть вероятность, что американские инвесторы снова заинтересуются сделками с китайскими фирмами ИИ, и новые ограничения «действительно рассматриваются как задраивание люков, даже если мы не думаем, что пойдет настоящий поток сделок», — говорит Данцман.
Более определенное краткосрочное воздействие заключается в том, что инвесторам США, которые все еще заинтересованы в китайских стартапах в области ИИ, придется провести гораздо больше комплексной проверки. Министерство финансов не создает новый правительственный комитет вроде CFIUS, который будет рассматривать каждую транзакцию, представленную инвесторами, а вместо этого просит компании самостоятельно провести анализ и сообщить, считают ли они, что та или иная китайская компания в сфере ИИ подходит под указанные критерии.
Согласно новым правилам, даже если модель ИИ китайского стартапа меньше порогового размера в 10 в 25-й степени флопсов, американский инвестор все равно может нести ответственность за уведомление Министерства финансов о своей сделке и проделанной домашней работе, если его модель составляет не менее 10 в 23-й степени флопсов (по сути, охватывая все крупномасштабные модели, разрабатываемые сегодня и в будущем). По сути, это означает, что правительство США создает собственную систему для мониторинга общего потока денег, идущих от американских инвесторов в китайские компании, работающие над ИИ.
«Чтобы подтвердить, что транзакция выходит за рамки, инвесторам из США потребуется провести значительную комплексную проверку», — говорит Роберт А. Фридман, юрист по международной торговле в юридической фирме Holland & Knight. Хотя правила приветствовались американскими компаниями ИИ и их спонсорами, они станут препятствием для венчурных капиталистов с международными портфелями, — добавляет он.
Неопределенное будущее
Ограничения на исходящие инвестиции вступят в силу 2 января 2025 года, а тем временем Министерство финансов дало понять, что некоторые небольшие изменения все еще находятся на пути к дальнейшему прояснению правил. Чиновники также заявили, что прилагают усилия для координации с союзниками США, такими как страны G7, чтобы ввести аналогичные меры, которые не позволят китайским компаниям ИИ обращаться к венчурным капиталистам в Европе, Канаде или Японии относительно видов инвестиций, запрещенных в США.
Самая большая неопределенность сейчас заключается в том, как второе президентство Трампа может изменить ситуацию. Данцман отмечает, что многие члены сообщества венчурного капитала, которые поддерживали Трампа, выступают против тех видов регулирования, которые вводит Министерство финансов, поэтому они потенциально могут попытаться лоббировать Президента, чтобы отменить их. Несколько крупных американских компаний, таких как Tesla и Blackstone, — обе возглавляемые миллиардерами, откровенно поддерживающими Трампа, — имеют значительные инвестиции в Китае и могут столкнуться с негативным влиянием на их бизнес из-за более жестких ограничений.
Другие эксперты, с которыми говорил Wired, ожидают, что новая республиканская администрация, в которую, как ожидается, войдут ряд ястребов, таких как Рубио, расширит сферу действия правил. «Возможно, мы увидим новый Указ. Или, учитывая единое республиканское правительство, возможно, расширение будет происходить посредством законодательных действий», — говорит Килкриз. Это может означать больше мер, нацеленных на другие виды китайских стартапов в секторах от биотехнологий до аккумуляторов.
Технологическая политика администрации Байдена в отношении Китая определялась, по крайней мере в принципе, идеей «маленького двора, высокого забора» или, другими словами, обозначением относительно узких зон, где правительство США может устанавливать очень строгие ограничения. Последняя версия правил исходящих инвестиций является примером того, как эта идея выглядит в действии. Но при Трампе китайские компании могут в конечном итоге увидеть, насколько большим может стать двор на самом деле.
