1 июля 2022 года Институт искусственного интеллекта (ИИ) в Хэфэе, в китайской провинции Аньхой, заявил, что разработал программное обеспечение, которое может измерять лояльность членов коммунистической партии (КПК).
Институт опубликовал видео под названием «Панель умного политического образования», чтобы похвастаться своим программным обеспечением для «чтения мыслей», которое, по его словам, будет использоваться на членах партии, чтобы «еще больше укрепить их решимость быть благодарными партии». На видео было видно, как член КПК просматривал онлайн -материалы, пропагандирующие политику партии, в киоске, где, по словам института, его программное обеспечение ИИ отслеживало его реакцию, чтобы увидеть, насколько он внимателен к мыслительной деятельности партии.
Пост, однако, был удален вскоре после того, как вызвал общественный резонанс среди китайских пользователей сети.
Эксперты отметили, что инженеры-программисты в Китае работают над программой распознавания лиц, которая идентифицирует людей, когда они носят маску, с 6 марта 2020 года. Они использовали передовые технологии для расширения возможностей своего партийного государства. Китай перешел от раннего распознавания лиц к программам ИИ, которые пытаются проникнуть в мозг и умы.
Так называемое программное обеспечение для чтения мыслей — это всего лишь новейшее цифровое управление, которое внедрил Китай.
Сообщается, что Китай уже давно внедрил распознавание лиц в Синьцзяне, чтобы следить за этническими уйгурами, а в последние годы усилил свое наблюдение с помощью программного обеспечения «один человек, один файл».
Американские и тайваньские СМИ сообщают, что в конце 2021 года власти провинции Хэнань запустили аналогичную систему для отслеживания тех, кого они считают «подозрительными» журналистами, иностранными студентами.
Китайская интернет-газета The Paper сообщила, что школа коммунистической партии в Сычуани еще в 2017 году разработала «Умное красное облако», которое уже могло отслеживать реакцию членов партии на ее политическое образование и «рассчитывать» их лояльность.
Китайская полиция собирает биометрические данные со зрачков людей, отпечатков пальцев и образцов мочи тех, кто находится под стражей, чтобы усилить то, что он назвал «точным, но жестким» наблюдением.
Широкое применение в Китае технологий ИИ стимулирует инновации в этом секторе, согласно результатам недавнего исследования, проведенного Мартином Берахой, доцентом экономики Массачусетского технологического института, и тремя другими учеными из Гарвардского университета и Лондонской школы экономики. Их исследование пришло к выводу, что в то время как новые технологии укрепляют автократическую власть, а автократический спрос стимулирует инновации, «эта взаимная выгода может даже привести к долгосрочным, устойчивым инновациям в области ИИ в Китае, создав то, что они называют «ИИ — кратией».
«В процессе получения этого государственного контракта они ИИ-фирмы в Китае получают доступ к этим данным, что позволяет им, конечно, внедрять инновации для государственного приложения, которое обычно связано с общественной безопасностью или предотвращением преступлений и т.п. Это распространилось на их коммерческие инновации, потому что потенциально они могут использовать одни и те же правительственные данные, либо, если это ограничено, они могут использовать те же алгоритмы, которые были обучены на этих данных, для разработки коммерческих продуктов, которые используются в частном секторе», — сказал Бераха «Голосу Америки» (09.07.2022).
Часть I. Новые возможности боевого китайского ИИ
В выпуске 18 от 30 июня 2022 года China AI and Autonomy Report, информационный бюллетень, публикуемый CNA, обсуждается использование беспилотных систем и ИИ для помощи в проведении внезапных атак в глубоководных боевых действиях. Первое в КНР беспилотное надводное судно водоизмещением более 100 тонн провело свои первые автономные ходовые испытания. Сообщается, что исследователи КНР разработали модель ИИ для использования в космической войне, а инженеры Корпорации авиационной промышленности Китая разработали беспилотный грузовой самолет, соответствующий китайским правилам гражданской авиации. Газета South China Morning Post сообщает, что КНР развила суперкомпьютерные мощности почти на уровне США. КНР полностью одобрила план «East Data, West Computing», предусматривающий создание 10 вычислительных центров.
The PLA Daily, официальная газета НОАК, опубликовала статью под названием «Достижение победы в морских глубинах, необходимость научного понимания и понимания боевой ценности глубоководного космоса», в которой обсуждается важность беспилотных систем и ИИ в глубоководные операции. Согласно статье, глубокое море является «новой высотой для захвата инициативы в войне» из-за его особой природной среды и важного стратегического положения.
В статье сообщается, что операции в глубоком море представляют собой формирующийся оперативный тип, который становится все более важным с развитием глубоководных технологий, сенсорных технологий, коммуникационных технологий и ИИ. Согласно статье, «новые платформы и оружие, такие как безэкипажные подводные аппараты, подводное предварительно размещенное оружие и иностранные военные базы, приведут к реконфигурации морских боевых систем». В статье делается вывод о том, что глубоководные операции приведут к новой тактике, проводимой из глубоководной области, включая засады, мобильные прорывы, дальние атаки, междоменные атаки и перехваты с близкого расстояния.
Фактически способность проводить внезапные атаки станет первостепенной особенностью глубоководных операций за счет интегрированного сочетания беспилотных систем, сенсорных сетей и каналов связи. В статье говорится, что глубоководные заранее размещенные системы вооружения могут быть предварительно развернуты в ключевых морских районах и на водных путях задолго до начала операции и активированы дистанционно для проведения внезапных атак. Глубоководным операциям, проводимым преимущественно в открытом океане, будет способствовать отсутствие политических границ и возможность развертывания систем на большой площади и в разных конфигурациях, а также сложность обнаружения глубоководных подводных аппаратов.
Глубоководные операции будут поддерживаться интеллектуальными сетевыми информационными системами, которые высоко интегрированы и адаптируются к времени и месту операций, а также к действиям противника. Глубоководные системы сочетают в себе способность проводить ситуационную осведомленность, быструю мобильность, постоянное «праздношатание», маскировку и точечные удары с низкими требованиями к защите и низкой стоимостью. В результате глубоководные системы могут достичь технологической внезапности, способной нанести поражение системам противника.
Эволюция пилотируемых и беспилотных систем
PLA Daily опубликовала статью под названием «Новая точка опоры для использования формы войны», в которой обсуждается роль взаимодействия человека и машины в будущих войнах. Согласно статье, «совместные пилотируемые и беспилотные операции переписали современную модель поля боя», а использование большого количества автономных беспилотных систем «изменит систему боевых сил», что приведет к новым конфигурациям и возможностям для использования синергии между пилотируемыми и беспилотные системы.
В статье утверждается, что по мере развития технологий гибкие конфигурации «человек-машина» и «машина-машина» будут становиться все более распространенными. На примере концепции «лояльного ведомого» делается вывод о том, что использование новых пилотируемых/беспилотных боевых режимов станет эффективным способом поддержания превосходства в воздухе и что эти режимы представляют собой тенденцию развития современной воздушной войны.
В статье также говорится, что с использованием облачных систем данные от оружейных систем и датчиков в нескольких доменах могут быть объединены и проверены в рамках единой структуры, что приведет к функциональной совместимости между пилотируемыми и беспилотными системами за счет более широкого обмена данными в реальном времени и общей операционной картины.
Пилотируемые и беспилотные системы, работающие в рамках этой структуры, будут характеризоваться распределенными системами управления, действующими на более широкой территории, чем текущие операции. Рост распределенных командных систем также приведет к известности беспилотных технологий роя из-за их низкой стоимости и эксплуатационной гибкости. В роевых операциях отдельные системы смогут осуществлять планирование миссии и операции независимо друг от друга, при этом потеря какой-либо одной платформы или системы не повлияет на производительность системы в целом.
Первое беспилотное судно водоизмещением более 100 тонн в КНР проходит первоначальные автономные ходовые испытания. 7 июня 2022 года Китай провел первые автономные ходовые испытания крупнейшего на материке беспилотного судна. В отчете CCTV-7, официальной китайской телевизионной станции, посвященной военным вопросам. говорится, что успешные испытания автономной навигации в водах у Чжоушань, провинция Чжэцзян, представляют собой «прорыв в китайской беспилотной и автономной судовой навигации и технологии« умной кабины »». Источники СМИ КНР сообщают, что 40-метровый тримаран имеет водоизмещение 200 тонн, максимальную скорость хода более 20 узлов, способность нормально работать при волнении моря 5 баллов (определяется как «грубое», при 2,5- волны до 4 метров), а также возможность безопасного плавания в условиях волнения 6 баллов (определяемых как «очень бурное» при волнении от 4 до 6 метров). Источники СМИ КНР не присвоили судну ни названия, ни бортового номера. Первоначальные морские испытания включали два навигационных маршрута, которые в сумме собирал данные за три часа. Сообщается, что следующие ходовые испытания будут посвящены «предотвращению столкновений».
Скриншот из видео CCTV-7, показывающий, как безымянное судно проводит свои первые автономные ходовые испытания недалеко от острова Паньжи, Динхай, город Чжоушань, провинция Чжэцзян. Источник: CCTV-7: Утренний отчет национальной обороны , 9 июня 2022 г..
Согласно отчету, опубликованному базирующейся в Шанхае газетой Xinmin Evening News, компания Zhejiang Beikun Intelligent Technology Co., Ltd. вместе с 40 другими организациями участвовала в разработке и испытаниях судна, которые начались в 2015 году. В отчете говорится, что целью проекта было «разработать беспилотный и автономный дизайн 100-тонного судна, которое может осуществлять навигацию в открытом море с низким уровнем шума и высокой скрытностью». Ключевые технологические препятствия, преодоленные для проведения первых автономных ходовых испытаний, согласно отчету, включают «низковольтную гибридную интегрированную силовую технологию с переменной скоростью, интегрированную технологию датчиков и мачты, а также технологию автономного управления навигацией». Сообщается, что до ходовых испытаний в июне 2022 года судно совершило около 30 испытательных рейсов общей протяженностью более 1000 морских миль на озере Поянху в провинции Цзянси. Следует отметить, что глава Zhejiang Beikun Intelligent Technology Co., Ltd. Ма Хайфунг заявил, что первые автономные ходовые испытания прошли успешно.
Китайская система ИИ для имитации космической войны
Как сообщает газета South China Morning Post, в статье, написанная группой исследователей из Шанхайского института аэрокосмических систем и опубликованной в журнале КНР Aerospace Shanghai 25 апреля 2022 года, обсуждались исследования, связанные с созданием системы ИИ, используемой в моделировании космических войн. В моделировании участвовали три спутника, пытающиеся захватить ценный спутник. Обе стороны неудачно выступили в первых 10 000 раундов тренировок, но наступательная команда из трех спутников смогла научиться быстрее, чем ценный спутник, и заняла выгодную позицию после 20 000 раундов. Пережив неоднократные поражения, ценный спутник научился разрабатывать контрмеры, чтобы победить три спутника. Несмотря на это достижение, после 220 000 выстрелов наступательные спутники снова начали захватывать преимущество.
КНР проводит полет большого грузового БПЛА
По сообщению государственных СМИ КНР, Китайская авиационная промышленная корпорация (AVIC), государственный оборонный конгломерат, успешно завершила 27-минутный первый полет беспилотного грузового самолета TP500 18 июня 2022 года в центральной провинции Хубэй. По данным AVIC, TP500 производится Первым авиационным институтом AVIC и является первым крупным беспилотным грузовым самолетом в Китае, произведенным в соответствии с китайскими правилами гражданской авиации. Самолет имеет максимальную дальность полета 1800 км и может нести полезную нагрузку 500 кг на дальность 500 км.
По данным Aviation Week Intelligence Network, полет TP500 — не первый беспилотный грузовой самолет, которым управляют предприятия КНР. В 2018 году Китайская академия аэрокосмических электронных технологий управляла беспилотным FH-98, созданным на основе Y-5, служебного биплана, впервые построенного в 1957 году. В 2017 году Китайская академия наук управляла беспилотным самолетом AT200, созданным на основе Pacific Aerospace P750XL новозеландского производства. Оба самолета могли перевозить полезную нагрузку до 1500 кг.
TP500 на рулежной дорожке. Источник: Лю Сюнь, «Первый в Китае крупный беспилотный грузовой самолет CCAR TP500 совершил первый полет», CGTN, 20 июня 2022 г.
КНР разрабатывает новый экзафлопсный суперкомпьютер наравне с США
Южнокитайская газета Morning Post опубликовала статью под названием «Китайский суперкомпьютер становится мировым лидером благодаря модели искусственного интеллекта масштаба мозга», в которой сообщается, что КНР разработала суперкомпьютер наравне с первым в мире экзафлопсным суперкомпьютером Frontier, который был разработан Министерство энергетики США. В мае 2022 года Frontier был признан самым быстрым суперкомпьютером в мире с общей производительностью 1,1 эксафлопса (экзафлопс — это показатель производительности суперкомпьютера, равный 10 18 операций в секунду).
Суперкомпьютер PRC, получивший название New Generation Sunway Supercomputer, по-видимому, является частью семейства суперкомпьютеров Sunway и является продолжением суперкомпьютера Taihu Light, базирующегося в Национальном суперкомпьютерном центре в Уси, провинция Цзянсу. Намерение создать эксафлопсное продолжение Taihu Light не является полной неожиданностью, о чем сообщил веб-сайт The Next Platform в феврале 2021 года.
Использование нового суперкомпьютера обсуждалось в документе под названием «BaGuaLu: нацеливание на предварительно обученные модели масштаба мозга с более чем 37 миллионами ядер», который был представлен на виртуальной встрече Принципов и практики параллельного программирования 2022, международной конференции, организованной США Ассоциацией вычислительной техники в апреле 2022 года.
Статья о китайском суперкомпьютере была написана командой из 14 профессоров, студентов и исследователей из Университета Цинхуа, лаборатории Чжэцзян и гиганта электронной коммерции Alibaba. Согласно статье, суперкомпьютер имеет производительность 1,002 эксафлопса, что немного меньше, чем у суперкомпьютера Frontier. Суперкомпьютер Sunway нового поколения использовался для запуска модели искусственного интеллекта BaGuaLu, которая способна обучать модели со 174 триллионами параметров — число, которое, согласно статье, «соперничает с количеством синапсов в человеческом мозгу». Следует отметить, что в другом исследовании утверждалось, что человеческий мозг содержит даже больше синапсов, в том числе, по одной оценке, 600 триллионов синапсов.
Строительство в Китае 10 региональных узлов вычислительной мощности
КНР официально запускает проект «East Data, West Computing». The People’s Daily, официальная газета КПК, сообщает, что центральное правительство КНР официально запустило проект «East Data, West Computing». В феврале 2022 года правительство КНР одобрило строительство 10 региональных узлов вычислительной мощности в Пекине, Тяньцзине и Хэбэе, дельте реки Янцзы, Гуандуне, Гонконге и районе залива Макао, Чэнду и Чунцине, Внутренней Монголии, Гуйчжоу, Ганьсу, и Нинся. Как обсуждалось в Информационном бюллетене 10, проект направлен на хранение и обработку данных из восточных регионов Китая в компьютерных центрах западных регионов Китая. По данным правительства КНР, восточный Китай, где расположено большинство центров обработки данных, имеет ограниченные земли, энергию и ресурсы, что делает его «неустойчивым» для развития больших центров обработки данных. Однако западный Китай предлагает богатые ресурсы, особенно возобновляемые источники энергии, и «имеет потенциал для развития центров обработки данных для удовлетворения потребностей в вычислительной мощности в восточном регионе». Ежегодные инвестиции в проект составляют около 400 млрд юаней.
Согласно статье, в 2021 году в Китае было 5,2 миллиона стоек в центрах обработки данных, при этом на китайские компании приходилось 74 процента рынка серверов. Среднегодовой темп роста стоек центров обработки данных в Китае за последние пять лет превысил 30 процентов, и ожидается, что в течение 14-й пятилетки, охватывающей 2021–2025 годы, годовой темп роста составит 20 процентов. При этом общее энергопотребление дата-центров Китая в 2020 году составило 93,9 млрд киловатт-часов, при выбросах углерода 64,64 млн тонн. Ожидается, что к 2030 году общее потребление энергии вычислительными центрами Китая достигнет около 380 млрд кВтч.
Часть II. ИИ как ключевое направление экономического развития Китая
Китайское правительство активно использует технологии ИИ и признает их ключевым направлением будущего экономического развития. На технологиях ИИ основана создаваемая в Китае система контроля над поведением граждан (система социального доверия), призванная обеспечить социально-политическую стабильность и гарантию, что КПК останется у власти. Наконец, Китай делает ставку на ИИ как основу для развития уникальных преимуществ в военно-технологической сфере.
В этой связи интересен опубликованный доклад Сьюзен Нин и Хана Ву «Законы и правила: ИИ, машинное обучение и большие данные, 2022 | Китай» (AI, Machine Learning & Big Data Laws and Regulations | China). В докладе указывается, что ИИ должен быть контролируемым; заслуживать доверие; повышать благополучие; обеспечивать честность и справедливость; защищать приватность и безопасность; повышать этическую грамотность. Люди должны иметь право выбора: пользоваться услугами с применением ИИ или прекращать работу с ними в любое время. В докладе не анализируется военная сфера использования ИИ, но рассматривается, какие же китайские законодательные акты гарантируют безопасность применения ИИ в гражданской сфере.
Тренды
Китайская академия наук признает несколько ключевых технологий ИИ, которые достигли прорывов и определили конкретные области применения, включая компьютерное зрение, обработку естественного языка, интеллектуальное адаптивное обучение (которое предоставляет каждому учащемуся индивидуальное образование, соответствующее его характеру), коллективный разум, автоматизированные беспилотные системы, интеллектуальные чипы и интерфейсы мозг-компьютер. Среди отраслей, внедряющих ИИ в Китае, на защиту безопасности, финансы и маркетинг приходится соответственно 53,8%, 15,8% и 11,6% от общего объема рынка отраслей, использующих ИИ в 2018 году. За ними следуют сельское хозяйство, услуги, розничная торговля, производство, образование и другие. В дополнение к развитию технологий ИИ, спрос на чипы ИИ, которые служат базовой поддержкой вычислительных мощностей, вносит значительный вклад в увеличение масштабов индустрии ИИ.
Китайское правительство признает ИИ важным компонентом национальной стратегии и планирует в ближайшее время создать комплексную систему его регулирования. ИИ является одним из семи ключевых направлений цифровой индустриализации в 14-м пятилетнем плане, интеллектуальная трансформация также будет в центре внимания государственных предприятий в ближайшие несколько лет.
Стремясь усилить роль ИИ в поддержке и руководстве экономическим и социальным развитием, Министерство науки и технологий КНР выпустило несколько официальных документов, которые демонстрируют поддержку на государственном уровне провинциальным и муниципальным органам власти в создании собственной национальной пилотной зоны инноваций и разработок нового поколения в области ИИ. В таких условиях все больше традиционных предприятий начинают увеличивать инвестиции во внутренние исследования и разработки, что откроет возможности для дальнейшего развития рынка ИИ, а расходы Китая на ИИ продолжат расти в ближайшие пять лет. Согласно прогнозу IDC, при непрерывном внедрении приложений ИИ китайский рынок будет расти совокупными ежегодными темпами 24,4%.
С 2020 года вспышка COVID-19, вызвавшая хаос на рынках и в отраслях всего мира и Китая в том числе, также открыла беспрецедентные возможности для индустрии ИИ и больших данных. В ответ на необходимую, но распространенную политику борьбы с пандемией в Китае на рынке наблюдался высокий спрос на продукты и услуги, основанные на ИИ и технологии больших данных, такие как платформы для удаленной работы и онлайн-курсов, медицинские исследования и диагностика на основе больших данных и ИИ, решения по борьбе с пандемией на основе больших данных — создание единой национальной платформы “Кодекс здоровья”, которая отслеживает состояние здоровья людей в целях борьбы с пандемией, а также удобные интернет-сервисы, основанные на ИИ, такие как доставка еды, онлайн-покупки, интернет-больницы и другие. Кроме того, одним из основных событий в области ИИ в 2021 году стало применение ИИ в судебных процессах, включая применение компьютерного распознавания изображений, распознавания голоса и т.д.
Из-за беспрецедентной потребности в ИИ в индустрии больших данных и огромного спроса на данные для машинного обучения законность данных стала ключевым юридическим вопросом, возникающим в связи с внедрением ИИ и машинного обучения. Например, Закон о защите личной информации Китайской Народной Республики (PIPL) предусматривает несколько правовых оснований, которые организация должна соблюдать при сборе личной информации. Также распространенной проблемой для операторов ИИ является то, что они могут непреднамеренно нарушать законы и правила о защите данных при покупке данных для своих систем ИИ из-за трудностей с обеспечением того, чтобы передача данных и последующая обработка подпадали под действие согласия субъектов данных.
С другой стороны, вопросы законности, справедливости и этики при внедрении ИИ сами по себе все чаще вызывают озабоченность соответствующих органов власти и отраслевой практики. В результате были обнародованы правила и руководства, специально направленные на законное использование и этические риски ИИ, такие как Руководство по предотвращению этических рисков безопасности ИИ, выпущенное Национальным техническим комитетом по стандартизации информационной безопасности (TC260).
Собственность и защита
Владение алгоритмом ИИ
В настоящее время компании в Китае в основном подают заявки на авторские права на программное обеспечение и/или патент, чтобы заявить о праве собственности на алгоритм ИИ и защитить его от незаконного нарушения.
В соответствии с Правилами защиты компьютерного программного обеспечения (Правила), которые непосредственно регулируют защиту авторских прав на компьютерное программное обеспечение в Китае, алгоритм ИИ, который, по сути, представляет собой математический метод, разработанный и реализованный с использованием языка компьютерного программирования, защищен авторским правом и может быть зарегистрирован. Между тем, авторское право на программное обеспечение будет распространяться только на исходную программу. Если алгоритм ИИ обучается и развивается с помощью машинного обучения, обновленная версия отдельно защищается авторским правом, и новая регистрация может быть инициирована соответствующим правообладателем в качестве доказательства prima facie обладания такими авторскими правами.
Владение данными
В настоящее время в Китае нет конкретных законов, четко определяющих право собственности на данные, в то время как общество достигло консенсуса в отношении признания активов данных. По определению, активы данных являются экономическим ресурсом, конкурентным ресурсом или правом собственности в форме данных. Учитывая, что на различные типы данных (личная информация, важные данные и т.д.) распространяются особые ограничения на сбор, обработку, хранение и совместное использование, на практике сложно согласовать владение данными. Например, поскольку владение является фундаментальной предпосылкой торговли, по-прежнему существует призыв провести четкую границу между субъектами персональных данных (ПД) и компаниями в отношении владения персональной информацией, чтобы установить благоприятное управление данными в обществе.
Традиционно законодатели структурируют правовую базу для защиты личной информации, основываясь на ведущей законодательной позиции абсолютной защиты прав субъекта ПД на неприкосновенность частной жизни и личных прав. Таким образом, со ссылкой на Закон Китая о кибербезопасности (CSL) и его вспомогательные меры, обработка личной информации может быть предоставлена только с авторизованного согласия субъекта ПД. Однако чтобы облегчить свободный поток обмена данными в китайской экономике, академические эксперты и законодатели пришли к общему мнению, что права личности имеют не только личные интересы, но и имущественные, последние из которых люди имеют право передавать при определенных обстоятельствах. Таким образом, субъекты ПД теоретически имеют право реализовывать свои имущественные интересы в отношении личной информации при условии, что это не повлечет за собой нарушения общественных интересов, и с санкционированного или явного согласия субъекта ПД. Учитывая право субъекта ПД на реализацию имущественных интересов и почти исключительное право контролировать свою личную информацию (т.е. определять способ предоставления, использования и обработки), ученые и законодатели считают субъектов ПД владельцами своей личной информации.
Между тем, помимо самой личной информации, компании обеспокоены тем, что они владеют анонимизированной личной информацией, которая технически не имеет никакого отношения к субъектам ПД и не может быть отслежена после удаления идентифицируемой информации. В соответствии с действующей правовой структурой для защиты личной информации от незаконного предоставления третьим лицам в соответствии с CSL, PIPL и уголовным законодательством, а также с учетом технического эффекта анонимизации, до тех пор, пока анонимизированная личная информация не может идентифицировать субъектов ПД, компании могут иметь право на определенный уровень владения этой анонимизированной личной информацией, а также содействовать обмену данными.
В целом компании могут пытаться претендовать на владение данными, не относящимися к личной информации, а некоторые судебные дела дополнительно подтверждают конкурентные права операторов платформ на пользовательские данные, которыми они владеют, с точки зрения Закона о борьбе с недобросовестной конкуренцией. Однако в соответствии с Законом о защите государственной тайны, данные, признанные государственной тайной, находятся в ведении государственных секретных органов, и поэтому компании не могут заявлять о праве собственности на такие данные. Кроме того, в отношении важных данных, часто определяемых как данные, разглашение которых может напрямую повлиять на национальную безопасность, общественные интересы и законные интересы граждан или организаций, определенные правила (действующие или в форме проекта) налагают различные ограничения на их обработку. Например, CSL налагает требования к локализации данных и оценке безопасности при трансграничной передаче важных данных операторами критически важной информационной инфраструктуры, в то время как Закон о безопасности данных предусматривает требования к оценке безопасности и отчетности при обработке важных данных в целом и оберегает секретную схему защиты важных данных.
Антимонопольное законодательство и законы о конкуренции
За последнее десятилетие ИИ значительно расширил возможности и реформировал коммерческий мир, особенно в онлайн-торговле. В соответствии с антимонопольным законом Китая (AML) конкурентам запрещено заключать монопольные соглашения об установлении цен, лимитировании производства или продаж, разделе рынка, бойкоте или других ограничительных действиях. В соответствии с временными положениями о запрете монопольных соглашенийфактические согласованные действия конкурентов при отсутствии явного соглашения или согласия также запрещены.
В соответствии с антимонопольными правилами для экономики платформ (Руководящими принципами) согласованное поведение может также относиться к поведению, при котором предприятия явно не заключают соглашение или принимают жесткое решение, а координируются с помощью данных, алгоритмов, правил платформ или других средств. Распространенное мнение заключается в том, что алгоритмы ценообразования контролируются конкурентом и не должны освобождать от антимонопольной ответственности. Таким образом, антимонопольная ответственность зависит от принятия алгоритмов ценообразования. Если конкуренты явно согласились принять тот же или аналогичный алгоритм ценообразования и привести к аналогичным моделям ценообразования, такие действия могут рассматриваться как запрещенное соглашение об установлении цен в соответствии с AML. Если конкуренты не имеют явного согласия, но в одностороннем порядке и постоянно адаптируют алгоритмы, которые прогнозируют и согласуют цены конкурентов, может иметь место фактическая ситуация, которая также представляет собой запрещенное согласованное действие.
Алгоритмы также приводят к ответственности AML за злоупотребление доминирующим положением на рынке путем дискриминационного ценообразования. В связи с быстрым развитием в Китае интернет-гигантов в таких отраслях, как доставка еды на дом, продажа билетов в кино и бронирование гостиниц, платформы обвиняют в ценовой дискриминации населения. Алгоритмическая ценовая дискриминация означает, что один и тот же продукт оценивается по-разному в зависимости от индивидуальных особенностей каждого покупателя, особенно благодаря ИИ, собирающему большие данные потребителей.
Статья 19 Временных положений о запрете злоупотребления доминирующими позициями на рынке прямо запрещает коммерческим операторам с доминирующим положением предлагать контрагентам дискриминационное отношение к цене, объему, качеству, скидкам и другим условиям без обоснованных причин. Однако этот запрет ценовой дискриминации распространяется только на операторов с доминирующими позициями на рынке в соответствии с AML. Кроме того, в Руководящих принципах также устанавливается “дифференцированное ценообразование на основе больших данных и алгоритмов” в качестве одного из примеров злоупотребления доминирующим положением на рынке против AML.
При продаже товаров и оказании услуг потребителям через интернет на все сделки распространяется Закон КНР «О защите прав потребителей». Предприниматели обязаны соблюдать все требования данного закона, а также предоставлять потребителям достоверную и полную информацию о товаре или услуге.
В августе 2020 года Министерство культуры и туризма опубликовало и внедрило Временные положения об управлении услугами онлайн-туристического бизнеса, которые запрещают ценовую дискриминацию путешественников с помощью больших данных и других технических мер.
Применение больших данных вызывает опасения по поводу злоупотребления доминирующими позициями на рынке данных со стороны крупных интернет-платформ. Теоретически гиганты интернет-платформы могут воспользоваться масштабом платформы для привлечения и сбора большего количества пользовательских и рыночных данных, которые впоследствии будут использоваться для дальнейшего повышения конкурентоспособности платформы; таким образом, доминирующее положение платформы еще больше усиливается за счет сетевого эффекта. В соответствии с Руководящими принципами, для определения доминирующей позиции платформы на рынке, факторы оценки должны включать в себя разнообразие мест проживания пользователей, легкость доступа к платформам, привычки пользователей и т.д.
В статье 18 Закона о борьбе с отмыванием денег также говорится, что при определении доминирующей позиции на рынке также должны учитываться факторы конкурентного преимущества, такие как технологическая конкурентоспособность. Поэтому нельзя исключать, что контроль над большими объемами ценных данных на конкретном рынке может способствовать тому, что ведущее предприятие будет идентифицировано как занимающее доминирующее положение на рынке. Такие предприятия должны быть особенно осторожны при совершении действий, которые AML признает злоупотреблением, связанным с доминирующим положением, например, отказ от сделки, ценовая дискриминация, необоснованные торговые ограничения и другие.
Совет директоров и управление
Одним из ключевых вопросов, связанных с внедрением ИИ в управлением компаниями, является целостность автоматизированного процесса принятия решений. Что касается сценария управления, автоматизированное принятие решений может более непосредственно и часто влиять на интересы акционеров и функционирование бизнеса в целом. Факторы, которые могут воздействовать на целостность автоматизированного принятия решений, включают, помимо прочего, законность сбора данных, качество набора данных, подотчетность алгоритма, потенциальную предвзятость в применении ИИ и т.д.
В соответствии с Законом о компаниях Китая директора, руководители и высший управленческий персонал обязаны соблюдать положения законов и административных правил и устава компании, а также нести фидуциарные обязанности. Поэтому, когда совет директоров внедряет ИИ для облегчения своей повседневной работы и принятия решений, он, безусловно, должен выполнять такие обязанности и предусматривать соответствующие последствия. И, если есть какое-либо неблагоприятное воздействие на акционеров или всю бизнес-операцию, ответственность несет правление или собрание акционеров.
Для снижения соответствующих рисков с технической точки зрения обеспечение отслеживаемости результатов автоматизированного принятия решений будет главным приоритетом. С точки зрения управления, компаниям рекомендуется оценить потенциальные риски в бизнесе, прежде чем внедрять автоматизированную систему принятия решений, ограничить сферу применения такой системы в случае существенного негативного воздействия и создать механизм проверки вручную для обеспечения подотчетности окончательных решений. Кроме того, чтобы нейтрализовать потенциальную предвзятость, которая может быть заложена в алгоритм или развиться с его помощью, компаниям также рекомендуется создать комитет по этике ИИ для надзора за внутренним использованием ИИ.
Советам директоров рекомендуется проводить комплексную проверку перед внедрением конкретной технологии ИИ, которая будет помогать в процессе принятия решений. Им может потребоваться подробная информация о принципе работы, рабочем назначении, базовой логике алгоритма и работе самой технологии. Ожидается, что при применении ИИ и больших данных советы директоров обязаны проявлять осторожность. Им, возможно, сначала потребуется убедиться, что данные, используемые для обучения системы ИИ, являются точными и регулярно проверять результаты, выдаваемые ИИ, чтобы избежать отклонений в процессе принятия решений.
Правила и вмешательство правительства
В последние годы в Китае было разработано множество законов и правил, которые касаются ИИ, а также правил, регулирующих конкретные вопросы, связанные с ИИ, относящиеся к:
Большим данным
— Закон о безопасности данных, опубликованный в июле 2021 года, напрямую касается национальной стратегии развития больших данных и повышения их безопасности.
— Правила администрирования безопасности сетевых данных в качестве вспомогательного положения разъясняют конкретные вопросы в области управления безопасностью данных, а также уточняют и дополняют основные принципы и системы в высшем законе.
— Меры по оценке безопасности трансграничной передачи данных и регулированию вопросов оценки безопасности вывода данных, в которых более тщательно реализуется концепция всеобъемлющего и строгого регулирования, также предполагают соответствующие обязательства по соблюдению требований для предприятий, участвующих в использовании данных.
— Технология информационной безопасности – управление безопасностью больших данных, Технология информационной безопасности – руководство по идентификации критически важных данных и другие, а также касающиеся безопасности больших данных в конкретных секторах, такие как Технология информационной безопасности – Руководство по безопасности медицинских данных являются рекомендуемыми национальными стандартами, касающимися услуг и систем больших данных. С 2021 года также приняты соответствующие правила обработки данных в связи с фактическим развитием соответствующих регионов, в которых представлены 12 провинций и городов, таких, например, как Шанхай и Шэньчжэнь.
Защите личной информации и автоматизированное принятие решений
Существуют три всеобъемлющих закона, устанавливающих общие принципы защиты личной информации: PIPL, принятый 1 ноября 2021 года, Гражданский кодекс, опубликованный в мае 2020 года, а также CSL, в которых сформулированы требования к защите личной информации. PIPL предлагает расширить правовую основу обработки личной информации по сравнению с Гражданским кодексом и CSL, чтобы адаптироваться к сложностям экономической и социальной деятельности. С 2019 года, когда несколько департаментов в Китае совместно выпустили объявление об особом режиме незаконного сбора и использования личной информации приложениями, текущая тенденция показала, что обеспечение защиты личной информации приложений продолжает улучшаться. Особенно это касается небольших программ.
Защите потребителей
Необходимо обратить внимание на Руководящие принципы, Закон об электронной торговле и временное положение об управлении онлайн-туристическими бизнес-услугами в отношении запрета ценовой дискриминации, которые рассмотрены выше.
Управлению информационным контентом
Положения об экологическом управлении сетевым информационным контентом, вступившие в силу в январе 2020 года, формулируют требования к моделям предоставления контента, ручному вмешательству и механизмам выбора пользователем в ситуации, когда поставщики сетевого информационного контента продвигают информацию, применяя персонализированные алгоритмы.
Применению ИИ
В декабре 2021 года были выпущены Правила администрирования алгоритмических рекомендаций информационных служб Интернета (Правила алгоритмической рекомендации), предусматривающие специальные правила управления технологией алгоритмических рекомендаций. В этих Правилах выдвигаются конкретные и подробные требования к службам рекомендаций алгоритмов с точки зрения справедливости алгоритмов и управления информационным контентом, а также уточняются рамки “технологии рекомендаций алгоритмов”, принципы регулирования и правила служб рекомендаций алгоритмов, а также конкретная классификация, регистрация, оценка безопасности и другие регулирующие средства. В августе 2021 года выпущена Спецификация для оценки безопасности алгоритмов машинного обучения, которая предусматривает несколько положений об этических и институциональных мерах, заполняя некоторые пробелы в национальных стандартах в области распознавания лиц и биометрической информации, ограничиваясь только техническими мерами.
Автоматизированному вождению
Министерство промышленности и информационных технологий (MIIT) совместно с другими министерствами выпустило пробные административные положения о дорожных испытаниях интеллектуальных подключенных транспортных средств, вступившие в силу в мае 2018 года для регулирования требований к квалификации работников и процедур автоматизированных дорожных испытаний и ответственности за дорожно-транспортные происшествия. Кроме того, более 20 городов приняли свои административные меры для автоматизированных дорожных тестов на вождение. Между тем недавний проект рекомендуемого национального стандарта Проект таксономии автоматизации вождения транспортных средств, опубликованный MIIT 9 марта 2020 года, устанавливает шесть классов автоматизированного вождения (от L0 до L5) и предусматривает соответствующие технические требования и роли автоматизированных систем на каждом уровне. В октябре 2021 года вступили в силу Положения об управлении безопасностью автомобильных данных, которые являются первыми нормативными актами, касающимися данных в автомобильной сфере, и направлены на регулирование важных автомобильных данных и конфиденциальной личной информации. Разработано и представлено Руководство по безопасности при обработке данных об автомобилях. в котором уточняются технические требования к безопасности обработки данных, собираемых различными элементами систем автомобиля. Требования безопасности к данным о сборке автомобилей формально запрашивают комментарии, разделяя данные об автомобилях на несколько типов данных: данные вне автомобиля; данные кабины; эксплуатационные данные; данные отслеживания местоположения; хранение данных на удаленной платформе (не более 14 дней) и т.д.
Финансам
Народный банк Китая и другие финансовые регуляторы совместно выпустили Руководящие заключения по регулированию деятельности финансовых учреждений по управлению активами в апреле 2018 года. В них сформулированы квалификационные требования и обязательства по вмешательству человека в процесс работы ИИ для финансовых учреждений, предоставляющих консультационные услуги по управлению активами на основе технологий искусственного интеллекта. Рекомендуемый отраслевой стандарт —Техническая спецификация по защите личной финансовой информации, — выпущенная Народным банком Китая, также устанавливает требования к финансовым учреждениям по регулярной оценке безопасности внешних автоматизированных инструментов (таких как модели алгоритмов и наборы для разработки программного обеспечения), используемых при обмене и передаче личной финансовой информации. Кроме того, недавно обнародованные Меры по защите прав и интересов потребителей финансовых услуг Народного банка Китая и Спецификация безопасности жизненного цикла финансовых данныхтакже формируют дифференцированные требования к защите безопасности финансовых данных, охватывающих весь процесс жизненного цикла данных на основе классификации их безопасности.
Китай также разработал конкретный план по созданию всеобъемлющего правового режима ИИ. В соответствии с Планом Государственного совета по развитию ИИ нового поколения местные правительства намерены создать правовую, этическую и политическую систему регулирования ИИ к 2025 году.
В октябре 2019 года Национальный комитет по стандартизации информационных технологий Китая объявил о своем плане создания подкомитета по технологиям ИИ для участия в обнародовании национальных стандартов, касающихся технологий ИИ, управления рисками, продуктов, приложений и т.п., что еще раз демонстрирует решимость правительства в усилении регулировании ИИ. Тогда же Специальная рабочая группа по стандартам безопасности больших данных (TC260) выпустила «Белую книгу по стандартизации безопасности ИИ», в которой предлагается система стандартов безопасности ИИ, включающая элементы основополагающих стандартов, моделей данных и алгоритмов, технологий и систем, управления и обслуживания, оценок, а также продуктов и приложений. Кроме того, в августе 2020 года Государственное управление стандартизации, Управление по вопросам киберпространства Китая (CAC) и три других государственных министерства совместно выпустили Руководство по созданию национальной системы стандартизации ИИ нового поколения (Руководство по стандартам ИИ), направленное на создание предварительной национальной системы стандартизации ИИ к 2023 году, охватывающей национальные и промышленные стандарты в восьми областях, а именно: (1) основополагающие и общие стандарты; (2) фундаментальные технологии и продукты; (3) базовые программные и аппаратные платформы; (4) критические общие технологические стандарты; (5) технологические стандарты для критически важных областей; (6) стандарты продуктов и услуг; (7) отраслевые стандарты применения; и (8) стандарты безопасности и этики.
Гражданская ответственность
Оптимизация алгоритмов и применение ИИ в ряде случаев вызывают горячие дискуссии относительно распределения гражданской ответственности. Например, в области автономного вождения споры о праве собственности на ИИ, а также самосовершенствование алгоритма могут вызвать сложные ситуации, требующие от законодателей и ученых поиска дальнейших решений. По сравнению с традиционными дорожно-транспортными происшествиями, субъектами, участвующими в автономном вождении, являются производители автономных транспортных средств, поставщики услуг автономного вождения, продавцы автомобилей, пользователи транспортных средств. В режиме автономного вождения из-за разнообразия субъектов, вовлеченных в возможное правонарушение, причинно-следственная связь между противоправным поведением и последствиями ущерба более неоднозначна, и тем самым ставится под сомнение традиционный принцип ответственности за дорожно-транспортное происшествие. В этом случае, когда происходит авария, которая приводит к жертвам или материальному ущербу, возникает проблема разделения ответственности между водителем-человеком и автономной системой вождения (или, другими словами, конечным ответственным лицом за автономную систему вождения).
В Китае Закон о безопасности дорожного движения (RTSL) был принят в 2003 году и изменялся в 2007, 2011 и 2021 годах соответственно. Последняя редакция вступила в силу 29 апреля 2021 года. 24 марта 2021 года, за месяц до ратификации последней официальной версии, Министерство общественной безопасности опубликовало проект о внесении поправок в Закон о безопасности дорожного движения, чтобы уточнить правила распределения гражданской ответственности за новые формы дорожно-транспортных происшествий, связанных с автономным вождением, и, таким образом, решило добавить Ст.155, в которой впервые на юридическом уровне уточнены соответствующие требования к дорожным испытаниям и проезду транспортных средств с функциями автономного вождения, а также распределение ответственности за нарушения законов и несчастные случаи. Однако Ст. 155 пока официально не обнародована в последней редакции RTSL.
Алгоритмы автономных транспортных средств постоянно оптимизируются; между тем, проблемные вопросы, включая неясное распределение ответственности, дилемму моральных противоречий и риск смещения алгоритма, также соответственно возрастают. Автоматизированные транспортные средства полагаются на взаимодействие человека и компьютера в рамках функции обучения системы, которые не могут считаться надлежащими субъектами подотчетности, в то время как степень участия алгоритма влияет на распределение ответственности.
Кроме того, неконтролируемые дефекты производителей системы ИИ включают в себя, в результате автономного глубокого обучению ИИ и взаимодействия с окружающей средой, дефекты, основанные на независимом суждении системы ИИ. Из-за крайне непредсказуемого характера таких недостатков возложение вины на производителей значительно ослабит стимулы крупных компаний, занимающихся ИИ, к исследованиям и разработкам. Поэтому, возможно, вместо обсуждения того, как распределять ответственность, лучше создать полный набор систем передачи рисков производителю, таких как система обязательного страхования ответственности для автономных транспортных средств, которая потребует от компаний, занимающихся автономным вождением, обеспечения того, чтобы их продукты сбалансировали промышленное развитие и помощь жертвам.
Дискриминация и предвзятость
Массовое применение ИИ и больших данных действительно вызывают опасения по поводу предвзятости, вызванной алгоритмическим вычислительным процессом. Ele.me и Meituan, две ведущие компании по доставке продуктов питания в Китае, столкнулись с критикой условий труда после того, как в широко распространенной статье в сентябре 2020 года было показано, как алгоритмы приложений создают опасную рабочую среду, заставляя водителей работать на пределе своих возможностей, устанавливая строгие сроки доставки и угрожая вычетами из их комиссионных за неудачу.
Поскольку способность алгоритма к самообучению поддерживается огромным объемом данных, генерируемых в каждый момент, компании, занимающиеся доставкой продуктов питания, могут постоянно оптимизировать свой алгоритм, предположительно сокращая среднее время доставки на 10 минут за три года. По данным Ele.me, его система постоянно рассчитывает оптимальные решения для заказов на доставку еды. Она способна определить наиболее подходящего доставщика заказа в соответствии с его маршрутом, местоположением и направлением, а также определить и указать оптимальные маршруты доставки для 10 000 доставщиков в течение одной секунды, если каждый доставщик везет пять связанных заказов по разным адресам. Однако алгоритм не учитывал влияние погоды, дорожных условий и светофоров на время доставки, что иногда приводило к невозможным срокам доставки для водителей. В результате водителям почти всегда приходится ехать не в ту сторону и проезжать на красный свет, что резко увеличивает вероятность дорожно-транспортных происшествий и получения травм.
Еще одна горячая тема, связанная с алгоритмической дискриминацией, относится к явлению, когда цена продукта, которую видят возвращающиеся клиенты, устанавливается намного выше, чем для новых клиентов на те же товары или услуги. По данным Ассоциации потребителей Китая, некоторые компании используют алгоритмы для ценовой дискриминации различных групп потребителей. Например, для VIP-пользователей и обычных пользователей установлены разные цены, при этом VIP-пользователи увидят более высокую цену по сравнению с другими пользователями в результате анализа их потребительских привычек и покупательских возможностей. Некоторые компании применяют сложные правила и алгоритмы продвижения для внедрения настроек ценовой путаницы, чтобы привлечь определенных потребителей, которым трудно рассчитать реальные цены.
Подобно алгоритмической ценовой дискриминации, нерациональная алгоритмическая эксплуатация, вызывающая дискриминацию и предвзятость, по сути, является эксплуататорским злоупотреблением данными. Для решения этой проблемы многие учреждения предприняли усилия, установив этические стандарты для алгоритмов. Например, Китайская академия информационных и коммуникационных технологий выпустила Белую книгу по управлению ИИ (Белая книга CAICT), в которой излагаются этические стандарты использования ИИ, например, алгоритмы должны защищать права личности. В Белой книге CAICT предлагается, чтобы ИИ относился ко всем пользователям одинаково и недискриминационно, и что все процессы, связанные с разработкой ИИ, также не должны быть дискриминационными. ИИ должен обучаться с использованием непредвзятых наборов данных, представляющих различные группы населения, что предполагает учет потенциально уязвимых лиц и групп, таких как инвалиды, пенсионеры, дети и другие.
Поскольку алгоритмическая дискриминация обычно наносит ущерб интересам потребителей, как Закон о защите прав потребителей, так и Закон об электронной коммерции прямо требуют, чтобы бизнес-операторы уважали и в равной степени защищали законные права и интересы потребителей. Закон об электронной коммерции также предусматривает, что в тех случаях, когда бизнес-оператор электронной коммерции предоставляет потребителям поиск результатов для товаров или услуг, основанных на предпочтениях или привычках потребителей, он должен параллельно предоставлять потребителям варианты, которые не ориентированы на их личные характеристики. Аналогичные правила были установлены в PIPL в отношении автоматического принятия решений, что дополнительно требует, чтобы обработчики личной информации обеспечивали прозрачность процесса принятия решений, справедливость и беспристрастность результатов, а также не создавали необоснованного дискриминационного отношения к отдельным категориям лиц в отношении цены и условий транзакции.
Законодатели и ученые изучают решения, позволяющие ограничить возможности алгоритмической дискриминации. Правила алгоритмических рекомендаций знаменуют собой первую попытку CAC регулировать использование алгоритмов, в которых поставщики информационных интернет-услуг обязаны использовать алгоритмы таким образом, чтобы они уважали общественную мораль и этику, и им запрещено устанавливать какие-либо модели алгоритмов, побуждающие пользователей становиться зависимыми или чрезмерно потреблять. Правила призваны помочь компаниям установить внутренний контроль над использованием алгоритмов, а также создать основные правила для защиты прав типичных групп, которые с большей вероятностью могут пострадать или подвергнуться дискриминации со стороны алгоритмов, таких как несовершеннолетние, пожилые люди, рабочие и т.п.
Три подхода к управлению ИИ в Китае
В 2021 году китайское правительство выпустило ряд политических документов и публичных заявлений, которые подкрепляют режим управления ИИ в стране. 4 января 2022 года фонд Сarngie опубликовал об инициативах доклад:
Самые сильные и самые влиятельные шаги в управлении ИИ были предприняты Управлением киберпространства Китая (CAC), относительно новым, но очень влиятельным органом, который пишет правила, регулирующие определенные приложения ИИ.
CAC попала в заголовки газет в августе 2021 года, когда выпустила проект набора из тридцати правил для регулирования алгоритмов интернет-рекомендаций, программного обеспечения, на котором работают все, от TikTok до новостных приложений и поисковых систем. Некоторые из этих правил специфичны для Китая, например, правило, согласно которому алгоритмы рекомендаций «активно распространяют положительную энергию». Но другие положения меняют положение в продолжающихся международных дебатах, например, требование о том, чтобы поставщики алгоритмов могли «давать объяснения» и «исправлять» ситуации, в которых алгоритмы нарушают права и интересы пользователей. Если такие положения будут реализованы на практике, они могут подтолкнуть китайские компании к экспериментам с новыми видами раскрытия информации и методами алгоритмической интерпретации. Это новая область исследований в области машинного обучения.
Вскоре после выпуска правил алгоритмов рекомендаций CAC выступил с гораздо более амбициозной задачей: трехлетней дорожной картой для управления всеми интернет-алгоритмами. Выполнение этой дорожной карты потребует участия многих из девяти регулирующих органов, подписавших проект, включая Министерство науки и информационных технологий (МНИТ).
Второй подход к управлению ИИ возник в Китайской академии информационных и коммуникационных технологий (CAICT), влиятельном аналитическом центре при МНИТ. Активно занимаясь формулированием политики и многими аспектами тестирования и сертификации технологий, CAICT выделил свой метод, сосредоточив внимание на создании инструментов для измерения и тестирования систем ИИ. Эта работа в случае успеха он может заложить основу для более крупного режима управления ИИ в Китае, гарантируя, что развернутые системы будут надежными, надежными и управляемыми.
В июле 2021 года CAICT объединился с исследовательской лабораторией китайского гиганта электронной коммерции JD, чтобы выпустить первую в стране Белую книгу о «надежном ИИ». Уже популярный в европейских и американских дискуссиях термин «заслуживающий доверия ИИ» относится ко многим более техническим аспектам управления ИИ, таким как проверка систем на надежность, предвзятость и объяснимость. То, как CAICT определяет заслуживающий доверия ИИ в своих основных принципах, очень похоже на определения, вышедшие из институтов США и Европы.
CAICT работает с Альянсом индустрии искусственного интеллекта Китая, отраслевой организацией, спонсируемой государством, для тестирования и сертификации различных систем ИИ. В ноябре 2021 года компания выпустилапервую партию надежных сертификатов искусственного интеллекта для систем распознавания лиц. CAICT часто рассматривается как представитель влиятельного МНИТ, но руководство МНИТ еще не опубликовало свои собственные политические документы в отношении заслуживающего доверия ИИ.
Наконец, МНИТ выбрало самый легкий из трех подходов к управлению ИИ. Его самые известные публикации были сосредоточены на установлении этических принципов, полагаясь на компании и исследователей, которые контролируют себя в применении этих принципов в своей работе.
В июле 2021 года MНТИ опубликовал руководство, призывающее университеты, лаборатории и компании создавать внутренние комитетыпо проверке для надзора и решения вопросов технической этики. Два месяца спустя главный экспертный комитет по ИИ, действующий в рамках MНТИ, выпустил собственный набор этических норм для ИИ, уделив особое внимание вплетению этики во весь жизненный цикл разработки. С тех пор MНТИ поощряет ведущие технологические компании создавать свои собственные комитеты по этике и проверять свои продукты.
Подход MНТИ аналогичен подходу международных организаций, таких как Организация Объединенных Наций по вопросам образования, науки и культуры и Организация экономического сотрудничества и развития, которые опубликовали принципы ИИ и призвали страны и компании принять их.
Как эти три подхода будут сочетаться друг с другом? Китайские министерства и административные органы известны своей конкурентоспособностью друг с другом, они постоянно соперничают, чтобы представить свои инициативы центральному руководству страны в надежде, что они станут избранной политикой партии-государства. В этом конкурсе подход CAC, похоже, имеет явное преимущество: он наиболее зрелый, наиболее соответствующий духу времени в сфере регулирования и исходит от организации с самым бюрократическим весом. Но его подход не может быть успешным сам по себе. CAC требует, чтобы компании могли объяснить, как работают их алгоритмы рекомендаций, а инструменты или сертификаты того, что представляет собой рассматриваемый ИИ, скорее всего, будут получены от CAICT. Кроме того, учитывая обширный и быстро развивающийся характер технологии, многие практические аспекты заслуживающего доверия ИИ впервые появятся в комитетах по этике отдельных компаний, вдохновленных MНИТ.
Трехлетняя дорожная карта для алгоритмического управления дает представление о некотором управленческом сотрудничестве. Хотя CAC явно является ведущим автором, документ содержит новые ссылки на заслуживающие доверия алгоритмы и на компании, создающие комитеты по этике. Дополнения, вероятно, были сделаны по распоряжению двух других министерств. Также могут произойти существенные сдвиги в управленческих структурах, поскольку управление ИИ расширится, чтобы охватить многие промышленные и социальные приложения ИИ. CAC традиционно является регулятором, ориентированным на Интернет, и будущие правила для автономных транспортных средств или медицинского ИИ могут создать возможность для министерства, такого как MНИТ, перехватить бразды правления.
Потенциальное влияние этих регулирующих форм выходит далеко за пределы Китая. Если CAC выполнит определенные требования к алгоритмической прозрачности и объяснимости, Китай будет проводить одни из крупнейших в мире регуляторных экспериментов по темам, которые давно обсуждаются европейскими регуляторами . Способность китайских компаний удовлетворить эти новые требования может привести к аналогичным дебатам в Европе по поводу права на объяснение.
Что касается безопасности, то по мере того, как системы ИИ все глубже вплетаются в ткань вооруженных сил по всему миру, правительства хотят обеспечить надежность, надежность и управляемость этих систем ради международной стабильности.
