Все более популярным становится выражение «искусственный интеллект» (ИИ). Он обещает нам немыслимые блага, включая победу над неизлечимыми ныне смертельными болезнями и вечную жизнь.
БОЛЬШОЙ БРАТ СЛЕДИТ ЗА ТОБОЙ
Но у каждой медали, как известно, есть оборотная сторона. В сконцентрированном виде опасность повсеместного внедрения ИИ выразил израильский футурист Юваль Ной Харари, автор мировых бестселлеров «Sapiens: Краткая история человечества» и «Homo Deus: Краткая история завтрашнего дня»: «Раньше даже в СССР режим не мог все время следить за гражданами. Это было практически невозможно. Но сейчас мы достигли той точки, когда сочетание искусственного интеллекта и биотехнологий, биометрические датчики, системы распознавания лиц и голоса впервые в истории позволяют диктаторам следить за всеми своими гражданами. Это может привести к созданию тоталитарных режимов, которые будут намного хуже, чем все, что мы видели в 20 веке. Хуже Сталина и Гитлера».
Харари не одинок в своих тревогах о будущем человечества. Прогрессивная общественность все чаще употребляет фразу «Большой Брат следит за тобой!» Из антиутопии Джорджа Оруэлла «1984», изданной ровно 70 лет назад. Про тоталитарную Океанию, где за каждым жителем круглосуточно надзирают телекамеры. Везде и всюду! Про этот роман наслышаны все. Но мало кто знает, что на Оруэлла повлияла антиутопия «Мы» Евгения Замятина, написанная еще в 1920 году. Однако на родине в полном варианте она вышла лишь в перестройку, поскольку считалась прежде злой карикатурой на коммунизм. Замятин изобразил 32-й век. Общество тотального контроля над личностью, включая интимную жизнь. Имена и фамилии заменены буквами и номерами.
В последнее время идут панические публикации, слухи, что антиутопии Замятина, Оруэлла ускоренно претворяются в жизнь в Китае. Мол, вся страна с населением под полтора миллиарда превращается в электронный концлагерь. И такая участь ждет всю планету.
У нас в стране проблемы взаимосвязи новейших технологий и безопасности в последние годы активно изучает член Совета по внешней и оборонной политике, доктор юридических наук Владимир Овчинский. Он издал ряд книг по этим вопросам, анализировал китайский опыт непосредственно в Поднебесной. Недавно выступал на конференции ОБСЕ(Организация по безопасности и сотрудничеству в Европе) в Вене, посвящённой использованию искусственного интеллекта в полицейской деятельности. Там вопросы электронного контроля и прав человека были в числе приоритетных.
БЫТОВЫЕ ПРИБОРЫ ВИДЯТ ВСЕ!
— Владимир Семенович, что за «электронный концлагерь» спешно строят в Китае?
— Давайте обойдемся без ярлыков. Официально это называется SCS — Система Социального Кредита (доверия). Сейчас в трех десятках крупных городов испытывают ее пилотные варианты. На всю страну Систему распространят к концу 2020 года.
Ядро Системы — социальный рейтинг (он же – рейтинг доверия!) Интегральная оценка поведения человека по критериям доброжелательности и открытости к обществу, следования национальной традиции и приверженности «китайской мечте» — построения социализма с китайской спецификой. В зависимости от своего поведения он может набрать или потерять баллы.
— Звучит, конечно, красиво. В СССР систему ГУЛАГа тоже строили для перековки «врагов народа» в строителей социализма. Понимаю, в 21 веке Пекин обойдется без колючей проволоки, сторожевых псов и охраны на вышках. Но китайцев больше миллиарда! Как можно оценить каждого?
— Пекин впервые в мире решил объединить сведения о своих гражданах на федеральном уровне, из банков, с места работы, учебы, жительства и т.д. Для этого каждому китайцу обычное удостоверение личности заменяют на пожизненный электронный идентификатор. Данные в него могут заносить только власти. В скором времени доступ к интернету, приобретение собственности, машины, получение или съем жилья, поступление на работу и любые другие экономические, социальные и даже бытовые действия в Китае будут возможны только с помощью личного идентификатора с 18-разрядным кодом.
— Его что, в тело вживляют?
— Меньше смотрите голливудские «ужастики»! Никакого вживления. Пока идет тестирование вариантов. В Шанхае, например, идентификатор выглядит как СИМ-карта. Где-то в виде пластиковой карточки.
Кроме официальных стандартных данных, принятых во всем мире: имя, фамилия, дата, место рождения, жительства, семейное положение, в идентификатор заносятся сведения об имуществе, аренде недвижимости, кредитное досье, соблюдение трудовой дисциплины на рабочем месте, участие в благоустройстве, уборке мусора, как ведет себя с соседями, не включает ли по ночам громкую музыку в квартире и масса другой информации из разных источников. Данные судебных органов, сведения из полицейских и иных правоохранительных баз, систем видеонаблюдений. В скором будущем – от «интернета вещей».
— Неужели «умные» чайники, телевизоры, ноутбуки в квартире будут доносить на своих хозяев? Что смотрят, едят, пьют?
— Любой «умный» чайник, пылесос, холодильник через интернет соединен с сервером своей компании. А с него информация поступит, куда надо китайским властям. Я уж не говорю о ноутбуках, мобильниках, уже сегодня снабженных камерами.
Если видеокамера, интернет вещей покажут, что гражданин нарушает нормы порядка, морали и нравственности, его социальный рейтинг понижается. Если зафиксируют благородный поступок, типа, помог бабушке перейти улицу, спас щенка — повышается.
На втором этапе развертывания Системы (2023-2027 гг.) планируется сбор сведений об отношении китайцев к своему здоровью, детям, родителям, другим родственникам, супругам…
— Супружеские измены тоже будут фиксировать?
— Разумеется! За походы «налево» рейтинг снизят.
Таким образом, вскоре китайское руководство сможет получать в режиме онлайн полную картину жизни в Поднебесной, вплоть до отдельной личности и ее постели.
КНУТ И ПРЯНИК
— На Западе SCS сводят к тотальной слежке и оценке поведения рядовых китайцев, — продолжает Владимир Овчинский. — Но это не так. Для руководителей партийно- государственного аппарата разных уровней, владельцев и топ-менеджеров бизнеса наказание строже, чем для простого народа. Это инициатива главы КНР Си Цзиньпина, развернувшего масштабную борьбу с коррупцией. Система охватит и юридические лица — всевозможные бизнескомпании, некоммерческие, управленческие структуры и организации, их руководство.
Чиновники партийно- государственных органов при снижении рейтинга не смогут покупать недвижимость и землю. Члены их семей, включая взрослых детей и разведенных супругов, попадают в «черные списки», ограничивающие возможность приобретать или легально вывозить за рубеж валюту, участвовать в компаниях, эксплуатирующих природные ресурсы, а также биржевых, экспортно-импортных операциях.
Эти руководители и члены их семей лишаются права путешествовать первым и бизнес-классами на высокоскоростных поездах и самолетах, проживать в отелях выше четырех звезд, отдыхать на престижных курортах. Им запрещено посещать любые рестораны, ночные клубы, поля для гольфа, выезжать за границу в отпуск. Для их детей закрываются платные школы и т.п.
Год назад ЦК КПК и Госсовет одобрили опыт наказания руководящих работников с падающим социальным рейтингом, потребовали неукоснительно соблюдать этот принцип на местах, приняли решение с 2020 г. публиковать «черные списки» таких чиновников. Также была поддержана инициатива Шанхая, где абонента, набравшего с мобильного или стационарного телефона номер «штрафника» автоматически предупреждают перед соединением: «человек, которому вы звоните, находится в «черном списке» в системе социального кредита и не вызывает полного доверия».
— Это кнут. А пряники?
— Высокорейтинговых работников партгосаппарата включают в спецпрограммы переподготовки кадров с последующим повышением. Система социальных лифтов в действии! Руководителям и владельцам бизнеса — льготные кредиты, преференции при проведении тендеров на госзакупки, господдержка в импортно-экспортных операциях.
— Что с рядовыми китайцами?
— Пока, повторяю, идет широкомасштабный эксперимент в крупных городах. По официальным сообщениям, только в 2018 году было зафиксировано 14 млн. нарушений гражданами Китая (кроме высокопоставленных чиновников, владельцев и топ-менеджеров бизнесов.) В основном — просрочка кредитов, недостоверная реклама, незаконная уличная торговля, жестокое обращение с членами семьи и родственниками, нарушение правил общежития и т.п. Сегодня 17.5 млн. китайцев из-за пониженного рейтинга не могут купить авиабилеты, 5,5 млн. — билеты на поезд, для 2 млн. граждан ограничены возможности направления детей в лучшие школы, для 0,8 млн. – поступление в высшие учебные заведения. В «черные списки» также попали 4 млн. юридических лиц. Им запрещено участие в госзакупках, аукционах на землю, работа на фондовом рынке, экспортно-импортные операции…
«Пряники» народу за повышенный рейтинг — скидки до 25 процентов на билеты на самолеты и скоростные поезда, подключение интернета с максимальной скоростью (для нарушителей – «медленный» интернет.) Банковские кредиты с процентной ставкой на треть ниже установленной, с компенсацией от государства, преимущества в конкурсах на лучшие рабочие места, бесплатное повышение квалификации и т.д.
Один лишь наглядный пример, как формируется социальный рейтинг в Поднебесной. У нас привычно иметь прописку в одном месте, а жить в другом. По разным обстоятельствам. Если китаец снял жилье в другом районе, городе, поселился у подруги и не уведомил вовремя власти, с него снимут баллы. И прибавят добровольному информатору, известившему власти о нарушителе. Бдительному соседу, приятелю, родственнику.
-Стукачу.
— В Китае так не считают. Гражданин проявил сознательность.
И ОТ КАМЕРЫ НЕ СПРЯТАТЬСЯ, НЕ СКРЫТЬСЯ
— Главный упрек, скорее, обвинение «китайскому электронному концлагерю» — тотальная слежка с помощью видеокамер. Отсюда популярная аналогия с «Большим Братом» Оруэлла!
— В 2015 г. Министерство общественной безопасности КНР начало внедрять в Поднебесной глобальную систему видеораспознавания граждан. И не только по лицу. Сейчас китайская милиция испытывает технологию распознавания людей по походке. Программа разработана, кстати, местной компанией «Watrix». Она идентифицирует человека на расстоянии 50 метров, даже если у него скрыто лицо или он стоит к видеокамере спиной.
В прошлом году западные журналисты провели эксперимент в Харбине, Шанхае, Шеньчжене, как быстро милиция их вычислит на оживленной улице. Тех, кто прожил в Китае не меньше года, опознали за 34 секунды. Кто провел в стране не больше недели – за минуту с небольшим. Причем, не только лица засекли, но идентифицировали по именам, фамилиям, номерам иностранного паспорта, стране постоянного гражданства и основного места пребывания в КНР.
— Фантастика!
— Скорее, результат на троечку. В 2022 году, когда систему видеонаблюдения полностью введут в строй (600 миллионов камер!), человека будут опознавать в течение трех секунд. Из миллиарда с лишним населения Китая плюс иностранные граждане.
ИЗ ГЛУБИНЫ ВЕКОВ
— Эксперты, публицисты действительно сводят всю Систему Социального Кредита к «Большому Брату» Оруэлла, — говорит доктор юридических наук Владимир Овчинский. — Но это поверхностный взгляд. Вопрос уходит вглубь веков, когда видеокамер не было и в помине. В 400 году до н.э. великий реформатор Шан Янприказал народу разделиться на группы по 5–10 семей, чтобы наблюдать друг за другом и нести коллективную ответственность за преступления. Староста регулярно докладывал начальству об отъезде и приезде каждого человека. Система называлась «баоцзя».
За века она вошла в плоть и кровь нации. Специфическая цивилизация, которую «аршином общим не измерить».
— У них и социализм с китайским лицом. Когда мировой соцлагерь во главе с СССР рухнул, Китай был бедной заштатной страной. На наших глазах за три десятка лет он превращается в первую экономику мира!
— Так вот, древняя «баоцзя» и стала в 21 веке ментальной основой Системы Социального Кредита. На Западе по либеральным меркам ее называют «электронным концлагерем».
Возникла она не случайно. Новый председатель КНР Си Цзиньпин в 2013 г. выдвинул концепцию «китайской мечты»: национальное возрождение, создание процветающего могущественного государства, народное благоденствие. Для достижения этой Мечты, по его словам, нужны три основных условия:
«1.Обязательно идти по китайскому пути, то есть по пути социализма с китайской спецификой.
2. Необходимо возвышать единство китайского народа, основанное на доверии, китайский дух, сердцевина которого-патриотизм, а также дух эпохи, сердцевина которого — реформы и новаторство.
3. Необходимо объединять силы нации, которые рождаются великой сплоченностью 56 национальностей 1,3 миллиардного населения. Китайская мечта — это мечта всей нации и мечта каждого китайца в отдельности».
В Поднебесной доверие — синоним гармонии между человеком, общиной и государством. Гармония же – высший долг, цель и потребность китайца.
«Для борьбы с острой проблемой недостатка доверия нужно крепко взяться за создание системы оценки надежности, покрывающей все общество, — заявил глава КНР. — Нужно совершенствовать как механизмы поощрения законопослушных и добросовестных граждан, так и механизмы наказания тех, кто нарушает закон и утратил доверие, чтобы человек просто не осмеливался, просто не мог потерять доверие».
Следуя указанию Си Цзиньпина, Госсовет КНР и принял «Программу создания Системы Социального Кредита (доверия) на 2014–2020 годы.»
Чтобы все граждане стремились к полноценной, открытой жизни и не имели темных секретов от окружающих.
Эта система становится важнейшим контуром партийно-государственного управления Поднебесной. Но, в отличие от древней «баоцзя», в 90-95 процентах случаев оценивать поступки и проступки человека будут не чиновники, а искусственный интеллект, свободный от предвзятости и односторонности.
Особое внимание к партгосаппарату в этой Системе — тоже не изобретение Си Цзиньпина, а многовековая традиция.
Уже в Древнем Китае появилась методика оценки и ранжирования чиновников, военных разных уровней. Впервые она была зафиксирована около 240 года н.э. в трактате крупного государственного деятеля Лю Шао «Учение о человеческих способностях». С ее помощью Лю Шао надеялся заменить нерадивых чиновников, бездарных военачальников талантливыми, добросовестными людьми. Позже появились так называемые таблицы «небесного мандата». Для их заполнения все претенденты на руководящие должности проходили экзамены, плюс собеседования с опытными администраторами.
Та же система тотального видеоконтроля предназначена в первую очередь для нужд Национальной милиции, служб безопасности. Бороться с преступностью, терроризмом. Недаром испытывать ее начали в 2016 году в Синьцзянь-Уйгурском автономном округе (СУАО), где проживает более 10 млн. мусульман. Первые теракты начались здесь в 90-х, когда местные исламисты стали возвращаться с оружием в руках из Афганистана. Пошли массовые беспорядки, взрывы, убийства чиновников, милиционеров. Правительству пришлось вводить войска. Новая волна пошла в 2008 году, в дни летней Олимпиады в Пекине. Синьцзяньские террористы устроили тогда десятки взрывов. Особенно кровавым выдался 2014 год. Взрывы на рынке в Урумчи унесли 35 жизней, 94 раненых. При нападении на железнодорожный вокзал в Куньмине погибли 29 человек, свыше 130 были ранены. За эти годы произошло несколько терактов с человеческими жертвами на площади Тяньаньмэнь.
-Аналог нашей Красной площади.
-Представляете масштаб террора? В целях борьбы с террористами в Синьцзяне ввели масштабное видеонаблюдение. Система оповещает милицию, если местные жители отклоняются больше, чем на 300 метров, от «безопасных зон» (дом, работа, маршруты между ними, рынок и близлежащие магазины).
В этом случае милиция имеет право остановить человека или допросить его родных. Волна исламистского террора схлынула.
Для Системы же социального кредита, именуемой либералами «электронным концлагерем», милицейские видеокамеры фиксируют и передают мелкую бытовую информацию. Благородные поступки — спасение котят, щенков, перевод стариков через улицу. И негативные — драки, мелкое воровство, нарушение прав уличной торговли, нахождение в общественных местах в пьяном виде и т.п.
Итак, по заявлениям руководства КНР, «Система Социального Доверия – инструмент осуществления китайской мечты, базирующийся на китайских традициях, больших данных и искусственном интеллекте».
