Алгоритмы всё чаще заменяют людей в принятии решений, начиная от найма новых сотрудников и вопросов здравоохранения и заканчивая уголовным правом. Общественность все больше беспокоится о том, как именно алгоритмы принимают решения. Судьи, рекрутеры и врачи не обязаны объяснять каждое решение. Так почему возникает проблема с алгоритмами, которые делают то же самое? Люди считают более понятным процесс принятия решений человеком, нежели алгоритмом. Но, как утверждают исследователи, люди, делающие выбор, «часто такие же «черные ящики», как и алгоритмы, которые призваны их заменить».
На прошлой неделе было объявлено, что Верховный суд КНР обязал судей при принятии решений консультироваться с искусственным интеллектом, сообщает South China Morning Post. Нейросеть будет автоматически проверять судебные дела на наличие ссылок, а также рекомендовать законы и постановления, наиболее отвечающие сути спора.
На прошлой неделе South China Morning Post сообщила, что Верховный суд Пекина обновил судебную систему. Теперь судьи при принятии решений должны консультироваться с ИИ по каждому делу. Нейросеть будет автоматически проверять судебные дела на наличие ссылок, а также рекомендовать законы и постановления, наиболее отвечающие сути спора.
Пекин приветствовал новую технологию «умного» суда за то, что она внесла «значительный вклад в развитие судебной системы человеческой цивилизации», в то время как критики говорят, что она рискует создать мир, в котором человеком управляет машина.
Чуть больше года назад в Международном журнале судебного администрирования была опубликована статья Тани Сурдин и Бина Ли «Умный суд – новый путь к правосудию в Китае?» (The Smart Court – A New Pathway to Justice in China?). В ней авторы пишут, что Китай внедрил ряд новых технологий в свой сектор правосудия, чтобы обеспечить более широкий доступ к правосудию, повысить прозрачность судебной системы и обеспечить справедливое решение сторон в споре по юридическим вопросам.
Практика китайских судов по использованию технологий уникальна, поскольку центральное правительство приняло всеобъемлющие меры по созданию системы «умных» судов на всех уровнях. Авторы утверждают, что «умная» судебная система, основанная на компьютерных технологиях, которые позволяют использовать большие данные и блокчейн, формировать консультативные и определяющие формы правового искусственного интеллекта (ИИ), в определенной степени способствует более легкому доступу к правосудию, позволяет ускорить процесс разрешения споров, сократить расходы. Все это происходит за счет перевода судебного процесса в онлайн-режим и обеспечения возможности исполнения судебных решений.
Однако, с другой стороны, существуют опасения, связанные с применением некоторых технологий, которые включают использование автоматизированных решений, вопросы цифрового разрыва, независимость судебной системы, а также вопросы, связанные с конфиденциальностью и защитой данных.
Технологии, — от вычислительной техники и интернет-разработок до более поздних инноваций, связанных с использованием больших данных, формированием цепочек блоков и искусственным интеллектом (ИИ), -развиваются каждый день и вносят свой вклад в изменения на всех уровнях человеческого общества. Как часть человеческого общества, система правосудия и связанные с ней судебные процессы также неизбежно претерпели ряд изменений, которые стали возможными благодаря недавно разработанным технологиям. Одновременно в последнее время онлайн-судебные слушания получили распространение в таких юрисдикциях, как США, Великобритания, Канада и Австралия, отчасти в ответ на вызовы, возникшие в системе правосудия из-за пандемии COVID-19.
Как и некоторые другие страны, Китай внедрил новые технологии и попытался использовать технологические достижения в судебной системе в ответ на некоторые вызовы, возникшие в так называемую «информационную эру». Авторы утверждают, что Китай в последнее время развивался быстрее, чем другие страны, и этот прогресс частично связан с всеобъемлющей структурой, принятой в системе правосудия. Очевидно, есть много причин, по которым Китай сосредоточился на внедрении технологий в судах, и основная мотивация, по-видимому, связана с расширением доступа к правосудию и поддержкой «справедливых» результатов для тех, у кого есть юридические проблемы.
Китай принял амбициозный план по созданию «умного» суда и модернизации судебной системы по всей стране с использованием различных технологических инноваций. Как определил Главный судья Цян Чжоу, председатель Верховного народного суда КНР (SPC), в отчете о работе SPC за 2016 год, где впервые была официально упомянута концепция «умного» суда, его характеристики должны включать: «….обеспечение справедливости и эффективности судебной системы, повышение доверия к суду, максимальное использование технологий, включая Интернет, облачные вычисления, большие данные и ИИ, содействие модернизации судебной системы и возможностей Китая, а также достижение высокоинтеллектуального функционирования и управление народными судами».
Роль технологий была подтверждена в определении «умного» суда в 2017 году, в котором говорилось, что терминология не применяется к одному конкретному суду. Скорее, этот термин относится к «организационной, конструктивной и операционной модели народных судов, которая основана на передовых инновациях с целью достижения справедливого судебного разбирательства посредством поддержки интеллектуальных судебных онлайн-сервисов на протяжении всего процесса разрешения споров в прозрачной среде».
Примечательно, что создание «умной» судебной системы было интегрировано в Национальную стратегию развития информатизации Китая в 2016 году и было направлено на «повышение уровня информатизации на всех этапах судебных процессов, включая подачу иска, слушание, исполнение решения». С 2016 года уровень информатизации судебной системы Китая быстро растет, он направлен на более скорое разрешение споров, что позволяет достичь справедливости в более широком смысле. К июню 2019 года в Китае сформировалась «умная» судебная система, предлагающая населению прозрачные онлайн-услуги в рамках всего процесса.
Преобразование и реформа китайских судов
Китай начал развивать полный доступ к глобальным интернет-услугам в 1994 году и не входил в число одной из первых стран в мире, которые воспользовались преимуществами интернет-технологий. Китай также не был пионером в области судебного разбирательства по электронной почте. Однако очевидно, что, хотя многие страны изначально считали, что технологии могут быть полезны в судах, и разработали некоторые технологические процессы, авторы считают, что Китай был более активен, чем другие государства, особенно в последние несколько лет. Например, еще в 1998 году достопочтенный судья Верховного суда Австралии Майкл Кирби заметил, что суды начинают ежедневно использовать новые информационные технологии и что эти технологии, вероятно, приведут к радикальным изменениям в проведении судебных процессов. Несмотря на столь многообещающее начало, во многих юрисдикциях реформа застопорилась. Напротив, события в Китае развивались быстро, и некоторые предполагают, что Китай является новым лидером в области юридических технологий.
В 2019 году SPC отметил, что Китай добился значительного прогресса в области информационных технологий и интернет-индустрии, что, в свою очередь, создало проблемы для национального управления и отправления правосудия в стране. Возможно, растущее число интернет-пользователей в Китае позволяет судам использовать технологии и переводить судебную деятельность в онлайн. По факту, согласно отчету о развитии интернета в Китае, к началу 2021 года в Китае насчитывалось 989 млн пользователей интернета, что на 85,4 млн больше, чем в марте 2020 года.
Давление на китайскую судебную систему также было мотивирующим фактором, поскольку большое население Китая и более активная гражданская и коммерческая деятельность создавали проблемы для его судебной системы и увеличивали нагрузку на судей. Например, только в 2015 году в Китае было открыто более 16.714 млн судебных дел, что примерно в 27 раз больше, чем в 1978 году, когда Китай начал открываться для остального мира. Среди всех этих дел гражданские и коммерческие споры насчитывали 11.045 млн, что в 34,7 раза больше, чем в 1978 году. Судебная нагрузка также стала проблемой, поскольку в 2015 году в общей сложности было 196 000 судей, что всего в 3,27 раза больше, чем в 1981.
Огромный разрыв между количеством дел и числом судей был отражен в заявлении SPC в 2015 году о том, что судьи сталкиваются со все большей нагрузкой, поскольку те, кто работает в регионах с высокими экономическими показателями, должны ежегодно завершать 300 дел на одного судью. В своем годовом отчете о работе за 2017 год SPC сообщил, что в провинции Чжэцзян, где находится множество крупных корпораций, в том числе Alibaba, среднее количество закрытых дел на одного судью составило 315.
С конфликтом между растущим числом дел и нехваткой людских ресурсов, имеющихся в судах, связана озабоченность тем, что некоторые дела не завершаются своевременно, что не служит цели правосудия. И наоборот, во многих западных странах в 1980-х годах были высказаны серьезные опасения, связанные с затратами и задержками отправления правосудия, и основные решения были связаны с внедрением более эффективного ведения дел, а также с более широким использованием альтернативного разрешения споров, изменением юрисдикционных механизмов и ростом числа трибуналов. В то время как технологии сыграли свою роль в сокращении задержек и затрат в основном за счет внедрения поддерживаемых систем управления делами, в Китае технологии, которые могли бы значительно изменить судебную деятельность, были просто недоступны в 1980-х и 1990-х годах, когда в западном мире проводилась судебная реформа. В Китае, как и во многих западных странах, в ответ на увеличение количества дел, поданных в суды, было высказано предположение, что увеличение сборов за подачу всех поданных заявлений может сократить количество дел. Однако по ряду причин эта политика не проводилась по примеру ряда западных стран, где были введены дифференцированные сборы за подачу исков, чтобы ограничить подачу судебных исков и способствовать урегулированию споров до подачи иска.
В Китае озабоченность по поводу уязвимых групп населения и равенства доступа привела к появлению других подходов, в большей степени ориентированных на технологические инновации. В связи с этим авторы утверждают, что «интеллектуальная» трансформация судов за счет использования информационных технологий соответствовала бы традиционным ценностям судебной власти, позволяя судам быть более прозрачными, эффективными и ориентированными на людей. В статье отмечается, что технологическое удобство может поддерживать удобство судебной системы, что, в свою очередь, может значительно снизить высокие затраты, связанные с доступом к правосудию.
Кроме того, технологическая трансформация была направлена на открытие судов для публики. В 2014 году, принимая во внимание возможность улучшения системы правосудия с помощью технологических средств, председатель Верховного народного суда КНР Цян Чжоу призвал все китайские суды приложить усилия для того, чтобы общественность могла «ощутить справедливость», реализуя принцип судебной открытости «…с помощью интернет-технологий, таких как загрузка всех судебных решений в Интернет, прямая трансляция судебных слушаний и т. д.»
Несмотря на быстрое внедрение технологий в судебные системы в последние годы, предполагается, однако, что «умные» суды являются результатом трансформации судебной системы Китая, состоящей из трех этапов, которая началась в 1990-х годах.
Первый этап начался после «Национальной конференции по вопросам судебной коммуникации и компьютеров» в 1996 г. («Конференция 1996 г.») и закончился в 2003 г., когда все суды в Китае завершили оцифровку своих файлов. Конференция 1996 года была первым случаем, когда технология была в центре внимания с точки зрения решения вопросов судебного управления. Примечательно, что до этого многие судебные дела в Китае были написаны от руки. Проведенная работа не только перевела всю работу в цифровую форму, но также открыла путь судам для разработки онлайн-системы подачи документов. В последующем документе, выпущенном в 1997 году, SPC указал, что основная причина создания судами компьютерных систем заключалась в том, что традиционное ведение судебных документов не могло обеспечить эффективных услуг в контексте растущего числа дел. В более широком смысле, отсутствие цифровых или электронных документов, касающихся рутинной работы судов, таких, например, как доказательства, а также законодательные акты, на которые постоянно ссылаются судьи, поставили под угрозу эффективность судов. Таким образом, этот этап китайской судебной реформы был сосредоточен вокруг оцифровки судебных документов для внедрения компьютерных технологий в суды.
В первом Плане пятилетней реформы народных судов (1999-2003 гг.) было указано, что для модернизации судебного управления суды всех уровней по всей стране должны были оцифровать документы к концу 2001 г. Кроме того, в течение пяти лет (т.е. к концу 2003 г.) должна быть полностью создана общенациональная интернет-сеть, соединяющая все суды.
Второй этап трансформации судов Китая с 2004 по 2013 год характеризовался появлением судебных слушаний с использованием Интернета. То есть компьютерные и интернет-технологии использовались для ведения дел, а также в ходе слушаний. В 2004 году местный суд провинции Гуандун в Южном Китае принял поданное заявление о разводе, согласно которому пара проживала соответственно в Китае и Канаде, и суд общался с ответчиком (в данном случае с мужем) за границей по электронной почте, а также онлайн вручал документы. Таким образом происходил обмен судебными материалами. Хотя в этом деле не было видеоконференций, а электронная почта использовалась для общения и обмена информацией, это остается ранним примером, как интернет-технологии использовались для облегчения судебной работы. Более заметный пример слушания с помощью Интернета имел место годом позже, в 2005 году. Местный суд провинции Гуйчжоу использовал Tencent QQ, инструмент для обмена мгновенными сообщениями в Интернете, чтобы провести судебное заседание, когда одна из сторон развода не могла присутствовать лично, находясь в другой провинции. Аналогичные механизмы были приняты для поддержки уезжающих трудящихся-мигрантов, испытывающих трудности с поездками на гражданские слушания, и местный суд в Гуйчжоу продолжает использовать этот инструмент в упрощенном порядке. Первое полноценное слушание в режиме видеоконференцсвязи в Китае состоялось в 2007 году по уголовному делу о краже в Шанхае.
В начале 2000-х протоколы ведения судебных дел стали записывать с помощью технических средств, таких как аудио- и видеозапись. SPC изложил задачи, которые должны были выполнить суды, во втором Плане пятилетней реформы народных судов (2004–2008 годы). В этот период судебной открытости способствовала прямая трансляция судебных слушаний для публики. Например, в сентябре 2009 года Верховный народный суд Пекина объявил, что в целях содействия правосудию и предоставления людям возможности следить за работой судов он запустил веб-сайт судебных слушаний в прямом эфире, к которому широкая общественность по всей стране имела одновременный доступ и могла наблюдать за слушаниями, проводимыми в любом суде района Пекина.
В марте 2010 года Верховный народный суд провинции Хэнань в Центральном Китае также объявил о проведении первого слушания в прямом эфире в рамках своих усилий по повышению прозрачности правосудия. Несмотря на некоторые потенциальные преимущества в отношении слушаний в прямом эфире, были высказаны некоторые опасения, связанные с защитой конфиденциальности сторон и снижением дискомфорта для судей в связи с прямыми трансляциями. В самом деле, для решения этих вопросов, SPC включил «регулирование слушаний в прямом эфире» в качестве одной из задач судебной реформы в своем третьем Пятилетнем плане реформы народных судов (2009-2013 гг.).
В 2010 году SPC выпустил рабочий документ под названием «Меры в отношении прямой трансляции и трансляции записанных слушаний в народных судах», обязывающие все суды соблюдать четкий процесс, предназначенный для управления прямой трансляцией и записью слушаний.
В 2014 году китайские суды вступили в третий этап трансформации судебной системы Китая, который означал использование более сложных технологий. В Плане реформы народных судов за четвертую пятилетку (2014-2018 гг.) SPC сослался на информационные технологии для создания «открытой, динамичной, прозрачной и удобной» судебной системы, чтобы общественность могла «понимать, доверять и контролировать правосудие». В 2017 году, через год после того, как концепция «умного» суда была официально принята, Председатель Си Цзиньпин потребовал от судов ускорить судебную реформу с помощью современной науки и технологий, чтобы реформа правовой системы могла обеспечить дальнейшее развитие социализма с китайской спецификой. К 2017 году исполнительное руководство определило, что современная реформа судов требует системы, основанной на современных технологиях. В последнем Пятилетнем плане реформирования народных судов (2019–2023 гг.) SPC подтвердил, что «всестороннее продвижение строительства «умного» суда» является одной из десяти целей реформы системы правосудия в этот период. Что касается конкретных мер, принятых для достижения этой цели, SPC сослался на технологические инновации, связанные с ИИ, в том числе на улучшение подходов «перевод голоса в текст» на слушаниях, а также на интеллектуальные вспомогательные системы управления делами.
Также к 2017 году в суды уже был внесен ряд значительных изменений. Действительно, один из авторов доклада прокомментировал свой опыт посещения суда в Ханчжоу в 2017 году: «Меня впечатлило то, что я увидел: робот в приемной, который предлагал онлайн-юридическую помощь посетителям суда; возможность электронной подачи документов на месте; выделенные виртуальные залы судебных заседаний; дикторонезависимое распознавание голоса; и демонстрация первого в Китае «интернет-суда», который разрешает связанные с Интернетом споры, касающиеся, например, онлайн-кредитов, электронной коммерции (договорные вопросы и вопросы ответственности за качество продукции), споры о доменных именах и вопросы авторского права в Интернете».
Как отмечают авторы статьи, «умный» суд требует, чтобы судебные услуги были доступны и проводились онлайн. Первоначально многие изменения были направлены на обслуживание сторон и их юристов и обеспечение доступности информации о судебных решениях. В рамках этих усилий в 2015 году SPC отметил завершение работы над тремя онлайн-платформами, включая онлайн-информацию о судебных процессах в Китае, онлайн-информацию о судебных решениях в Китае и онлайн-информацию об исполнении судебных решений в Китае.
«Информация о судебных процессах в Китае в Интернете» предназначена для предоставления сторонам спора и юристам возможности получать обновления по собственным делам, позволяя сторонам входить в систему по идентификаторам, включающим имя, номер мобильного телефона, удостоверение личности или номер паспорта и проверочный код. Кроме того, на онлайн-платформе также доступна исчерпывающая информация, которая помогает сторонам и юристам ориентироваться в процессе судебного разбирательства.
«Информация о судебных решениях в Китае» (China Judgments Online ) публикует решения, вынесенные судами всех уровней в Китае, за исключением тех, которые не могут быть опубликованы открыто в соответствии с законом. Что еще более важно, информация и данные, полученные из судебных решений на онлайн-платформе, использовались в некоторых судебных системах, оснащенных технологией ИИ и разработанных местными судами. Например, Высший народный суд Пекина разработал и внедрил систему «Мудрый судья», опираясь на общенациональные данные о решениях, взятые из China Judgments Online. Система позволяет районным судьям Пекина, участвующим в составлении решений, обеспечить, чтобы «дела с аналогичными фактами получали аналогичные решения». Похожим образом, но конкретно в уголовной сфере, Верховный народный суд Шанхая разработал «Интеллектуальную вспомогательную систему рассмотрения уголовных дел», в которой собираются и используются шанхайскими судьями массовые судебные данные (в том числе данные из China Judgments Online) для обеспечения того, чтобы решения по аналогичным делам соответствовали принятым в других частях страны. Продвигая эту систему, бывший председатель Верховного народного суда Шанхая судья Ядун Цуй заметил:
«Поскольку судебный персонал — это разные личности со своей субъективностью, то неизбежно будут некоторые различия в обеспечении единообразия закона, что приведет к непоследовательному правоприменению и различным решениям по делам, в которых имеются аналогичные факты. Применение ИИ может предоставить судье все аналогичные дела, законы, постановления, судебные толкования и т. д., чтобы судья мог строго следовать правилам доказывания и процедуры. Это уменьшит судебный произвол и будет способствовать справедливости».
Однако подобные разработки вокруг судейства ИИ не лишены противоречий, в частности, в криминальной сфере. Например, авторами отмечается, что, хотя автоматизированные решения могут повысить эффективность, этот процесс может повлиять на судей и привести к тому, что они не захотят подробно рассказывать о своих рассуждениях или вырабатывать решения. В результате некоторые суждения, сгенерированные ИИ, выносятся без участия человека и могут быть неясными и трудными для понимания.
«Информация об исполнении судебных решений в Китае в Интернете» — это онлайн-платформа, на которой суды публикуют список сторон, которые не выполнили решения суда и/или не выплатили компенсацию. Данные об этих «дискредитированных» гражданах (включая имена и соответствующие идентификационные номера) могут быть использованы для предотвращения определенных действий таких людей, включая, например, покупку недвижимости или авиапутешествие. По данным онлайн-платформы, по состоянию на ноябрь 2019 года в списке «дискредитированных» числилось около 15,9 млн человек. SPC предположил, что различные меры, включая список «дискредитированных граждан», способствовали решению давних проблем, связанных с «трудно исполнимыми судебными решениями». В настоящее время система социального управления «умных» судов интегрирована с системой социального кредита Китая для расчета кредитных баллов физических и юридических лиц. Помимо этого, нейросеть позволяет судьям получать доступ к базам данных полиции, прокуратуры и правительства.
В дополнение к усилиям SPC по созданию онлайн-платформ, в рамках национальной стратегии «умного» суда» трансформирующего судебные услуги в онлайн-среду, был создан суд особого типа под названием «Интернет-суд». В августе 2017 года в городе Ханчжоу (провинция Чжэцзян), который считается столицей электронного бизнеса Китая, поскольку здесь находится штаб-квартира Alibaba, был открыт Интернет-суд Ханчжоу. Интернет-суд Ханчжоу обладает юрисдикцией для рассмотрения ряда дел, связанных с Интернетом, таких как споры по контрактам, возникающие в связи с онлайн-покупками и услугами. Через веб-платформу под названием «Платформа судебных разбирательств в Интернете в Ханчжоу» все судебные разбирательства могут быть завершены в режиме онлайн, от подачи дела и вручения судебных документов до изучения доказательств, онлайн-слушаний и вынесения решения. Одновременно, суд может решить использовать очный процесс для управления слушанием дела. Год спустя в Пекине и Гуанчжоу были созданы два других интернет-суда с аналогичными онлайн-платформами для судебных разбирательств.
Примечательно, что в сентябре 2019 года Интернет-суд Пекина выпустил «Белую книгу» о применении интернет-технологий в судебной практике. В официальном документе рассказывается, как различные технологии (в основном связанные с ИИ) используются, чтобы помочь суду предоставлять свои услуги, включая технологию распознавания лиц для подтверждения личности стороны, а также технологию машинного обучения для автоматического вынесения решений. Технология блокчейна также использовалась в интернет-судах для целей сохранения доказательств. В 2018 году интернет-суд Ханчжоу стал первым судом в Китае, признавшим технологию блокчейна средством хранения доказательств, помогающим в рассмотрении дел о нарушении авторских прав. Позже в том же году SPC подтвердил, что интернет-суды могут полагаться на доказательства, предоставленные сторонами, которые подтверждены электронными подписями, отметками времени, проверкой хеш-значения, блокчейном и другими методами проверки с защитой от несанкционированного доступа.
Основная цель многих из этих реформ заключалась в сокращении необоснованных задержек. В связи с этим судья Цянь Ду, председатель интернет-суда Ханчжоу, отметил в 2019 году, что среднее время слушаний по каждому делу было сокращено на 65% по сравнению с предыдущим годом.
Интернет-суд Пекина также положительно оценил эффективность своей судебной онлайн-платформы с точки зрения завершения споров. Кроме того, интернет-суды сообщают, что режим онлайн-судебного разбирательства помог сторонам избежать поездок и, следовательно, сделал правосудие более доступным.
В результате глобальной пандемии «умная» судебная система Китая расширила онлайн-процессы слушаний и сократила очные слушания. Чтобы облегчить онлайн-судебные разбирательства, суды Китая также разработали приложения для правосудия («приложения») для предоставления мобильного доступа к судебным органам. Эти приложения были особенно важны там, где в результате COVID-19 были введены блокировки и социальные ограничения. В связи с этим в январе 2018 года Народный суд промежуточной инстанции Нинбо в провинции Чжэцзян официально запустил приложение под названием «Мобильный микросуд Нинбо». Весь судебный процесс проводился онлайн, включая регистрацию дела, вручение юридических документов, посредничество, обмен доказательствами, судебное слушание и исполнение. По состоянию на август 2018 года с помощью этого приложения было рассмотрено около 70 000 дел. Сообщалось, что этот инструмент позволил сократить судебные издержки и повысить уровень удовлетворенности сторон.
Ввиду успеха приложения в регионе Нинбо, SPC продолжил разработку национальной версии «Мобильного микросуда» и начал продвигать ее в других частях страны. По официальным данным, к 31 марта 2020 г. общее число пользователей этого приложения достигло примерно 1,4 млн, и только в марте было зарегистрировано 390 тыс. новых пользователей, что представляет собой рост на 86,8% по сравнению с февралем. Кроме того, в марте в приложении было зарегистрировано 437 тыс. новых дел, что на 287% больше, чем в феврале. Среди этих дел в 72,6% сторонам потребовалось менее 15 минут для завершения процесса подачи.
Опасения по поводу использования технологий в «умных» судах
Как уже отмечалось авторами, прототип «умного» суда в Китае был завершен в 2019 году и оснащен различными технологиями для предоставления оптимизированных судебных услуг. Также было отмечено, что судьи получают выгоду от технологических инноваций, которые могут помочь им в проведении исследований и составлении решений, что приводит к завершению рассмотрения большего количества дел за аналогичный период. Что касается системы правосудия, использование технологий также способствует ее прозрачности, открытости и укреплению общественного доверия к судебной системе.
Несмотря на наличие общих преимуществ для общественности, сторон, судей и судебной системы, некоторые судьи и юристы выразили обеспокоенность по поводу технических проблем, связанных с подключением и неисправностями во время онлайн-слушаний, которые могут привести к их задержке. Такие технические проблемы могут привести к тому, что в разных регионах предпочтение может быть отдано традиционным личным слушаниям. В связи с этим в феврале 2020 года SPC выпустил официальный документ, озаглавленный «Циркуляр по укреплению и регулированию онлайн-судебных услуг в условиях пандемии». В нем SPC продвигал онлайн-судебные услуги для поддержки упорядоченной работы судов. Тем не менее, SPC указал, что готовность сторон участвовать в онлайн-процессе слушания была предварительным условием для судей, чтобы продолжать онлайн-судебное разбирательство.
Некоторые ученые поднимают проблему цифрового разрыва, когда стороны испытывают трудности с навигацией по онлайн-платформе для судебных разбирательств или имеют ограниченные знания о приложениях для правосудия. Это особенно проблематично, поскольку, несмотря на высокий уровень подключения, по оценкам, около 500 миллионов человек испытывают трудности с доступом к интернет-услугам в Китае. Проблемы с цифровыми возможностями и грамотностью могут увеличить нагрузку на судей, когда им может потребоваться информировать и обучать людей, как использовать онлайн-платформы для слушаний.
В то время как упомянутые выше проблемы будут постепенно решены в будущем за счет технологических достижений, встанет проблема того, что акцент на дешевом и быстром разрешении споров будет стоить справедливого исхода. В связи с этим возникают риски, которые могут быть связаны с типом используемых технологий. Используемые в настоящее время технологии можно сгруппировать в три уровня с некоторым перекрытием между уровнями, а также оказывать различное воздействие в зависимости от того, как используются технологии.
Во-первых, на самом базовом уровне, технологии могут использоваться для информирования, поддержки и консультирования людей, участвующих в системе правосудия («вспомогательные технологии», такие как прямая трансляция судебных слушаний для общественности или расширенная общественная информация через Интернет).
Во-вторых, технологии могут заменить функции и действия, которые ранее выполнялись людьми («замещающая технология», которая включает онлайн-регистрацию дел и обмен доказательствами, усовершенствованные системы управления делами).
Наконец, в-третьих, технологии могут изменить методы работы судей и юристов и обеспечить самые разные формы правосудия («подрывные технологии», такие как автоматизированные судебные решения с использованием ИИ), когда процессы значительно меняются и могут изменить роль судей.
В контексте «умного» суда некоторые проблемы могут быть связаны с неодинаковым подходом к поддержке технологической реформы, когда одни суды более развиты, чем другие. В связи с этим авторами было замечено, что строительство «умных» судов в регионах с высокими экономическими показателями, таких как Пекин, Шанхай и Чжэцзян в Восточном Китае, явно опережает некоторые экономически неблагополучные районы, такие как Цинхай и Тибет в Западном Китае. Отмечается, что это является результатом финансовых проблем, поскольку местные органы власти с большим бюджетом с большей вероятностью будут поддерживать технологически сложные местные суды.
Что касается вспомогательных технологий, позволяющих проводить виртуальные или онлайн-слушания, по всему миру уже существует ряд исследовательских программ, ориентированных на виртуальные/удаленные слушания. Например, в 2018 году Великобритания испытала, а затем оценила первые в стране «видеослушания» в налоговом трибунале, на которых апеллянты и представители налоговой службы присутствовали удаленно из своего дома или офиса. В Австралии аналогичные пилотные онлайн-слушания по уголовным делам проводились в 2011 г. Авторы статьи отмечают, что во время пандемии значительное количество судов по всему миру срочно перешли на онлайн-режим в ответ на COVID-19. Исследования показали, что, хотя видеослушания могут способствовать экономии средств и времени и, таким образом, улучшать доступ к правосудию, суды должны тщательно рассматривать вопрос о «соответствии» дел и лиц, участвующих в таком виртуальном подходе.
Исследования показали, что в уголовной сфере те, кто присутствует на слушаниях удаленно, находясь под стражей в полиции или в тюрьме, с большей вероятностью получат более длительные сроки, чем те, кто появляется лично. В связи с этим, несмотря на отсутствие в стране эмпирических исследований того, как онлайн-слушания влияют на вынесение приговора, один китайский прокурор в Шанхае заявил, что некоторые уголовные дела не подходят для «облачного» слушания. К таким делам относятся те, в которых фигурируют обвиняемые с нарушениями слуха и речи или несколько обвиняемых. Кроме того, удаленные подходы могут затруднить получение истцами, представляющими себя самостоятельно, представительства и других форм поддержки, поскольку они отделены от физического здания суда.
Помимо вопроса «уместности», существуют опасения по поводу способности онлайн-судов поддерживать «справедливость», что связано с неоднозначными нормативными правилами. В связи с этим SPC указал, что при обстоятельствах, когда истец дал свое согласие на онлайн-слушание, но не явился в оговоренное время или отказался от участия в онлайн-слушании без согласия судьи, за исключением некоторых уважительных причин (таких как подключение, отключение электроэнергии, форс-мажор), судьи «могут» постановить, что это может представлять собой «отказ от явки» и применить «соответствующие законы».
Например, в апреле 2020 года Народный суд округа Тонган провинции Фуцзянь рассмотрел дело, возбужденное в отношении автосервиса. Возражений против онлайн-судебного заседания истец не заявлял (после получения извещения суда об онлайн-процессе), а затем не явился в указанный день в связи с командировкой. Истец, по-видимому, попросил своего младшего брата выступить в роли истца, используя маску. В конце концов, судья выяснил, что в судебном заседании присутствовал брат истца, а не сам истец, и поэтому вынес определение о том, что отсутствие истца и отказ от назначения им представителя письменным документом убедили судью, что истец хотел «отказаться от дела». По иронии судьбы, согласно имеющему обязательную силу судебному толкованию ГПК, после вынесения судом постановления об отзыве дела истец по-прежнему имеет право возбудить другое дело по тому же иску. Ясно, что двусмысленность соответствующих правил может привести к ненужной трате времени и средств для судей, сторон и адвокатов, и в результате юристы призывают клиентов к осторожности, прежде чем принимать решение об использовании «онлайн» судебного разбирательства.
Кроме того, хотя функция автоматического вынесения решений в «умном» суде может быть полезна для снижения нагрузки на судей, возможно, что судьи могут чрезмерно полагаться на рекомендации ИИ и неохотно отступать от этих рекомендаций, тем самым поднимая вопросы о беспристрастности судей, а также о том, действительно ли такие судьи являются «инструментальными судьями». В результате существует риск, что независимость «судей» может быть подорвана совместными намерениями разработчиков, инженеров-программистов, компаний, занимающихся информационными технологиями, и других организаций, которые участвуют в разработке автоматизированного процесса принятия судебных решений.
Еще одна проблема заключается в том, что компании, занимающиеся юридическими технологиями, имеют доступ к огромному количеству судебных данных при разработке своих продуктов для судов. Это явно создает проблему информационной безопасности, а также риск того, что данные, собранные разработчиками системы, могут быть уязвимы для сбора и неправомерного использования неуполномоченными третьими лицами.
Кроме того, в Китае количество и качество судебных данных, на которые разработчики полагались, чтобы предоставить судьям репозитории для облегчения принятия ими решений, имеют сомнительную ценность. В частности, только 50% всех судебных решений в Китае были переведены в цифровую форму и использовались для сбора данных. Поскольку почти половина всех решений недоступна разработчикам, сомнительно, насколько надежными могут быть предлагаемые результаты. Помимо этого, автоматизированные процессы требуют сложного машинного обучения, чтобы читать, понимать и затем оценивать тексты образцов документов. Однако на практике большинство разработчиков использовали общую технологию обработки языка, которая затем применялась к конкретным настройкам «справедливости», что поднимает дополнительные вопросы о точности автоматических суждений.
Кроме того, не только суды, но и другие правоохранительные органы стремятся внедрить цифровые технологии в свою работу. В СМИ рассказывалось о том, что китайская прокуратура использует нейросети для оценки доказательств и опасности подозреваемого для общества. В начале 2022 года народная прокуратура Шанхайского района Пудун протестировала ИИ, который может выдвигать собственные версии обвинения после изучения уголовного дела. Нейросеть способна идентифицировать восемь самых распространенных преступлений, среди которых мошенничество, азартные игры, опасное вождение, умышленное причинение физического вреда, воспрепятствование выполнению служебных обязанностей и завязывание ссор.
Ещё в 2017 году у одного из самых известных предпринимателей Китая было смелое видение будущего: компьютерная система, которая могла бы предсказывать преступления. Предприниматель Инь Ци, основавший стартап Megvii, занимающийся ИИ, рассказал китайским государственным СМИ, что система наблюдения может дать полиции поисковый инструмент для выявления преступлений, анализируя огромное количество видеоматериалов, чтобы определять закономерности и предупреждать власти о подозрительном поведении. Он объяснил, что, например, если камеры обнаружат, что человек проводит слишком много времени на вокзале, система может пометить его как возможного карманника.
Пять лет спустя внутренние презентации Megvii показывают, как продукты стартапа собирают полные цифровые досье для полиции. Программное обеспечение анализирует данные, чтобы «обличить обычных людей, которые на первый взгляд кажутся ни в чем невиновными».
В 2022 году полиция Тяньцзиня купила программное обеспечение, созданное компанией Hikvision, целью которого является прогнозирование протестов. Система собирает данные о легионах китайских петиционеров — общий термин в Китае, который описывает людей, пытающихся подать жалобы на местных чиновников в вышестоящие инстанции. Затем он оценивает петиционеров по вероятности того, что они отправятся в Пекин. Местные чиновники хотят предотвратить такие поездки, чтобы избежать политического позора или разоблачения правонарушений. И центральное правительство не хочет, чтобы группы недовольных граждан собирались в столице.
Система Hikvision в Тяньцзине, которая работает в сотрудничестве с полицией близлежащих к Пекину провинций, является более совершенной. Пплатформа анализирует вероятность подачи петиций отдельными лицами на основе их социальных и семейных отношений, прошлых поездок и личных ситуаций. Это помогает полиции составить профиль каждого, с полями для пометок офицеров, чтобы описать темперамент протестующего и т.д.
Когда полиция в Чжоунине, сельском округе провинции Фуцзянь, в 2018 году купила новый комплект из 439 камер, они указали координаты, куда будет направлена каждая из них. Согласно документу о закупках, некоторые из них висели над перекрестками, а другие — возле школ. Девять из них были установлены возле домов людей, у которых есть одно общее: психическое заболевание.
В то время как некоторые программы пытаются использовать данные для выявления новых угроз, более распространенный тип основан на предвзятых представлениях полиции. Согласно документам о закупках, среди собираемых данных были данные на людей с психическими заболеваниями, осужденных преступников, наркоманов, просителей, подозреваемых в терроризме, политических агитаторов и т.п. Другие системы нацелены на рабочих-мигрантов, праздную молодежь, этнические меньшинства, иностранцев и лиц, инфицированных ВИЧ.
Система Yitu позволяет полиции разработать свои собственные ранние предупреждения. Полиция может основывать сигналы тревоги на конкретных параметрах, в том числе на том, где появляется человек, занесенный в черный список, когда он перемещается, встречается ли он или она с другими людьми, занесенными в черный список, и частотой определенных действий. Полиция могла бы настроить систему на отправку предупреждения каждый раз, когда, например, два человека с историей употребления наркотиков регистрируются в одном отеле или когда четыре человека с историей протеста входят в один и тот же парк.
В 2020 году в городе Наньнин полиция установила программное обеспечение, которое могло бы искать «более трех ключевых людей, регистрирующихся в одном и том же или близлежащих отелях», и «наркомана, часто звонящего на новый городской номер». В Шанхае власти использовали программное обеспечение для выявления тех, кто превысил норму потребления воды и электроэнергии. Система отправляла “цифровой сигнал” в полицию, когда обнаруживала подозрительные модели потребления. Вероятно, алгоритм был разработан для выявления рабочих-мигрантов, которые часто живут вместе, чтобы сэкономить деньги. В некоторых местах полиция считает их неуловимой и часто бедной группой, которая может принести преступность в сообщества.
После того, как установлены показатели и запущены предупреждения, сотрудники полиции не обладают достаточной гибкостью, централизуя контроль. Согласно экспертам и отчетам общественной полиции, их оценивают за их быстроту реагирования на автоматические сигналы тревоги и эффективность в предотвращении протестов.
***
Возвращаясь к заявлению, что Китай полностью перешёл на систему «умных» судов с искусственным интеллектом, хотелось бы сделать некоторые выводы их прочитанного. Может показаться, что в КНР создали ИИ, который рассматривает дела и выносит судебные приговоры. Если внимательно прочитать текст, можно сделать вывод, что не существует цифрового судьи, который рассматривает дела и выносит решения. «Умная» судебная система действительно использует большие данные и машинное обучение, чтобы помочь живому судье быстро находить похожие дела прошлых лет, предлагать возможные статьи закона и быстро генерировать тексты решений и связанных с ними судебных документов. Но ИИ не принимает решения за судью. Система построена таким образом, что в случае возникновения разногласий между судьей и искусственным интеллектом судья обязан внести в систему объяснение своего решения. Это сделано не для замены живого судьи электронным, а для снижения уровня коррупции и необоснованных решений.
Тем не менее, с внедрением системы «умного» суда слушания теперь могут проводиться с помощью видеоконференцсвязи, коллегии судей могут совещаться удаленно, судебные протоколы заполняются машинами с автоматическим распознаванием речи, доказательства и улики загружаются онлайн, судебные решения публикуются на едином портале, а, например, конфискованное имущество уходит с молотка прямо в режиме реального времени.
То же относится и к использованию ИИ в работе других правоохранительных органов Китая. Они разворачивают систему интеллектуального предсказания, чтобы остановить подозреваемых до совершения преступления. Внедрение ИИ – это отличная возможность снизить нагрузку на живых сотрудников. Работники смогут поручать искусственному интеллекту простые задачи, а у самих появится шанс сосредоточиться на решении более сложных.
Китай недавно заявил, что планирует к концу 2030 года построить индустрию искусственного интеллекта стоимостью $150 миллиардов. Без сомнения, большая часть этих усилий будет направлена на борьбу с преступностью и инакомыслием.
