Китай откажется от антикоррупционной ИИ-системы Zero Trust из-за ее высокой эффективности

В Китае, одна из разработанных относительно недавно систем (внедрение стартовало в 2012 году) носит название «Zero Trust», ее назначение — поиск коррупционеров, с которыми китайское правительство тщательно борется. У системы есть доступ к 150 базам данных государственного значения, в которых содержится масса информации о работе и социальной жизни чиновников. Искусственный интеллект обрабатывает эти данные и выявляет несоответствия, которые могут указывать на нарушение закона теми, кто призван ему служить.

Китай старается использовать высокие технологии для решения многих проблем. Это и социальное взаимодействие граждан, их послушание закону, соблюдение правил общения в сети и многое другое.

Вообще говоря, управлять жизнью граждан в Китае должны чиновники, но их уж очень много. Официально это около 50 млн человек, по подсчетам общественных организаций — около 65 млн. Лишь немногим меньше, чем население Великобритании. И кто-то ведь должен следить за этой армией. Правительство Китая решило поставить технологии на благо отечества — программная платформа особого рода была создана для оценки деятельности власть имущих.

Для разных категорий чиновников используются различные технологии. Например, для Министерства иностранных дел Китая применили специальную ИИ-платформу, которая позволяет оценивать риски от принятия тех либо иных решений, включая взаимодействие Поднебесной с США.

Для обычных граждан применяется система мониторинга, включающая миллионы камер и дата-центры, которые анализируют информацию, поступающую с «электронных глаз». Практически в режиме реального времени идет идентификация граждан с выделением тех из них, кто объявлен вне закона (например, преступник, которого разыскивают).

Крупнейшие китайские технологические компании разрабатывают для правительства эффективные решения и поставляют оборудование. Одна из таких компани, ZTE, выиграла государственный контракт на создание блокчейн-технологии, которая позволяет сохранять данные государственного значения в неприкосновенности — изменить их без особого доступа никто не может.

Курс на технологизацию поддерживают чиновники из высших эшелонов власти, включая главу Китая. Он неоднократно заявлял о необходимости использования научно-технической базы (включая искусственный интеллект) для поддержания работы правительства.

Одна из разработанных относительно недавно систем (внедрение стартовало в 2012 году) носит название «Zero Trust», ее назначение — поиск коррупционеров, с которыми китайское правительство тщательно борется. У системы есть доступ к 150 базам данных государственного значения, в которых содержится масса информации о работе и социальной жизни чиновников. Искусственный интеллект обрабатывает эти данные и выявляет несоответствия, которые могут указывать на нарушение закона теми, кто призван ему служить.

«Zero trust» может определять странные транзакции (например, средства на покупку автомобиля, переведенными чиновником, зарплата которого явно не соответствует уровню транспортного средства), а также отслеживать связи чиновников друг с другом. Кроме того, эта же система оценивает стоимость земельных участков и домов, принадлежащих чиновникам.

Как оказалось, система очень эффективна. Несмотря на то, что она работает лишь в паре десятков регионов и городов, «Zero Trust» смогла обнаружить 8721 правонарушителя (или же те, кого система посчитала таковыми). Но спустя какое-то время работу системы решили остановить, поскольку она оказалась слишком эффективной. И не только эффективной, но и проблемной.

Дело в том, что система указывала на нарушителя, но не могла «рассказать», почему этот человек является коррупционером. К расследованию каждого из случаев приходилось привлекать массу людей, которые не всегда давали однозначный вывод. Работа такого рода может продолжаться месяцами, а времени у правоохранителей не так много, они нужны и для работы с другими делами.

В итоге было решено, что подозреваемых просто будут предупреждать. Правоохранители связывались с теми, на кого указывала машина, и советовали не допускать ошибок в будущем. Некоторых, особо рьяных коррупционеров наказывали — о многих судебных процессах становилось известно не только в Китае, но и за рубежом.

По информации, предоставленной одним из сотрудников системы, ее работу было решено приостановить, поскольку подавляющее большинство чиновников жаловалось на «давление», которое они чувствовали, работая под надзором.

Этому удивляться не приходится, поскольку «антикоррупционер» с ИИ мог подключиться к базе спутниковых фото для того чтобы проверить, действительно ли ведутся работы на указанном в документации участке дороги или это ложь.

Система до сих пор работает в некоторых регионах, но их остались единицы. Администрация остальных населенных пунктов решила отключить «Zero Trust», причем причины указывались разные, включая сомнения в правомерности доступа бота к закрытым правительственным базам. Скорее всего, развернуть ее в национальном масштабе не получится, поскольку противодействие чиновников слишком велико.

Пожалуйста, оцените статью:
Ваша оценка: None Средняя: 5 (2 votes)
Источник(и):

habr.com