Зачем демократия, когда есть данные?

Jul 23, 2018
Blog

Каждый день мы видим новости о новых успехах ИИ, о том, как он решает всё более сложные задачи и облегчает нам жизнь. Но есть ли у развития технологий “тёмная сторона”? Может показаться, что тотальный контроль – это из области мрачных антиутопий. На ум придут рассказы Азимова или пара серий “Черного Зеркала”. Но многое, чем грозили фантасты, уже реализовано на практике, правительством Китая.

Диктатура вообще не слишком способствует отслеживанию общественного мнения. Нет публичных дебатов, сайтов с петициями, откровенных постов в соцсетях. Веками в Китае существовала традиция, по которой люди из отдалённых провинций могли отправиться в Пекин и выступить на площади, обратившись лично к императору. Теперь же лицо “потенциального нарушителя спокойствия”, будет автоматически распознано камерами наблюдения. Если он находится не там, где хотелось бы властям, его просто арестуют.

Сейчас управление 1,4 миллиарда китайцев зависит от сочетания слежки, искусственного интеллекта и анализа big data. Эти инструменты позволяют следить за жизнью людей в мельчайших подробностях. Имея такой огромный массив данных, правительству даже не обязательно знать что-то об отдельном человеке, всё решается на уровне статистики и математических моделей. Китайцы с 2003 года живут в своём обособленном мире за Великим китайским файрволом, ограничивающим доступ к зарубежным сайтом и отслеживающим использование запрещённых ключевых слов. Раньше они контролировали информацию, но теперь информация контролирует их.

Существуют “чёрные листы” для граждан с плохой кредитной историей, не уплативших штрафы, плохо отзывавшихся о правительстве или просто покупающие слишком много книг. Точный алгоритм держится в секрете, но по ряду подобных факторов программа сама определяет “неблагонадежных”. В зависимости от списка, в который попал человек, запрещается покупать билеты на поезда, жить в дорогих отелях, пользоваться услугами банков. Или можно просто оказаться в “воспитательном лагере”. Известен случай, когда парень не поступил в колледж, потому что его отец когда-то не вернул кредит.

Осваивается и метод “социального кредита”. Например, каждому из 740 тысяч жителей города Жунчэн присвоена 1000 очков. Поощрения от администрации, участие в работах на благо города или денежные пожертвования добавляют очки. А за любые административные нарушения они снимаются. Люди с хорошим счетом могут получать скидки на товары или улучшать условия ипотеки. Образцовые граждане даже попадают на рекламные плакаты. А вот те, кто оказался “на плохом счету”, не могут брать кредиты и занимать руководящие должности. Да и из Коммунистической партии вылететь можно. Технология работает автоматически и получает положительные отзывы от местных властей. Скоро рейтинговая система может начать действовать для всего Китая.

Хотим ли мы жить в мире, где ИИ может решать судьбу человека? А самое главное, есть ли у нас выбор?

Предыдущая статьяСледующая статья