Китайский глаз следит за своими жителями

Китайский глаз следит за своими жителями

Вы все наверняка много наслышаны о системе социального кредитования в Китае – общенациональной программе, основанной на технологиях наблюдения и призванной подтолкнуть граждан к улучшению поведения. Конечная цель состоит в том, чтобы «позволить надежным бродить по всей Поднебесной, в то же время затрудняя для дискредитированных сделать один шаг».

С 2014 года система социального кредитования находится в стадии разработки, и к следующему году она может превратиться в единую общенациональную систему начисления баллов для всех граждан Китая, сродни финансовому баллу. Отрицательный балл будет расцениваться как наказание за нарушения, такие, как неправильное вероисповедание, несвоевременная уплата налогов и возвращение банкам кредитов, критика правительства, нежелание подметать тротуар перед своим жилищем или магазином, курение, громкая музыка и так далее. Членство в запрещенных организациях – так это само собой разумеется.

Наказания за все это могут быть очень суровыми, например – запрет на выезд из страны, запрет на использование общественного транспорта, запрет на размещение в отелях, отказ в найме на работу или в приеме ребенка в школу. Еще есть такое ограничение как уменьшение скорости интернет-соединения вплоть до полного отключения от сети. Наконец, в качестве крайнего варианта предусматривается размещение нарушителя в общенациональном черном списке и полная его социальная обструкция.

Когда информация об этом стала известна публике на Западе всё это было охарактеризовано как «геймифицированный авторитаризм» и многим казалось, что в демократических странах такого безумия не может быть. Однако.

Как вскоре оказалось, подобные системы не являются абсолютно уникальными для Китая. Незаметная людям, но практически однотипная система скрытно развивается и постепенно внедряется в Соединенных Штатах. Стоят за этой системой крупнейшие частные компании и Силиконовая долина. Как выстраиваемая ими система работает?

Для начала – страховые компании. Так, несколько ранее в этом году департамент финансовых услуг штата Нью-Йорк объявил, что компании, занимающиеся страхованием жизни могут создавать премии для клиентов, которые будут начисляться исходя из анализа их сообщений в социальных сетях. Например, в Facebook будет обнаружен ваш пост, где вы пишите, что занимаетесь спортом или очень любите йогу. По совокупности подобных постов страховая компания предоставляет вам скидку.

Однако, если где-нибудь в Instagram будет обнаружена фотография, на которой вы дразните медведя гризли в Йеллоустоне, или где вы стоите с ведром охлаждаемых мартини в одной руке и с сигаретой в другой – набор таких фото сделает вашу страховку дороже весьма значительно.

Далее – система общественного питания и вообще торговля, новый принцип работы которой мы рассмотрим на примере компании PatronScan. Эта компания работает глобально, но продает всего три продукта – специальные портативные системы, предназначенные, чтобы помочь владельцам баров и ресторанов управлять клиентами. PatronScan является дочерней компанией канадской компании-разработчика программного обеспечения Servall Biometrics, и ее продукты в настоящее время продаются в Соединенных Штатах, Канаде, Австралии и Великобритании.

PatronScan помогает обнаружить поддельные идентификаторы и нарушителей спокойствия. Когда клиенты вступают в контакт с панелью, использующей PatronScan, их ID сканируется. При этом PatronScan совершенно самостоятельно ведет список “нежелательных клиентов”, предназначенный для защиты публичных мест от людей, ранее удаленных из заведений за “драки, сексуальные посягательства, наркотики, воровство и другие виды плохого поведения”. И этот список автоматически распространяется среди всех клиентов PatronScan. В результате, будучи по тем или иным причинам заблокированным в том или ином баре/ресторане США – PatronScan автоматически блокирует вас во всех аналогичных заведениях в США, Великобритании и Канаде, которые используют систему PatronScan.

Логически идея как бы замечательная и правильная – никому из владельцев ресторана не нужен клиент, который шарит по карманам или ломает мебель. Но проблема в том, что человек вносится в список “по усмотрению менеджеров заведения”. То есть вам принесли котлету, в которой вы нашли камень, вы закатываете скандал – и тут же автоматически становитесь персоной нон грата во всех ресторанах мира, вас не пустят даже в МакДональдз.

Следующий пример – компании Uber и Airbnb, глобальные поставщики туристических услуг. В марте Airbnb похвастался, что в его системе насчитывается более 6 миллионов аккаунтов. При этом любой из них он может по тем или иным причинам пожизненно забанить. За что? За взрыв в отеле или стрельбу в самолете? Нет, все гораздо проще.

Например, компания Uber активно внедряет очередное “нововведение”: всякий раз, когда вы выходите из машины после поездки Uber, их приложение звонит вам на телефон и предлагает вам оценить водителя. При этом пассажиры даже не догадываются, что водитель также получает приглашение оценить только что обслуженного пассажира. В результате Uber получает “средний рейтинг” и пассажира, и водителя. Водителя, при плохом рейтинге увольняют, а пассажиру навеки запрещают пользоваться услугой.

И это два крупнейших поставщика туристических услуг, поэтому, если вас заблокирует даже один – это серьезно ограничит ваши возможности в передвижении.

Наконец интернет, который мы рассмотрим на примере работы приложения WhatsApp. Так, политика компании заключается в том, что, если вас блокирует определенное количество пользователей – WhatsApp автоматически блокирует вас. В США этот сервис не сильно популярен, но для некоторых регионов блокировка WhatsApp равносильна запрету на ношение телефона.

Никто, конечно, не любит антисоциальное, жестокое, грубое, нездоровое, безрассудное, эгоистичное или безжалостное поведение. Что плохого в использовании новых технологий, чтобы побудить всех вести себя правильно?

Идея, конечно, хороша, но наиболее тревожным атрибутом системы социального кредитования является не то, что она агрессивна, а то, что ОНА НАХОДИТСЯ ВНЕ ЗАКОНА.

То есть понятие “преступление” определяет уже не Министерство юстиции, а какая-то фирма. И наказывает человека за “преступление” не суд, а какой-то менеджер или вообще Искусственный Интеллект. То есть все эти новые “преступления” находятся за пределами правовой системы, что означает отсутствие презумпции невиновности, отсутствие юридического представительства, отсутствие судьи, присяжных и зачастую отсутствие апелляции. Другими словами, это альтернативная правовая система, в которой обвиняемый имеет меньше прав. Или вообще не имеет.

Только в отличие от политики правительства Китая, система социального кредитования, формирующаяся в США, обеспечивается не тоталитарным государством, а вообще какими-то частными компаниями. При этом, если общественности не нравится федеральный судья и не нравится сенат, который какие-то законы принимает – то хотя бы теоретически люди могут всех этих граждан переизбрать. Но как переизбрать разработчиков правил из PatronScan?

Растущее число социальных «привилегий», связанных с транспортировкой, размещением, связью и ставками, которые мы платим за услуги (например, страхование), либо контролируется технологическими компаниями, либо зависит от того, как мы используем технологические услуги. А правила Силиконовой становятся с каждым днем все более строгими.