Як лайки у Фейсбуці впливатимуть на кар’єру чи вартість медичної страховки? Що таке соціальний кредит і як уряди заохочують соціальні рейтинги? Про це і не тільки 5 червня на відкритій лекції Центру етики і технологій LvBS «Майбутнє без приватності? Влада і контроль у цифрову епоху» розповів Євген Ланюк, кандидат політичних наук, викладач Львівського національного університету імені Івана Франка та Школи журналістики УКУ.

З політичного погляду в останнє десятиліття відбулась ціла хвиля масових акцій протесту проти авторитарних та корумпованих режимів, організована через соціальні медіа. Але при цьому вже сьогодні спостерігається феномен соціальної інженерії та контролю за допомогою соціальних медіа та Інтернету,  до якого вдаються держави та великі корпорації.

Але при цьому вже сьогодні спостерігається феномен соціальної інженерії та контролю за допомогою соціальних медіа та Інтернету,  до якого вдаються держави та великі корпорації.

Уявіть собі світ, в якому за вашими щоденними діями постійно спостерігають: що ви купуєте в магазинах і через Інтернет, де ви перебуваєте в певний момент, хто ваші друзі і про що ви з ними спілкуєтесь, що ви переглядаєте в Інтернеті, чи справно сплачуєте рахунки тощо. Втім, це не фантастика. ІТ-корпорації, зокрема Facebook чи Google, Amazon та багато інших ретельно відстежують активність своїх користувачів. А тепер уявіть, що всю цю інформацію вносять в єдину базу даних, опрацьовують за допомогою спеціальних алгоритмів і ставлять вам позитивну або негативну оцінку, від якої залежить ваше життя. Це вже теж стало реальністю.

Соціальний експеримент під назвою «Система соціального кредиту», який вже сьогодні активно запроваджують в Китаї, з 2020 року має запрацювати по усій Піднебесній (окрім Гонконгу та Макао). Зараз тривають дискусії, чим насправді є така система: цифровою диктатурою, якої не міг уявити собі навіть Джордж Орвелл, чи, можливо, неминучою реальністю життя в інформаційному суспільстві?

Від “гуаньсі” до Великого Брата

14 липня 2014 року уряд КНР опублікував документ під назвою «Основні принципи побудови системи соціального кредиту». У ньому є одна радикальна ідея: а що, якщо запровадити єдиний «індекс довіри» для всіх 1,3 млрд китайських громадян, а також юридичних осіб, і розрахувати його кількісно? Такий індекс дозволяв би не лише винагороджувати тих, хто має високу довіру і використовувати санкції проти тих, хто її втратив, а й контролювати поведінку людей та компаній, щоб спонукати їх діяти так, як цього хоче держава. «Ми хочемо, щоб ті, хто має довіру, ходили всюди під небом, а ті, хто її втратив, не змогли ступити жодного кроку», — йдеться в документі.

В остаточному варіанті «Система соціального кредиту» має виглядати так. Кожен громадянин отримує однакову суму балів кредиту довіри. Далі, залежно від його поведінки, рейтинг зростає або знижується. Розрізнена інформація від роботодавців, правоохоронних органів, комерційних та муніципальних структур, публічних та власних електронних пристроїв, камер стеження і т. д. надходить в єдину базу даних, в якій її опрацьовують спеціальні алгоритми і переводять в єдиний показник кредиту довіри. Побудова такої системи — це одна з пріоритетних цілей ХІІІ п’ятирічного плану КПК на 2016-2020. В офіційних документах комуністичної партії про неї сказано як про «невід’ємну складову майбутнього соціалістичної ринкової економіки».

Що ж залежатиме від показника рейтингу довіри? Він впливатиме на можливість взяти кредит, отримати страховий поліс і багато інших соціальних благ. Роботодавці не братимуть людей з низьким рейтингом на роботу, а також їм буде заборонено працювати в окремих галузях, таких як державна служба, журналістика чи право. Їм не продаватимуть авіаквитків та квитків на швидкісні потяги, їхні діти не зможуть вчитися в престижних державних школах. Такі громадяни ставатимуть соціальними вигнанцями, адже від їхнього рейтингу залежатиме також рейтинг їхніх родичів та друзів.

Партія навіть передбачила різні методи публічного приниження «порушників довіри». Їхні прізвища виставлятимуть на загальний огляд, а коли ж ви телефонуватимете комусь із них, сигнал у телефоні перебиватиме повідомлення, що ви телефонуєте людині, яка є, наприклад, «злісним боржником». Понизити рейтинг може не лише якесь серйозне правопорушення, а й, наприклад, такі дрібниці, як неявка в ресторан без попереднього скасування замовлення, шахраювання в онлайн-іграх, фальшивий відгук на продукт на форумі чи перехід вулиці на заборонений сигнал світлофора.

«Система соціального кредиту» ґрунтується на багатьох практиках, які вже мають тривалу історію в Китаї. Так, зокрема, ще в III столітті до нашої ери імператор Цінь Ши Хуанді, який вперше об’єднав Китай і увійшов в історію завдяки своїм жорстоким методам правління, поділив усіх своїх підданих на групи по десять осіб і змушував їх стежити одне за одним, доносячи про все підозріле. Ідею збирати всю інформацію про людину в єдиний архів, який китайською називається «данґан», запровадили вже комуністи в роки правління Мао Цзедуна. Ще одне традиційно китайське поняття, яке пов’язане з цим експериментом, – конфуціанська чеснота «гуаньсі», яку можна описати, як кредит довіри однієї людини до іншої. Якщо ви робите комусь послугу, ви інвестуєте в своє «гуаньсі»; якщо послугу роблять вам – ви позичаєте з «гуаньсі» іншого й зобов’язані повернути борг.

Західні демократії не відстають: “наджінг” як вибір без вибору

«Система соціального кредиту», по суті, поєднує в одне ціле та переводить на мову цифр та алгоритмів ці три традиційні китайські практики. Утім, її все-таки не можна вважати виключно китайським винаходом.

Уряди і корпорації по всьому світу насправді вже давно використовують інструменти стеження та рейтингування громадян.

Наприклад, система для визначення кредитоспроможності FICO бере до уваги величезну кількість даних, зокрема, в соціальних мережах. Наприклад, одне дослідження показало, що люди, які частіше використовують велику літеру, мають вищий індекс кредитної довіри, ніж, ті, хто пише усі слова з маленької.

У 2015 році Адміністрація транспортної безпеки США запропонувала ідею поширити стандарти безпеки PreCheck також на записи в соціальних мережах. Поки що від ідеї відмовились через значну критику, але це не означає, що вона мертва.

Дуже схожою до соціального рейтингування практикою є “наджинг” (підштовхування). Наджинг – це не пропаганда і не законодавча регуляція, а створення такого психоемоційного фону, який змушує індивіда ніби вільно обрати певну лінію поведінки. Основна ідея “наджінгу” (to nudge — “легенько підштовхувати”) полягає в тому, що на людську поведінку можна впливати майже непомітно — наприклад, шляхом зміни формулювань у вимозі про сплату податків. Наджінґ включає, зокрема, маніпуляцію зі стрічкою новин у Facebook чи результатами, які з’являються в пошукових системах. Відомим теоретиком наджингу є лауреат Нобелівської премії з економіки 2017 року Річард Талер. Аналізуючи те, як тексти впливають на свідомість, і коригуючи їх психоемоційне тло, управління податкових і митних зборів у Сполученому Королівстві домоглося кращих податкових надходжень в британську казну. Теорія Талера вплинула на рішення Терези Мей змінити державну політику щодо донорства. Теорія наджінгу значною мірою походить зі сфери біхевіористської економіки. Згідно з біхевіористською теорією, первісні інстинкти переважають раціональні мотиви. Талер — один із піонерів цієї сфери досліджень.

І що далі?

Професор Гарвардської бізнес-школи Шошанна Зубофф, наприклад, стверджує, що онлайн-світ, який спочатку був простором анонімності та свободи, тепер стає світом, в якому інтенсивно розвивається капіталізм, причому шляхом «збирання даних, що породжує інтенсивну концентрацію влади і загрожує базовим цінностям, таким як свобода і приватність». Вона виокремлює такі характеристики цього нового типу економіки:

1. Рух в напрямку дедалі більшого збирання та аналізу даних.
2. Розвиток нових форм договору на основі комп’ютерного моніторингу.
3. Прагнення персоналізувати товари і послуги, які пропонують користувачам цифрових платформ.
4. Використання технологічної інфраструктури для проведення постійних експериментів над користувачами та споживачами.

Чи стане система соціального кредиту домінуючою у суспільних взаєминах? Це залежить від багатьох чинників. В тому числі – від неупередженого аналізу ризиків. Але найбільш фундаментальним чинником є розуміння людиною себе самої, своєї місії та унікальності. Адже жоден алгоритм не в стані адекватно оцінити людські емоції, прагнення, наміри. Тому критичним недоліком таких систем буде нездатність машини чи алгоритму “розшифрувати” і вивести закономірність поведінки людини, яка діє поза шаблоном.  Людина здатна поводитися ірраціонально, допомогаючи іншим, але дуже часто начебто раціональна і логічна поведінка людини шкодить іншим людям чи довколишньому середовищу. Алгоритми соціального рейтингування можуть бути справедливими, але поки що є велике питання, чи будуть вони етичними.