Ярослав Притула про економічні моделі, рефлексивність людини та технологічну сингулярність.

Технології – це не лише комп’ютер

Сферою моїх зацікавлень є економічна теорія. Станом на сьогодні активно розвивається напрямок поведінкової економіки, де замість припущень аналізується дійсна поведінка людей. Покращуються комп’ютерні потужності і методи data sсience. Такий прогрес дозволяє моделювати не економіку загалом чи робити припущення про уявного загально-статистичного громадянина, а поведінку кожної людини окремо, чи кожної компанії окремо, чи кожного банку окремо. Такий індивідуальний аналіз поведінки чи зв’язків між окремими індивідами створює більш реальну модель, і воно, маю надію, буде давати можливість прогнозувати більш реальні наслідки.

Фінансова криза 2008 року стала крахом старих технологій та моделей. Тим не менш їх продовжують використовувати, тому що економіка як наука є дуже консервативною. Зараз ведуться дискусії про кризу технологій через надмірну математизацію прийнятних моделей. На основі загальних аксіом будувалися певні припущення, що пізніше перетворювались у великі теорії. Таким чином припущення про раціональність людини перетворено у поняття середньостатистичної людини-громадянина.

З таким припущенням в економіці складаються дуже гарні, математично доведені моделі. Їх легко викладати, на їх основі можна моделювати та прогнозувати. Проблема в тім, що економіка – це поведінкова наука. Це соціальна наука, де важлива спонтанність людини. Не можна опиратися на аксіоми поведінки, тому що людина вільна бути як раціональною, так і нераціональною. Цю варіативність важко описати математичними моделями, але нею не можна нехтувати.

Те, що людиною можна керувати – не новина, але інструментарій маніпуляції можна використати з різною метою. До прикладу, проблема зайвої ваги. Нація здоровіша, коли люди харчуються кращою їжею. Для цього необхідно обмежити вживання певних продуктів, солі і цукру. При правильному спонуканні це не створює проблеми, навпаки – суспільство стає здоровішим. Відомий економіст Річард Талер у своїй праці «Легке підштовхування» описав якими мають бути політики, щоб спонукати людей до керованих вчинків. Такі технології є ризиком виникнення етичних проблем.

Машинне навчання та технології обробки даних зроблять сервіси значно персоналізованішими. Зміниться освіта, зникне обов’язковий уніфікований розклад середньостатистичного громадянина, як то середня школа і восьмигодинна робота. Кожен отримає персональний набір продуктів. Усе оптимізується під нас, нашу поведінку та стиль життя. Проте разом з тим, це вимагатиме від людей їхню приватну інформацію, без якої особисте налаштування неможливе. Це безумовно зменшить нашу приватність.

Великих змін зазнає медицина. Згідно з дослідженнями, проведеними міжнародним консультантом стратегічного управління McKinsey, державне управління та медицина – дві сфери, у яких сьогодні інформаційні технології застосовуються найменше, а отже є простір для прогресу. Точний діагноз, точне дозування, кращі послуги – усе під пильним оком страхових компаній. Сьогодні страхова медицина ґрунтується на соціальній справедливості. У майбутньому наше страхування зростатиме в ціні в залежності від кількості хворих людей та ризиків для компаній.

Людина, машина та їх рефлексивність

Сьогодні людина, що володіє комп’ютером, є конкурентноздатною. На конференції IT-Арени прозвучала теза: уявіть собі людину із чіпом, що дозволяє швидше проходити бар’єри безпеки у аеропорту, автоматично оплачує ваш проїзд у транспорті тощо. З часом така людина стане більш конкурентноздатною, ніж людина без технологічного вдосконалення. Змоделюємо ситуацію для працедавця – людина з чіпом, що дозволяє перекладати десятьма мовами та людина без нього. Виникає нове етичне питання рівності. Чи здатне суспільство забезпечити таку рівність у доступі до технологій? Інше питання моральне – чи готові ви ходити із чіпом, що зробить вас контрольованими? Це питання найближчого майбутнього, можливо навіть питання наступного року.

Людині варто делегувати машині право приймати певні рішення. Рішення переходити дорогу на червоне світло належить людині. Світлофор може зреагувати вчасно та зупинити автомобілі для уникнення загрози життю та здоров’ю. Інший приклад – продаж автоматами певних товарів. З автоматами не можна домовитися про ціну. Не можна корумпувати автомат. Ми запобігаємо прояву не найкращих рис людської природи за допомогою автоматизації рішень.

Може звучати фантастично, проте у майбутньому загальна рівновага досягатиметься саме поділом повноважень. Чи можемо ми тут говорити про керування, до прикладу, країнами? Це, мабуть, фантастика на далеке майбутнє. Через рефлексивність людської природи, ми є одночасно у двох вимірах: людина бажає дослідити світ, водночас будучи його невід’ємною частиною. Вважається, що машина ніколи не зможе перетнути цей бар’єр самоусвідомлення. У прогнозах футуристів машина з часом стане чутливою, моделюватиме поведінку людей, для яких чутливість і емоції є одним з ключових чинників людськості. Чи можна припустити, що, наприклад, наслідуючи ті ж самі моделі корумпованості, машина також захоче прийняти цей хабар? Це копіювання поведінки, але не власне бажання, з цим у технологій завжди будуть проблеми.

Із всеохопним використанням технологій виникають нові ризики та нові можливості. Чіпування населення викликає обґрунтоване побоювання бути використаним тоталітарними урядами, без поваги до гідності людини та її прав. Але з іншого боку, можна створити підсистему, коли стан благоустрою населення країни прямо відображається на її керівнику. Систему, що карає за погані рішення та нагороджує за добрі. Як диктатори можуть за допомогою технологій керувати своїм населенням, можна придумати технології, з котрими теж саме населення може хакнути свого керівника.

Усі прогнози щодо штучного інтелекту

базуються на Айзеку Азімову, Бредбері та інших фантастах. Не впевнений, що є технологія, що дозволяє робити футуристичні прогнози на основі дійсних фактів, а не припущень. За можливою лінійною моделлю розвитку наші комп’ютери мали б бути чисельно слабші, згідно з прогнозами кількарічної давнини. Значно частіше ми бачимо те, що називається самозбуваючими пророцтвами. Коли компанія, така як МBM чи Google, задає собі ціллю почати розвивати self driving cars –  це стає реальністю за кілька років. Просто через те, що є велике фінансування і великі уми працюють над обраним напрямком. Схоже було з окулярами віртуальної реальності. Давно відома технологія, проте незручна, важка та зі слабкою батареєю. Розрекламований проект Google Glasses швидко заморозили через нерентабельність, але коли темою зацікавились у Facebook, люди побачили у технології перспективу. Автомобілі з електричним двигуном просунув Ілон Маск. Тому дуже важливо, хто керує процесом та навіщо, для того, аби футурологічний прогноз став реальністю.

Не варто боятися технологічної сингулярності

Помилково припускати, що машина перевершить людину у потужностях мозку та обчислювальних можливостях. Людина, підсилена машиною, ставатиме більш продуктивною, більш розумною, завжди на декілька кроків перед виключно алгоритмічними можливостями. Розвиватиметься і людина –  таким чином, технологічна сингулярність не трапиться у певний чіткий момент. Механічна рука поступово буде більш вправною за звичайну. Але керувати нею буде людина, що здатна на емоції. Наше мислення ніколи не зрівняється і ірраціональність відрізнятиме людину від машини. Нові комп’ютери у сотні тисяч разів збільшать свої обчислювальні можливості. Але це навряд спровокує суперпрорив. Останнє десятиліття видається найбільш інноваційним: нові технології, інтернет, масштабні зміни.

Проте якщо подивитися на економічні показники, після винайдення електрики і промислову революцію – це був значно більший прорив для людства, аніж загальна мережа обміну даними. Рівень життя до та після інтернету не зазнав таких змін, як до та після винайдення електрики. Людству дедалі складніше продукувати революційні технології світового масштабу. Є революційні технології локального застосування. Онлайн освіта дозволяє отримати віддалений доступ до знань, що раніше були недоступні.

Світ перетворюється на таке село, де усі знають одне одного та немає можливості заховатись. Розмиваються кордони країн, межі рас, обмеження мов. Людство уніфікується та стає більш відкритим. Технології забирають більшість ручної праці, частину розумової. Обсяги робіт, що виконуватимуть люди, стануть меншими, але виникнуть нові. Три робочі дні на тиждень замість п’яти-шести. Це дає можливість людині більше часу думати над тим, що ми тут робимо і для чого ми існуємо, як використати вільний час на користь для себе та усього людства.