Ден Мерріл:

– Наскільки успіх створення штучного інтелекту залежить від поступу у вивченні мозку? Деякі дослідники стверджують, що створення штучного інтелекту – безплідні зусилля, поки не буде виявлена таємниця людського мозку. Взагалі, це  колись може статися?

 – Я не думаю, що відповідь на це питання – так або ні, чорне або біле. Це залежить від того, яке визначення дати штучному інтелекту. Я можу витягнути мій телефон з кишені,  ввімкнути Інтернет і отримати відповіді на багато питань, перебуваючи в будь-якому місці світу. Таким чином, в певному сенсі, це збільшення моєї пам’яті, моєї здатності працювати, а пам’ять є значною частиною інтелекту. Тобто, це необхідний інструмент, щоб досягнути вищого рівня інтелекту.

Якщо визначити штучний інтелект як самоусвідомлену, самосвідому істоту – це набагато складніше питання, і я б сказав, що жодна людина на цій землі не має повного розуміння що таке самоусвідомлення. Хоч дехто вважає, що знає, але я не думаю, що ми насправді дійшли до цього. Тож, що означає для обладнання чи комп’ютера мати самосвідомість? Я не настільки розумний, щоб на це відповісти, і я не впевнений, що хтось може.

Але, якщо не акцентувати на самосвідомості, то багато елементів штучного інтелекту вже існують. Я б сказав, що штучний інтелект і дослідження мозку, якими займається неврологія, розвиваються паралельно. Тому я не думаю, що проблема в тому, щоби мати вичерпне або повне розуміння як працює мозок, і аж тоді створити штучний інтелект. Ні, нам не потрібно повного розуміння, ці два процеси взаємозалежні. Бачите, ми багато вивчили з нейронаук протягом останніх 100 років, але набагато більше залишається дізнатися. І в процесі того, як ми вивчаємо мозок, ми можемо створювати розумніші системи, рухаючись до створення штучного інтелекту. Коли ми створюємо ці розумні системи, тобто моделюємо мозок, виникають нові питання, які знову спонукають продовжувати дослідження. Таким чином, вони творять одна одну. Нейронауки не повинні подолати певний поріг, і тоді раптом вийде штучний інтелект. Вони взаємо розвиваються.

– Ви вірите, що коли-небудь штучний інтелект може перевершити людину, розумові здібності людини?

– В якомусь сенсі – так. Певною мірою це вже сталося. Я не можу робити такі математичні операції в своїй голові, які комп’ютер може. Звичайно, ви знаєте, що калькулятор вже багато років тому працював набагато швидше ніж людина. Тож, за такими мірками комп’ютер вже перевершив мене, і кожного року з’являються нові речі, які комп’ютер робить краще, ніж людина. Знову ж таки, в цьому питанні повертаємось до визначення штучного інтелекту. Якщо визначити штучний інтелект як машину, яка має самосвідомість, то я маю визнати своє незнання того, що означає мати самосвідомість. Чи машини стануть кращими за нас? У багатьох відношеннях вже стали. Чи стануть вони такими як людина? Багато в чому вони вже є. Чи повинні ми боятися цього? Я думаю, що це найбільш доречне питання.

Отож, що стосується етики дозволити машинам ставати кращими. Протягом всієї історії, зокрема, історії розвитку технологій, коли з’являється щось нове, це лякає людей. Тож це не нова проблема – оті наші хвилювання, чи ми змінимося чи ні, ким будемо і чи втратимо нашу людську ідентичність. Так відбувалось з усіма значними винаходами, бо люди бояться нових технологій. Що тоді відбувається? Ми адаптуємось, ми змінюємось, ми змінюємо наше визначення того, що означає бути людиною. Тепер є телефон, з’явився інтернет, а ще раніше було створено телеграф, і люди змогли спілкуватись, перебуваючи в будь-якій точці. Або той факт, що настала атомна доба, і люди подумали: о, ми почали розщеплювати елементарні частини, а що, коли ми випадково створимо гігантську чорну діру, і зникнемо? Справа в тому, що страх завжди присутній, коли з’являється щось нове. Але що відбувається? Ми вчимося змінювати визначення того, що є нормальним. Чи це значить, що ми стаємо менш людьми? Ні, це не так. Це означає, що становище людей трохи змінюється. І чи це на краще? Зазвичай, так. Але загалом, я не боюсь, що машини стануть занадто розумними. Я думаю, що ми будемо ставитись до цих розумніших машин як до ресурсів або інструментів, потрібних, щоб змінювати умови життя людини на краще.

– Поговорімо про реальність біохарекства. Чи існує реальна загроза, що через мозок або інші шляхи можуть бути зламані чіпи та інші пристрої, які ми імплантуємо? Як зменшити ймовірність такої загрози?

– Так, це очевидна загроза. Таке «щастя» вже траплялося. Найбільш слабке місце – бездротовий зв’язок. Можна навести приклади такого хакерства. Так, наприклад, є штучна підшлункова залоза, точніше інсуліновий дозатор на поясі, який управляється по бездротовій мережі. Ви маєте портативний пристрій, запрограмований скільки інсуліну потрібно дати.

Кілька років тому у США хакер-аматор зламав електронний інсуліновий дозатор, який вважався захищеним, продемонструвавши таким чином, що його можна зламати і дати команду подавати інсулін. Це страшно, тому що при передозуванні – це смертельна речовина. Вона здатна вбити людину. Так що подумайте про те, що це означає: цей хлопець, який здогадався, як зламати цей бездротовий інсуліновий дозатор, по-суті, винайшов спосіб скоїти вбивство без доказів. Тому, так, це реальна загроза. Що було зроблено для захисту? Створили багато протоколів безпеки.

Але я трохи песимістичний щодо цього, тому що щоразу, коли з’являється нова зброя, в когось з’являється інша зброя, яка їй протистоїть. Тому, коли з’являється система безпеки, хтось знаходить спосіб зламати її, так що загроза залишається. Я думаю, так буде завжди, і тому важливо бути обережними в цьому, тому що це одна з найслабших ланок у медичній техніці.

– Яким чином етичні стандарти повинні бути реалізовані протягом всього процесу, від R&D до створення продукту та поширення?

– Фундаментальні етичні питання повинні бути важливі для всіх. Я сподіваюся, що так є. Щодо стандартів, я думаю, важливо, щоби правила були задіяні на дуже ранньому етапі розробки, тому що важко повернути джина назад у пляшку. По суті, як тільки стає відомо, що є технологія, щоб зробити щось кращим чи сильнішим, людина навряд чи відмовиться від цього – це не в нашій природі.

Якщо ми, як людський вид знаємо, що є спосіб, за допомогою якого ми можемо бути розумнішими, працювати швидше та краще, коли для цього є доступні технології та ті чи інші препарати, ми точно від цього не відмовимося. Тому на етапі виробництва запізно про це думати. Я думаю, що правила повинні бути задіяні дуже рано на етапі досліджень. Щоб це реалізувати, потрібні строгі дисциплінарні процедури для всіх, хто порушує правила. Так, якщо в якійсь країні вирішили, що певна технологія є неетичною, і ми не хочемо її використовувати, і встановлені норми, які її забороняють, там мають бути дуже сильні фінансові стримуючі фактори, щоб не робити цього, бо в іншому випадку люди це робитимуть. Я хочу сказати – нам потрібно зупиняти те, чого ми не хочемо, на дуже ранньому етапі, тому що потім назад не буде вороття.

– Чи можете ви навести кілька прикладів неетичного використання нових технологій?

– Можливо, це не пряма відповідь, але дуже важливо думати про те, що коли технологія розроблена, вона може покращити ті чи інші умови життя людини. Тому я думаю, що неетичне використання буде поки ми не з’ясуємо, як зробити її доступною для всіх. Це те, за що я борюся. Оскільки ті пристрої, з якими я працюю, часто дуже дорогі, і щоб їх розробити та випустити потрібно принаймні 10 років і мільйони доларів. І якщо витрачено стільки грошей на виготовлення, і ви маєте пристрій, який коштує півмільйона доларів, зроблений для однієї людини, то чи це дуже добре? Багаті можуть собі це дозволити, вони можуть заплатити, але як звичайна людина може отримати такий прилад? Це виклик для нас, і я стурбований тим, що якщо ми не знайдемо спосіб зробити ці складні і дорогі пристрої доступними для всіх, ми матимемо все більше і більше розшарування, де багаті, якщо вони хворі або травмовані, можуть вилікуватись і почуватись краще, в той час як бідні або люди середнього класу не отримають допомоги, і вони помруть або доживатимуть без покращення. Власне кажучи, це і є є ризик – отримати такий поділ.

– Чи варто розглядати ризик втрати контролю над технологіями, особливо з огляду на те, що в певний момент вони можуть почати розвиватись поза людським контролем? Чи можемо ми втратити контроль над технологіями?

– Так, є багато різних аспектів цього питання. Ви знаєте, зараз у нас є складні машини; складні машини, які ламаються і можуть викликати паніку чи небезпеку, якщо вони зламаються. Можна подумати про такий приклад: великі електромережі, які постачають енергію. Електричні мережі сумно відомі тим, що іноді ламаються, тому що на лінії електропередачі десь впало дерево, і проблема поширюється на велику територію. Це приклад як дуже незначна проблема – дерево, яке падає на лінії, – призводить до того, що 10 або більше мільйонів людей залишаються без електропостачання. Ви знаєте, це не нова проблема, що складні машини або складні системи ламаються, і так завжди буде. Таким чином, є багато стандартних інженерних підходів, щоб знизити ризики і зменшити збитки від поломки. Існує цілий технічний розділ, який цим займається, для того щоб вивчити, як управляти ризиками, чи не так? І потрібно це реалізовувати у всьому, що ми робимо, в тому числі у медичних пристроях.

– Є очікування, що суперінтелект, який ми намагаємося створити, перебере на себе ключові інтелектуальні функції людини, зокрема, прийняття важливих рішень. Чи є в цьому сенс і які ризики несе такий розвиток подій?

– Ви говорите про концепцію сингулярності, вірно? Я вважаю себе трохи невігласом, бо я не зовсім розумію, що значить самоусвідомлювати чи мати самосвідомість. Я сумніваюся, що хтось дійсно знає. Це дуже складне питання. Щодо того, що машини виходять з-під контролю, я вже почав говорити раніше: вони виходять з-під контролю зараз, це відбувається постійно. Тому абсолютно необхідно повністю використовувати наші технічні можливості для управління ризиками втрати контролю. Якщо виникне питання, що машина повстане проти контролю, стане самосвідомою і вирішить подолати людину, то я припускаю, що я не знаю відповіді. І причина, чому я не знаю відповіді в тому, що я не розумію, що значить мати намір.

Мати намір – це людська характеристика, яка передбачає наявність певної самосвідомості, чи не так? Здається, що так. Якщо мати намір просто означає мати мету або ціль, то такі машини існують, ви програмуєте робота робити певні речі. Чи це намір? Нам треба домовитися, що ми розуміємо під цим поняттям. Якщо ми говоримо про виникнення самосвідомості, коли машина стає зарозумілою і думає як вижити за рахунок інших істот, то я просто не знаю відповіді. Але незалежно від того чи коли-небудь машина матиме це самоусвідомлення, вони ламаються. Це не нова проблема. Можливо я частково відходжу від відповіді про втрату контролю через «бунт» машин, бо ми мало знаємо про самоусвідомлення, проте я знаю, що вони ламатимуться. Тому дуже важливо використовувати всі можливості, які ми маємо, всі знання, щоб допомогти управляти ризиками поломок машин і негативних наслідків цього.

– Що ви думаєте про вдосконалення тіла з допомогою різних пристроїв, протезів та чіпів, наприклад? Чи повинні бути встановлені певні обмеження? Чи можемо ми використовувати ці пристрої для посилення наших природних здібностей, навіть будучи здоровими, чи можемо застосовувати їх лише для лікування або фізичної реабілітації?

– Немає жодних сумнівів у тому, що ми вже це робимо і будемо продовжувати використовувати їх для вдосконалення. Скажімо, молоток – ми його давно маємо, для чого він? Це засіб збільшити свою здатність пробити щось, застосувати силу. Що таке велосипед? Це засіб, який дозволяє швидше рухатись. Наприклад, пасивне протезування, як у спринтера Пісторіуса, який брав участь в Олімпіаді, викликало питання про те, чи можна йому бігти на Олімпійських іграх, адже такі протези роблять швидшим. З іншого боку, люди використовують стероїди, щоб стати сильнішими – і це теж штучне вдосконалення. Цей список можна продовжувати. Така людська природа: ми хочемо зробити себе кращими всіма можливими способами. Питання в тому чи ставити межі в цьому? Так, ми повинні встановити певні обмеження, але я думаю, що це буде відповідно до кожного конкретного випадку, коли ми вирішимо, що це неетично або це явне перебільшення.

– Але як щодо нерівності?

– Так, це одна з важливих проблем. Технологічні питання мене менше турбують, ніж справедливий розподіл цих технологій серед усіх людей. Це викликає серйозну занепокоєність. І якщо ми не будемо обережні, без сумніву, ми почнемо ділитись на тих, хто має і хто не має, багатих і бідних.

– Чи буде можливість створювати інтерфейси людина-машина, які зроблять можливою комунікацію від мозку до мозку, від мозку до машини? Чи такі технології зроблять можливою телепатію, наприклад?

– Так, такі системи з’являться. Багато з таких елементів вже працюють. Ми вміємо записувати нейросистему та її стимулювати. Чим більше ми вивчатимемо нейрофізіологію, тим більше ми зможемо стимулювати напряму комунікативні центри в мозку, зокрема зони Брока – центри, через які розуміємо вимовлені слова і де виникає розмовна мова. Це телепатія? Я припускаю, що так. Подумаймо, у чому різниця між тим, що ви робите прямо зараз і телепатією. Невелика різниця. Єдина відмінність телепатії від звичного нам способу комунікації полягає в тому, що ми не використовуємо звуку, щоб спілкуватися, а потрапляємо в мозок один одного безпосередньо. Хіба це велика різниця? Не зовсім. Ми лише позбуваємось механічних засобів передачі інформації. Чи ми далеко від того, щоб могти це робити? Напевно, не дуже.

Маю один приклад. Я знаю професора Теда Бергера з університету Південної Каліфорнії. Він працює над протезами пам’яті. Зараз він експериментує над щурами таким чином: поміщає електроди в гіпокамп – частину мозку, яка бере участь в переході пам’яті з короткострокової в довгострокову і «записує» пам’ять. Електроди, розміщені в гіппокампі щурів, записують, як він навчає їх рухатись в лабіринті, щоби дістатися до сиру – їхньої винагороди. В них формується пам’ять, вони починають краще орієнтуватися. Однак все, що відбувається в гіпокампі, за допомогою електродів, він записує на диск. Потім він дає щурам препарати, які тимчасово порушують пам’ять, і вони не можуть повторити того, що робили раніше. Але Тед відтворює збережений запис в гіппокампі щура, і вони знову правильно орієнтуються в лабіринті. Певно ви бачили фільм «Матриця» з Кеану Рівзом, де до його мозку підключились і вкладали знання кунг фу. Це певною мірою те, про що ми говоримо. І це не так уже й далеко.

– Звучить дещо страшно…

Це страшно. Але технології розвиваються і, зрештою, ми будемо робити щось подібне – безпосередньо передавати спогади один до одного. Таким чином, це один приклад інтерфейсу людина-машина. Можливо, це не пряма відповідь на питання про телепатію, але все це вказує наскільки можливою буде телепатія. Знову ж таки, я вважаю, що це не так важливо, а важливим є глибше розуміння діяльності мозку.