Сфера ШІ як середньовічна алхімія. Уривок з книги «Підробка. Штучний інтелект у світі людей» Тобі Волша
Як штучний інтелект змінить (і вже змінив) людство, чи більше від нього користі, ніж потенційної загрози? Про все це і не тільки – книжка «Підробка. Штучний інтелект у світі людей» Тобі Волша, яка вийшла у видавництві «Фабула».
bit.ua публікує уривок.
Фальшиві роботи і люди
Роботів часто зображують як саме втілення штучного інтелекту. З цього не варто дивуватися. Щоб робот міг адекватно функціонувати у світі, йому потрібен ШІ. Він повинен відчувати, міркувати, діяти та вчитися у світу, що постійно змінюється.
Однак не всі роботи наділені ШІ. Деякі з них просто повторюють ті ж самі інструкції. Таких роботів часто можна побачити на заводах, і зазвичай вони розміщені в клітках для захисту людей від їхніх повторюваних, запрограмованих рухів. Та коли роботи перебувають у реальному світі, за межами такого контрольованого середовища, як заводський цех, їм потрібен штучний інтелект.
Слово «робот» у широкий вжиток увів чеський письменник Карел Чапек у своїй п’єсі 1920 року «Р. У. Р.», що є абревіатурою від «Россумові Універсальні Роботи». У п’єсі автор торкається кількох актуальних ідей, які на століття випередили свій час: заміна людської праці працею роботів, зниження рівня народжуваності й армії роботів, що загрожують існуванню людства.
За сім років після виходу п’єси Чапека робот відіграв важливу роль в одному з найперших повнометражних науково-фантастичних фільмів — чудовому «Метрополісі». Сюжет шедевру Фріца Ланга розгортається навколо Maschinenmensch (дослівно «машинилюдини»), робота-двійника героїні Марії. Цей сюжетний прийом згодом буде використано в багатьох інших фільмах, де роботи прикидаються людьми,— від реплікантів із фільму «Той, що біжить по лезу» (Blade Runner) до напрочуд розумної Ейви з кінострічки «Із машини» (Ex Machina).
Але роботи-підробки існують не лише в науково-фантастичних фільмах. На жаль, вони є частиною реального світу. Уже сьогодні їх використовують, щоб уводити людей в оману. Мабуть, найбільш вражаючим прикладом є Софія, людиноподібний робот, розроблений компанією Hanson Robotics. Софія має сумнівну честь бути першим роботом, який отримав громадянство. У жовтні 2017 року вона стала громадянкою Саудівської Аравії. Для країни, яка відмовляє своїм громадянкам у багатьох базових правах людини, надання роботу більших прав, ніж половині свого населення, стало несвідомо іронічним піар-ходом.
Щоб зрозуміти оманливість Софії, вам, імовірно, потрібно трохи більше дізнатися про Девіда Генсона-молодшого, людину, яка стоїть за її створенням. Він є засновником і генеральним директором Hanson Robotics. Його біографія вельми цікава. Генсон отримав ступінь бакалавра образотворчого мистецтва у сфері кіно, а потім працював на «Дісней», створюючи скульптури й аніматронні фігури для тематичних парків, поки не здобув ступінь доктора філософії в галузі естетичних досліджень.
Софія має дуже реалістичний вигляд навіть для людиноподібного робота. У неї людська шкіра, брови, вії, нафарбовані червоною помадою губи та сірі очі, які стежать за вашими рухами. Вона має виразне обличчя, яке може посміхатися, сміятись і супитися. Ось тільки цей робот загалом є підробкою. Штучний інтелект Софії недорозвинутий. Фрази, що вона вимовляє, та її жести здебільшого ретельно прописані за сценарієм.
Головний спеціаліст зі штучного інтелекту компанії Meta Ян ЛеКун відповів на улесливу статтю, присвячену Софії, на галузевому новинному сайті Tech Insider нищівним твітом від 5 січня 2018 року:
Із ШІ це пов’язано не більше, ніж фіглярство зі справжньою магією.
Можливо, варто назвати це «ШІ карго-культу», або «потьомкінський ШІ», або «ШІ чарівника країни Оз».
Інакше кажучи, це повна ф*гня (вибачте за мою французьку).
«Tech Insider», ви співучасники цієї афери.
Проте Девід Генсон безсоромно підживлював гайп навколо Софії. На програмі «The Tonight Show» у квітні 2017 року він сказав ведучому Джиммі Феллону, що «вона, по суті, жива». Цитуючи Яна ЛеКуна, це повна фігня.
У Софії немає нічого «живого». Це творіння більше схоже на розрекламовану маріонетку, ніж на будь-який різновид складного ШІ. Розмовні агенти, як-от Сірі або Алекса, містять набагато складніший штучний інтелект, ніж Софія. Якось я спробував найняти Софію на день, сподіваючись, що вона відкриє велику конференцію зі штучного інтелекту. Мене шокувала ціна в 30 000 доларів, але не здивувала форма бронювання, з якої ставало зрозумілим, наскільки ретельно прописаним є хід розмови з Софією.
Наприкінці 2017 року, коли первинне розміщення монет (initial coin offering, ICO) було в моді, Генсон став співзасновником SingularityNET, децентралізованого ринку для алгоритмів штучного інтелекту, і ввів у вжиток криптомонету AGI. Назви, обрані для цього проєкту, обіцяють міфічну сингулярність, коли технологічне зростання стане неконтрольованим і ми досягнемо загального штучного інтелекту (artificial general intelligence, AGI). Після цього машини будуть рівними людському інтелекту, а потім перевершать його. Але реальність набагато прозаїчніша. SingularityNET — усього лише ринок для деяких досить обмежених алгоритмів ШІ.
Існує кілька фундаментальних технічних проблем, пов’язаних із таким ринком. Наприклад, за сімдесят років досліджень у галузі штучного інтелекту так і не вдалося створити єдиний інтерфейс для алгоритмів ШІ (те, що можна було б назвати прикладним про- грамним інтерфейсом для ШІ), щоб ринок міг функціонувати. Проте первинне розміщення монет зібрало понад 36 мільйонів доларів усього за 60 секунд. Монети AGI спочатку коштували понад долар за штуку. За два роки їх можна було купити за трохи більше ніж один цент.
Зовсім недавно, коли невзаємозамінні токени увійшли в моду, компанія Hanson Robotics оголосила про існування колекції цифрових творів мистецтва на підставі невзаємозамінних токенів, ні- бито створених Софією. Розпродаж зібрав понад мільйон доларів. Як ви, мабуть, уже й самі здогадалися, багато з того, до чого має стосунок Софія, виразно тхне зміїною олією, тобто шахрайським маркетингом.
Навіть Ілон Маск удавався до фальшування ШІ-роботів. У серп- ні 2021 року під час Дня штучного інтелекту від Tesla Ілон анонсу- вав появу Tesla-бота — людиноподібного робота, який створюють на основі повністю самокерованого комп’ютера Tesla. Цього робота розробили для виконання «небезпечних, повторюваних, нудних завдань». Для прикладу Ілон припустив, що робот може «піти в магазин купити продукти». Щоб роботи не могли захопити владу, Tesla-бот має бути повільним і слабосилим, аби людина могла легко обігнати й перемогти його. На превеликий подив, в оголошенні про ще не створеного Tesla-бота була зображена людина в білому закритому трико, яка вдавала із себе робота. Сумніваюся, що когось вдалося цим обдурити.
Алхімія ШІ
Однак проблеми зі штучним інтелектом набагато серйозніші, ніж кілька шахраїв і дурисвітів, що торгують фальшивими роботами. Сам фундамент цієї галузі стоїть на сипучих пісках.
Звичайно, інтелект, чи то людський, чи то штучний, нелегко зрозуміти. Вільям Джеймс, впливовий професор Гарвардського університету, якого часто називають «батьком американської психології», писав:
Отже, коли ми говоримо про «психологію як природничу науку», нам не варто думати, що це означає, ніби психологія нарешті стоїть обома ногами на твердому ґрунті. Усе саме навпаки. Психологія — це надзвичайно нестабільне утворення, яке на кожному кроці зазнає впливу метафізичної критики. Усі складники психології ґрунтуються на припущеннях. Отримані нею дані повинні бути переглянуті із задіянням ширшого інструментарію та переведені в інші терміни… ще не існує навіть першого проблиску ясного розуміння. Низка сирих, неперевірених фактів; трохи пліток і суперечливих думок; трохи класифікацій та узагальнень лише на описовому рівні; сильне упередження, що ми маємо душевні стани, які визначає наш мозок, але жодного закону в тому сенсі, у якому їх показує фізика, жодного припущення, з якого можна було б казуально вивести якийсь результат… Це не наука, а лише надія на науку…
Джеймс писав це понад 130 років тому, ще 1892 року. Багато хто, наприклад, науковий журналіст Алекс Березов, стверджує, що пси- хологія й сьогодні все ще не є справжньою наукою.*
* Алекс Березов вважає себе «ветераном наукової літератури, публічним оратором і розвінчувачем наукового сміття». У липні 2012 року в статті для Los Angeles Times він написав: «Зневажливе ставлення науковців до психологів
Коментарі Джеймса добре описують штучний інтелект, як ми розуміємо його сьогодні. Кілька фактів, багато пліток і думок, деякі вкорінені упередження, але надто мало універсальних законів або логічних висновків. У штучному інтелекті напрочуд мало науковості. Краще було б описати більшу частину цього явища як надію на появу науки.
Тож не дивно, що багато хто порівнює сферу ШІ із середньовічною алхімією. Якщо алхіміки намагалися перетворити неблагородні метали на золото, амбіції тих, хто займається штучним інтелектом, полягають у перетворенні простих обчислювань на інтелект. Ерік Горвіц, головний науковий співробітник Microsoft Research і колишній президент Асоціації з розвитку штучного інтелекту, сказав 2017 року в інтерв’ю The New York Times: «Зараз те, чим ми займаємося,— не наука, а скоріше щось схоже на алхімію». Я нещодавно поспілкувався з Еріком. Він і сьогодні дотримується тієї самої думки, проте залишається «заінтригованим, зацікавленим і оптимістично налаштованим, оскільки існують більш сталі уявлення та глибокі принципи, які нам ще належить розкрити».
Однак не все ще втрачено. «Алхімія» може бути не найгіршою відправною точкою для створення штучного інтелекту. Террі Віноґрад, який пів століття тому написав одну з перших і найвпливовіших програм ШІ для обробки природної мови, дотримується такої самої думки:
Можливо, ще зарано порівнювати стан штучного інтелекту із сучасною біохімією. Із якогось погляду він більше нагадує середньовічну алхімію. Ми перебуваємо на етапі змішування різних речовин і спостереження за тим, що з ними відбувається, проте ще не розробили дієвих теорій. Цю аналогію запропонував [Губерт] Дрейфус (1965) як критику штучного інтелекту, але сама по собі вона не несе нічого негативного. Деякі роботи можна критикувати через те, що вони занадто зациклені на меті (й забагато претендують на її досягнення) добути золото (інтелект) із базових матеріалів (комп’ютерів). І однак саме досвід і цікавість алхіміків забезпечили величезну кількість інформації, на основі якої змогла розвинутись наукова теорія хімії.
Зважаючи на це, було б доцільно зробити висновок, що основи сучасного штучного інтелекту є насправді штучними в тому сенсі, що вони несправжні й позбавлені справжнього сенсу. Загалом штучний інтелект, який ми створюємо, сам по собі є штучним, тобто вельми відрізняється від справжнього, людського інтелекту. До того ж його часто використовують задля «штучних» цілей, зокрема, для підробки людського інтелекту. Тут багато штучності, про яку варто подумати.
Мета цієї книжки — підняти завісу й продемонструвати реальність за всією цією штучністю. Машини, які імітують людський інтелект, відіграватимуть дедалі важливішу роль у нашому житті. Вони візьмуть на себе брудну, складну, нудну й небезпечну роботу. Це добре. Важко уявити сферу нашого життя, до якої вони не матимуть стосунку.
Штучне може приносити користь. Безпілотні автомобілі, наприклад, розвиваються як у штучних симуляціях, так і на реальних дорогах. Власне, вони проїжджають значно більше кілометрів у симуляторах, ніж у реальному світі, й це допомагає зробити їх безпечнішими.
Симулятори забезпечують вимірюваність, відтворюваність і контрольованість. Вони відтворюють події набагато швидше, ніж це відбувається в реальному часі. Мільйони кілометрів на симуляторі можна «проїхати» за ніч, поки люди сплять. Симулятори можуть точно повторювати ситуації, які призводять до аварії, допоки алгоритми ШІ не навчаться реагувати в найкращий спосіб. Вони можуть створювати ситуації, які важко знайти або небезпечно перевіряти в реальності. Що станеться, коли автомобіль їде назустріч призахідному сонцю, дорога мокра після дощу, попереду їде сміттєвоз, а з-за автомобіля, що стоїть на узбіччі, вибігає дитина в темному одязі? Було б украй безвідповідально випробовувати це в реальності, але ми можемо багато разів відтворити такий інцидент на симуляторі.
Але поряд із цими перевагами штучності у штучному інтелекті, вона несе з собою цілком реальні ризики. І мова не лише про те, що машини відбиратимуть своїми фальшивками все більше нашої уваги. Наша увага — коштовний ресурс, і вони вже відбирають її забагато. Ні, ризики потенційно є набагато більш руйнівними.
Усі ці підробки загрожують розмити чіткі межі між справжнім і штучним. Вони навіть можуть поставити під сумнів саму суть того, що є людським, а що ні. Тобто ставки стають надзвичайно високими. На кону може стояти сама наша людяність.
У книжці йтиметься як про підробний ШІ, так і про підробки від ШІ. Ми дослідимо, наприклад, комп’ютерні програми, де штучного інтелекту насправді менше, ніж нам здається. Але також зупинимося на ШІ-застосунках, де штучний інтелект створений саме для того, щоб нас ошукати.
