Прибуття AGI | Шейн Легг (співзасновник DeepMind)
Вступ
Гість розмірковує про те, що людський інтелект не буде верхньою межею можливого, попереджаючи, що суперінтелект настільки перевершить людський, що структурно змінить економіку та суспільство, через що необхідно подумати над тим, як облаштувати цей новий світ.
Гість пояснює, що теперішні системи штучного інтелекту демонструють набагато більше, ніж просто слабкі іскорки AGI, зазначаючи, що його визначення мінімального AGI — це штучний агент, який здатен виконувати принаймні ті когнітивні завдання, які зазвичай виконують люди. Йому подобається ця планка, оскільки встановлення її нижче здається неспроможністю впоратися з очікуваними когнітивними завданнями, тоді як встановлення набагато вище перевищуватиме те, що здатні зробити багато людей.
Гість зазначає, що сучасні системи є неоднорідними: вони працюють набагато краще за людей у володінні 150 мовами та мають феноменальні загальні знання, проте досі дають збій у безперервному навчанні протягом тривалих періодів та у візуальних міркуваннях, як-от розуміння перспективи між автомобілями чи підрахунок зв'язків у мережевому графі.
Гість очікує, що ці слабкі місця будуть усунені протягом кількох років у міру вдосконалення метрик, зазначаючи, що хоча знадобиться час на опрацювання довгого хвоста людських когнітивних здібностей, системи ставатимуть дедалі спроможнішими на професійному рівні в програмуванні, математиці та загальних знаннях.
Гість окреслює, що підвищення надійності моделей вимагає поєднання методів, зокрема збору специфічних даних для візуальних міркувань та впровадження алгоритмічних і архітектурних змін, таких як системи епізодичної пам'яті та процеси пошуку для безперервного навчання.
Гість розвиває свій спектр визначень, поміщаючи мінімальний AGI на найнижчий рівень, який, за його оцінкою, настане приблизно за два роки; це точка, де штучний інтелект перестає давати збої у спосіб, який здивував би нас у людині.
Гість уточнює, що мінімальний AGI не означає повного розуміння того, як досягти надзвичайних здобутків людського пізнання, на кшталт винайдення фізичних теорій чи написання літератури, але щойно штучний інтелект досягне всього спектра людського пізнання, ми досягнемо повного AGI.
Гість визначає рівень за межами людського пізнання як штучний суперінтелект, або ASI, описуючи його туманно як AGI, який став настільки потужним, що далеко виходить за межі того, чого можуть досягти люди.
Гість пригадує, що коли вони з Ben Goertzel обговорювали назву для систем із загальними можливостями, а не спеціалізованими завданнями, він запропонував додати слово загальний, щоб вийшов штучний загальний інтелект, оскільки це легко злітало з язика.
Гість пояснює, що цей термін швидко перетворився з підрозділу вивчення на категорію артефактів, які потребували визначення, зазначаючи, що Mike Gubrud фактично використовував схоже визначення, орієнтоване на індустрію, у своїй статті на конференції з нанотехнологічної безпеки в 1997 році.
Гість не відчуває жодних жальгів щодо створення цього терміна, оскільки він надав необхідний спосіб посилатися на справді загальні системи штучного інтелекту на відміну від вузьких передових систем на кшталт AlphaFold або AlphaGo.
Гість зауважує, що різні люди адаптували цей термін крізь призму різних поглядів: дехто розглядає AGI через призму майбутньої суспільної трансформації та економічного зростання, тоді як він розглядає його як історичну точку в часі.
Гість визначає цей історичний момент як поріг, на якому системи штучного інтелекту потрапляють до подібної з людським інтелектом категорії, оскільки вони можуть виконувати типові людські когнітивні завдання, навіть якщо вони не є геніями на кшталт Mozart чи Einstein.
Гість наголошує на корисності чіткого визначення для розвіювання плутанини, спричиненої різними часовими рамками, зазначаючи, що багато людей, які сперечаються про те, чи з'явиться AGI за три чи п'ятнадцять років, просто використовують різні визначення для тих самих глибинних очікувань.
Визначення загального штучного інтелекту
Оцінюючи альтернативні бенчмарки, гість зазначає різні запропоновані визначення штучного інтелекту загального призначення, як-от іспити з гуманітарних наук для мовних моделей, виконання завдань кухаря на новій кухні чи перетворення невеликої суми на мільйон доларів. Він вважає фінансовий показник вузькою економічною перспективою, яка більше підходить для спеціалізованого торгового алгоритму, аніж для загального інтелекту. Справжня універсальність, на його думку, полягає в надзвичайній гнучкості людського розуму, що дозволяє впоратися з багатьма різноманітними завданнями. Системи, які не справляються з базовими когнітивними функціями, очікуваними майже від кожного, залишаються незадовільними. Щоб застосувати своє визначення на практиці, він пропонує набір завдань із відомим типовим рівнем результатів людини, де будь-яка невдача заважає відповідати визначенню. Проходження цієї початкової серії веде до другої, змагальної фази, де команда людей витрачає місяці на перевірку штучного інтелекту, щоб знайти когнітивні завдання, в яких він зазнає невдачі. Якщо після ретельного тестування таких випадків збоїв не виникає, система фактично досягає порогу для практичних цілей.
Обговорюючи майбутнє сприйняття штучного інтелекту, гість прогнозує, що системи стануть настільки універсально здатними в численних вимірах, що люди просто називатимуть їх за назвами продуктів, як-от Gemini дев'ять, визнаючи їхні широкі можливості у написанні віршів, грі у вигадані карткові ігри, математиці та перекладі. Проте до досягнення цього етапу картування можливостей у різних вимірах залишається критично важливим для суспільства, щоб орієнтуватися в потужному машинному інтелекті. Інтелект не можна звести до єдиного виміру, оскільки системи можуть демонструвати надлюдські здібності в одних сферах, залишаючись крихкими та слабкими в інших. Розуміння цього розподілу допомагає виявити як можливості, так і неправильне застосування, виходячи за рамки надто спрощених діалогів, які трактують системи або як всемогутні, або як роздуті у медіа. Людський інтелект демонструє подібний нерівний профіль, де окремі люди досягають успіху в мовах, математиці чи музиці, водночас борючись з іншим.
Переходячи до етики, гість визначає ключовий аспект: чи здатний штучний інтелект розуміти етичну поведінку, надійно аналізувати потенційні дії та робити обґрунтовані висновки щодо етичності своєї поведінки. Він надає перевагу підходу під назвою system two safety, посилаючись на розмежування Даніела Канемана між швидким, інстинктивним мисленням system one та обдуманим мисленням system two. Подібно до того, як люди у складних ситуаціях мають зупинитися й вийти за межі інстинктів, щоб проаналізувати складні нюанси та наслідки відповідно до моральних норм, передові моделі можуть використовувати ланцюжки міркувань. Зіткнувшись із етичними дилемами, на кшталт брехні задля порятунку чийогось життя, ці моделі мислення можуть проаналізувати ситуацію та продумано застосувати правила. Зробивши ці міркування чіткими та заснованими на бажаній етиці, системи теоретично можуть стати етичнішими за людей, послідовно застосовуючи правила на надлюдському рівні.
Звертаючись до проблеми заземлення цих моделей у людській етиці, гість визнає, що людська етика не має єдиного універсального стандарту — вона суттєво відрізняється залежно від людей, культур і регіонів, через що моделі зобов'язані розуміти ці різні очікування, використовуючи глобальні дані, які вони поглинають. Сучасні агенти створюються шляхом навчання великих моделей на величезних світових даних, у результаті чого виникають відносно статичні об'єкти, які не вчаться чомусь новому суттєво. Ця парадигма зміщується в бік систем, що включають більше алгоритмів навчання, стають більш агентними завдяки виконанню багатоступеневих завдань на кшталт написання програмного забезпечення чи планування поїздок, і врешті-решт втілюються в робототехніці. Завдяки постійній взаємодії та досвіду, а не статичним початковим наборам даних, ці системи зміцнять свій зв'язок із реальністю, хоча базові дані врешті-решт походять із людського досвіду.
Етика AGI
Леґґ (Shane Legg) пояснює, що ці системи здобувають укорінення в реальності через постійний досвід. Міркуючи про те, чи може штучний інтелект стати більш етичним за людей, він зазначає: хоча абсолютна впевненість у складних реальних діях неможлива, хірурги також не можуть гарантувати стовідткову безпеку під час операцій. Натомість ми маємо тестувати системи, зважувати користь і ризики, а також активно стежити за ними після розгортання, щоб відкотити їх назад, якщо рівень збоїв перевищить прийнятні межі. Тестування перед розгортанням включає перевірку того, чи можна обдурити моделі, змусивши їх допомагати у створенні біологічної зброї чи сприяти хакерству, причому засоби захисту коригуються залежно від рівня можливостей. Методи інтерпретованості, особливо в моделях усвідомленого міркування, дозволяють дослідникам зазирнути всередину системи, щоб перевірити її хід думок. Леґґ розрізняє результати й наміри, зазначаючи, що ми оцінюємо людські дії по-різному залежно від того, чи була шкода навмисною, чи випадковим побічним ефектом спроби зробити правильну річ, і ті самі принципи застосовуються до оцінювання штучних агентів.
Переходячи до ширших суспільних наслідків після появи спроможного штучного загального інтелекту, Леґґ обговорює відкрите питання машинної свідомості. Коли він наводить конкретний сценарій про втіленого просунутого агента, який навчається, пам'ятає свою історію та говорить про власну свідомість, провідні експерти залишаються впевненими не до кінця щодо того, чи є він свідомим. Хоча він сумнівається, що поточні моделі мають свідомість, він вірить, що в майбутньому люди гостро сперечатимуться про те, чи є просунуті системи свідомими за відсутності загальноприйнятого наукового визначення чи вимірювання. Інше велике питання полягає в тому, чи перейдемо ми від загального інтелекту до суперінтелекту, який значно перевершує людські можливості. Порівнюючи людський біологічний мозок, що працює за низького енергоспоживання, повільної швидкості поширення сигналів і низьких частот каналів, із дата-центрами, які працюють у мегаватних масштабах із оптичною швидкістю та величезною смугою пропускання, він стверджує, що людський інтелект не є верхньою межею можливого, подібно до того, як люди обганяють автомобілі чи бачать далі за допомогою телескопа Hubble.
Оскільки глобальна конкурентна динаміка ускладнює зупинку суперінтелекту, Леґґ наголошує на нагальній потребі в безпеці system two, щоб зробити суперінтелект суперетичним, застосовуючи його розширені можливості до прийняття моральних рішень. Звертаючись до суспільних наслідків того, що людський інтелект буде затьмарений суперінтелектом, він попереджає, що традиційна економічна модель, за якої люди обмінюють фізичну та розумову працю на доступ до ресурсів, більше не працюватиме, що вимагатиме нових систем розподілу багатств, навіть попри масивне зростання загального виробництва товарів і послуг. Він згадує, як казав віцеканцлерам університетів: оскільки штучний інтелект виконуватиме значну частку когнітивної праці протягом десятиліття, кожен академічний факультет — від права та інженерії до політики, медицини й фінансів — повинен переосмислити свою галузь. Подібно до промислової революції, цей технологічний зрух приносить величезні можливості поряд зі складними суспільними ефектами.
Суспільна та економічна трансформація
Гість порівнює поточну ситуацію з березнем 2020 року, коли експерти попереджали про наближення пандемії, тоді як люди продовжували відвідувати паби й футбольні матчі. Він пояснює, що людям важко повірити в наближення масивних змін, оскільки більшість екстремальних прогнозів згасають нічим, проте стверджує: коли глибинні фундаментальні чинники зумовлюють зрух, люди мають сприйняти цю можливість серйозно та ретельно подумати про те, що означає AGI.
Дивлячись на найближчі кілька років, гість не очікує негайних масштабних потрясінь. Натомість він бачить, як системи штучного інтелекту перетворюються з корисних інструментів на виконавців справді цінної економічної роботи, хоч і нерівномірно в різних сферах. У розробці програмного забезпечення, наприклад, команда, якій раніше потрібна була сотня інженерів, незабаром може потребувати лише двадцяти, які використовуватимуть передові інструменти зі штучним інтелектом для підвищення своєї продуктивності та виконання значущої роботи.
У міру розгортання цього переходу гість очікує, що суспільні дискусії змістяться від сприйняття штучного інтелекту як цікавої новинки для планування відпусток чи допомоги дітям із домашніми завданнями до визнання його структурною силою, що змінює економіку та суспільство. Він вірить, що цей розвиток подій може започаткувати золотий вік завдяки різкому збільшенню виробництва та розвитку науки, звільняючи людей від непотрібної праці. Проте він наголошує, що ця здатність є корисною лише тоді, коли суспільство вигадає, як перетворити її на індивідуальне та колективне процвітання, зазначаючи, що працівники початкового рівня та випускники відчують перші наслідки на ринку праці.
Майбутнє праці
У короткостроковій та середній перспективі гість зазначає, що багато професій залишаться захищеними. Фізична праця, наприклад сантехніка, спирається на робототехніку, яка ще на це не здатна, і знадобиться багато часу, перш ніж вона стане конкурентоспроможною за ціною. Натомість елітна розумова праця з високою оплатою — така як масштабні юридичні злиття, складні фінанси, інженерія машинного навчання та математика — є вразливою, оскільки її можна виконувати віддалено через інтернет за допомогою стандартних комп'ютерних інтерфейсів. Інші професії можуть залишитися захищеними, якщо вони спираються на виразну людську особистість, оскільки люди цінують розуміння того, що за роботою стоїть реальна людина.
Гість закликає академічні кафедри в університетах сприйняти AGI серйозно, зауважуючи, що багато експертів досі дивляться на поточні системи крізь призму минулих обмежень, ігноруючи те, як швидко можливості накопичуються рік за роком. Він припускає, що широка громадськість часто розуміє реальність AI краще, ніж профільні експерти, легко розпізнаючи просунуті навички мови, математики та вирішення проблем без зайвого занурення у специфічне заперечення.
Підтверджуючи своє давнє пророцтво, гість підтверджує думку про те, що існує п'ятдесят на п'ятдесят шансів досягти мінімального AGI до 2028 року — термінів, яких він незмінно дотримується з моменту публікації у своєму блозі у 2009 році.
Потенціал для розквіту людства
Гість оцінює, що повноцінний AGI з'явиться через три, чотири, п'ять чи шість років після мінімального AGI, що спокійно вкладається в межі десятиліття. Коли його запитують, чи викликає це знання у нього почуття нігілізму, він відповідає, що ситуація відкриває величезні можливості. Подібно до того, як промислова революція приборкала енергію для виконання механічної праці та створення загального добробуту, алгоритми та обчислення тепер можуть узяти на себе розумову працю задля створення багатства, нових технологій та нових ліків.
Головний виклик, на думку гостя, полягає в тому, щоб отримати ці переваги, водночас керуючи ризиками та витратами. Він визнає неймовірну складність уявлення майбутнього світу, де штучний інтелект справді допомагає людям процвітати, зазначаючи, що це питання торкається філософії, економіки, психології та етики, і вимагає набагато більшої кількості мислителів, які б досліджували, яким може бути позитивне майбутнє.