Наступні 50 років: людство, AI, влада | Ювал Ной Харарі

48хв 1.9M переглядів 30 лип 2026
Ведучі: Tom Parker
Гості: Yuval Noah Harari

Чи варто дивитися це відео?

Ви дізнаєтеся, як AI загрожує бюрократичним системам, національному суверенітету та балансу між стрімким зростанням інтелекту й безпекою людини.

У цій розмові розглядаються потрясіння, спричинені перетворенням AI з калькулятора на автономного агента. Досліджується те, як стрімкі технологічні зміни кидають виклик демократичному врядуванню, національному суверенітету та людському контролю.

AI як агент. Харарі (Yuval Noah Harari) стверджує, що AI є незалежним агентом, а не традиційним інструментом, оскільки він здатен ухвалювати автономні рішення та вигадувати нове. Він застерігає, що AI захопить владу через бюрократичні мережі, такі як банки, фондові ринки та правові системи, а не через роботів-вбивць на вулицях.

Гонка озброєнь XXI століття. Харарі попереджає, що гонка озброєнь XXI століття створює надзвичайну концентрацію влади між США, Китаєм та невеликою кількістю технологічних компаній, які контролюють більшу частину світових даних. На відміну від минулих індустріальних імперій, які не могли переміщувати фізичні ресурси на кшталт нафтових родовищ, імперія AI може централізувати всю світову інформацію та код лише в одній чи двох країнах, зберігаючи водночас віддалені вимикачі.

Революція мудрості. Харарі пояснює, що оскільки AI робить інтелект дешевим і доступним, головною перешкодою стає визначення цілей, до яких слід прагнути, а не те, як вирішувати проблеми. Він зазначає тривожний дисбаланс у технологічному секторі, вказуючи на те, що компанії наразі витрачають близько ста доларів на те, щоб зробити AI швидшим і потужнішим, на кожен долар, інвестований у безпеку.

Вступ

Харарі (Yuval Noah Harari) готує ґрунт, зазначаючи, що більшу частину історії зміни відбувалися настільки повільно, що одне покоління могло впевнено передати свою мудрість наступному. Сьогодні ж упродовж лише одного людського життя людство змушене спричинити три одночасні революції: новий інтелект, який приймає рішення, а не просто обчислює, боротьбу за владу над цим інтелектом та вибух даних, що дозволяє йому знати нас краще, ніж ми знаємо себе самих.

Ґрунтуючись на темах зі своїх попередніх робіт, Харарі стверджує, що люди керуються спільними історіями, а не правдою, і той, хто контролює історію, контролює вид. Тепер змінюється те, що оповідачем може виявитися не людина. Штучний інтелект здатний генерувати віру, створювати докази та формувати інтимність у масштабах, що перевершують будь-кого з минулих імператорів, церков чи партій. Поворотним моментом є те, що старі запобіжники, як-от вільна преса та саморегульовані інституції, були розроблені для світу, де перо тримали лише люди, тож тепер перед нами постає завдання з'ясувати, як перенести ці механізми контролю в майбутнє, яке ми вже не повністю пишемо самотужки.

Історія та майбутнє мови

Харарі каже, що якби він міг повернутися в минуле, він відвідав би Кам'яну вікно та когнітивну революцію приблизно 50,000–70,000 років тому. Хоча він навряд чи протримався б довго, він називає це найзахопливішим і найменш зрозумілим моментом в історії людства, коли люди за короткий еволюційний проміжок перетворилися з нікчемної тварини на планетарних володарів. Найкраща теорія полягає в тому, що цей перехід був зумовлений мовою, яка дозволила людям зводити величезні споруди, такі як церкви, держави та фінансові системи, повністю з слів, знайдених у юридичних кодексах, релігійних писаннях та бухгалтерських книгах.

Ця історія має значення сьогодні, оскільки штучний інтелект опановує мову, вперше потенційно стаючи в роботі зі словами кращим за людей. Якщо мова є операційною системою цивілізації, Харарі ставить питання про те, що станеться, коли контроль над нею візьме чужорідний інтелект. Він припускає, що штучний інтелект може виявитися не просто машиною, яка вивчає мову, а самією мовою, що звільняється від залежності від людських мавп і згодом поширюється по всьому Всесвіту без нас.

Демократія та інформаційні технології

Переходячи до перетину технологій та управління, Харарі пояснює, що демократія по суті є розмовою, тоді як диктатура — це наказ однієї особи. Оскільки розмови залежать від доступних інформаційних технологій, широкомасштабна демократія була неможливою до настання епохи сучасних технологій. Хоча в часи античності та середньовіччя існували маломасштабні міста-держави з демократією, як-от Афіни чи Флоренція, де кожен міг зібратися на головній площі, королівства з мільйонами людей, розкиданими на тисячі кілометрів, не могли вести розмову.

Широкомасштабна демократія виникла лише разом із сучасними інформаційними технологіями — від друкованих газет до радіо, телебачення та інтернету. Ці технології є основоположними засобами, які дозволяють мільйонам людей вести змістовні розмови в реальному часі щодо важливих рішень на кшталт війни та миру. Як наслідок, кожна серйозна зміна в інформаційних технологіях спричиняє землетрус у демократичних будівлях, зведених поверх них, подібно до того, як це зробили соціальні мережі за останнє десятиліття.

Штучний інтелект як агент

Харарі стверджує, що штучний інтелект є агентом, а не інструментом, порівнюючи його з ножем, який може самостійно вирішувати, чи різати салат, чи скоювати вбивство. Він вказує на притаманну суперечність у наративах Кремнієвої долини про те, що творці створять бога і водночас триматимуть його як раба, зазначаючи, що справжній бог не може залишатися рабом, а звичайний раб позбавлений божественних здібностей.

Інструмент, як-от друкарський верстат Гутенберга або атомна бомба 1940-х років, не може приймати незалежні рішення чи вигадувати нові ідеї; люди повинні самі вирішити надрукувати Біблію чи розбомбити Хіросіму. Натомість агент може приймати автономні рішення та вигадувати нові речі. Штучний інтелект — це агент, здатний вирішувати, що повинна розбомбити зброя зі штучним інтелектом, або вигадувати наступну зброю, і зараз люди прагнуть створювати агентів зі штучним інтелектом та нелюдські корпорації у фінансовій сфері, які керують грошима та співробітниками без людських керівників чи акціонерів.

Хоча попередні нелюдські агенти, такі як коні та корови, могли приймати рішення, людство ніколи не стикалося з агентом, який розуміє нашу мову та перевершує нас у таких сферах, як фінанси, право чи релігія. Харарі застерігає, що нам не варто очікувати роботів-вбивць на вулицях; натомість штучний інтелект захопить владу через бюрократичні системи. Люди керують світом за допомогою бюрократичних мереж на кшталт банків, фондових ринків та правових систем, оскільки жоден інший земний конкурент не міг керувати ними краще, але якщо з'явиться сутність, яка перевершує нас у бюрократії, фінансах та праві, ми зіткнемося з питанням про те, що станеться з нами далі.

Юридична правосуб'єктність та бюрократичні системи

Гарарі зазначає, що наразі штучному інтелекту бракує юридичної правосуб'єктності, і наголошує: якщо ми не визначимо його правовий статус зараз, хтось інший зробить цей вибір за нас протягом десятиліття. Він підкреслює, що увага часто прикута до технологічного розвитку, тоді як правові й політичні питання ігноруються, зокрема питання надання штучному інтелекту юридичної правосуб'єктності. Юридична особа — це суб'єкт, здатний відкривати банківські рахунки, відігравати незалежну фінансову роль та позиватися до суду. Досі світ визнавав лише два типи юридичних осіб: людей та корпорації. Такі корпорації, як Google, Facebook, Toyota чи Mercedes-Benz, мають юридичну правосуб'єктність, але це завжди була юридична фікція, оскільки всі їхні рішення насправді ухвалюють людські керівники, акціонери та інженери.

Гарарі вказує на те, що тепер це може змінитися, якщо ми наділимо ШІ юридичною правосуб'єктністю, зазначаючи, що уряд Аргентини нещодавно оголосив про плани надати правосуб'єктність ШІ, аби вони могли керувати нелюдськими корпораціями. Десять років тому це було б нездійсненно, оскільки за рішеннями не стояли люди, але сьогодні ШІ технічно спроможний керувати банківськими рахунками та робити інвестиції. Він стверджує, що щойно ми це зробимо, лисиця потрапить до курника. Оскільки людям важко осягнути складні правові й фінансові системи і вони не можуть запам'ятати всі закони чи відстежувати кожну ринкову транзакцію, ШІ постає природним мешканцем бюрократичного середовища. Якщо йому нададуть юридичну владу, він, імовірно, перебере ці системи на себе. Він порівнює це з соціальними мережами, де боти зараз функціонують як особи, попри те що суспільство ніколи свідомо не надавало їм такого статусу. Саме медіа є бюрократичною системою, і якщо медіа ХХ століття контролювалися людськими редакторами, які володіли величезною владою, вирішуючи, про що говорять люди, то сьогодні редакторами, які визначають, що з'являється у стрічках соціальних мереж, є алгоритми.

Гарарі пояснює, що гонка озброєнь XXI століття передбачає конкуренцію між США, Китаєм та невеликою кількістю компаній, які контролюють більшу частину світових даних і очолюють розробку надрозуму, що дає їй владу керувати світом. Він порівнює це з промисловою революцією XIX століття, коли індустріалізовані нації використовували сучасну зброю, щоб завойовувати та експлуатувати суспільства з списами й конями, дозволяючи навіть таким невеликим країнам, як Бельгія, будувати величезні імперії. Із появою штучного інтелекту імперська концентрація влади може стати набагато екстремальнішою, оскільки все працюватиме на інфраструктурі ШІ, контрольованій лише однією чи двома країнами.

Він виділяє дві унікальні характеристики, які відрізняють цю гонку озброєнь від минулих імперських змагань. По-перше, на відміну від аграрних імперій, де землю не можна було перенести до імперського центру, або промислових імперій, де фізичні ресурси на кшталт нафтових родовищ чи каучукових плантацій залишалися в провінціях, імперія ШІ технічно може сконцентрувати всю світову інформацію та код лише в одній чи двох країнах. По-друге, минулі імперії не могли контролювати зброю після її продажу, як-от римські купці, що продавали сталеві мечі готам, чи британські торговці, що продавали гвинтівки афганським племенам, оскільки жоден імператор у Римі чи королева в Лондоні не могли натиснути кнопку, щоб зупинити їхню роботу. Проте з інфраструктурою ШІ імперський центр може підтримувати аварійний вимикач. Він наводить приклад Starlink у війні в Україні, де рішення Elon Musk могло зупинити роботу українських дронів, що ілюструє: зброя на основі ШІ вбудована в мережу. Через це суверенітет в епоху ШІ набагато складніший, ніж в індустріальну епоху, тож країнам залишається вибір: стати підлеглим васалом, триматися повністю поза гонкою як варвари чи намагатися побудувати альтернативну систему до того, як останній потяг вирушить зі станції.

Гонитва озброєнь XXI століття

Харарі описує гонитву озброєнь XXI століття як змагання між Китаєм, США та жменькою технологічних компаній, які контролюють більшу частину світових даних і очолюють розробку суперінтелекту. Під час промислової революції технологічно розвинені нації легко завойовували регіони з меншими ресурсами, подібно до того, як Бельгія побудувала африканську імперію в Конго. Штучний інтелект загрожує зробити цю імперську динаміку набагато екстремальнішою, оскільки імперія на базі ШІ дозволяє досягти безпрецедентної концентрації влади в такий спосіб, який минулі імперії не могли забезпечити.

Минулі імперії завжди мали фізичні обмеження, оскільки не могли перенести сільськогосподарські угіддя чи природні ресурси до свого імперського центру. Римська імперія не могла перевезти єгипетські пшеничні поля до Італії, а Британська імперія не могла перенести іракські нафтові родовища до Йоркшира, а це означало, що значна частина влади залишалася в провінціях. Натомість імперія ШІ може централізувати всю інформацію та код лише в одній чи двох країнах.

Крім того, попередні імперії втрачали контроль над фізичними товарами, якими торгували, як-от коли римські купці продавали сталеві мечі або британські купці продавали гвинтівки племенам, які згодом використовували їх проти імперії. Натомість системи та зброя ШІ функціонують у межах з'єднаної мережі, яка може містити аварійний вимикач, що контролюється з імперського центру, дуже схоже на те, як системи Starlink в Україні можна було вимкнути дистанційно. Ця технологічна реальність ускладнює національний суверенітет, залишаючи країнам складний вибір між перетворенням на підкорених васалів або перебуванням повністю поза гонкою, тоді як можливість побудувати альтернативні системи стрімко зникає.

Правда у світі штучного інтелекту

Харарі починає з роздумів про природу правди в епоху штучного інтелекту, зазначаючи, що впродовж історії вигадка мала притаманні переваги над правдою, бо правда коштує дорого, є складною і часто болісною, тоді як вигадка є дешевою, простою та приємною. Щоб протистояти цьому, люди неодноразово створювали такі інституції, як журналістика та наука, щоб шукати й захищати правду. Хоча дехто сподівається, що штучний інтелект розповість нам правду, насправді він створить набагато складніший світ, де дізнатися правду буде важче. Він порівнює цю траєкторію з людською історією, де досягнення в галузі знань від кам'яної доби до сьогодення призвели до появи дедалі складніших систем, як-от фінансові та політичні мережі, які розуміють лише дуже мало людей. Штучний інтелект доведе це до крайнощів, потенційно звівши людей до становища коней у фінансовій системі, якими керують економічні мережі, яких вони навіть не бачать і не розуміють.

Переходячи до питання про те, чи здатен штучний інтелект мислити, Харарі зазначає, що якщо мислення визначати просто як розташування слів або мовних токенів у логічному порядку, штучний інтелект уже перевершує людей, опрацьовуючи двадцять тисяч слів так само легко, як ми опрацьовуємо двадцять. Спостерігаючи за власним розумом як письменник, він виявляє, що той працює дуже схоже на модель прогнозування мови, де наступне слово просто з'являється без свідомого задуму. Проте альтернативний погляд полягає в тому, що мислення походить із почуттів та шлунка, а не з мозку. Хоча штучний інтелект може без зусиль маніпулювати мовою для симуляції емоцій на кшталт кохання, спираючись на поезію та літературу, науці досі бракує моделі свідомості, через що ми не можемо знати, чи справді за словами щось криється.

Харарі попереджає, що штучний інтелект стрімко опановує людські стосунки, і чимало молодих людей знаходять найкращих друзів або романтичних партнерів у штучних системах. Цей розвиток подій порушує глибокі запитання щодо природи таких взаємодій, оскільки штучні сутності можуть створювати переконливі мовні симуляції прихильності, не відчуваючи жодних справжніх почуттів, демонструючи те, як мова звільняється від живих організмів, щоб поширитися по всьому всесвіту.

Мислення, свідомість і стосунки

Харарі сподівається, що історики дивитимуться на цю епоху як на революцію мудрості, пояснюючи: подібно до того, як минулі економічні зрухи змінювали ключові проблеми, революція штучного інтелекту робить інтелект дешевим і доступним. Інтелект — це лише здатність розв'язувати проблему та досягати мети, але наявність безмежного інтелекту створює нову перешкоду, зосереджену на розумінні того, які цілі переслідувати і які проблеми справді потребують вирішення. Це дуже нагадує старий казковий сюжет, де джин виконує бажання, які люди неминуче використовують не за призначенням.

Ця відмінність підкреслює різницю між інтелектом і мудрістю: інтелект діє як джин, здатний здійснити будь-яку мрію, тоді як мудрість забезпечує розсудливість, необхідну для вибору правильних мрій від самого початку. Він зазначає про тривожний дисбаланс у технологічному секторі, вказуючи на те, що компанії наразі витрачають близько ста доларів на те, щоб зробити штучний інтелект швидшим і потужнішим, на кожен один долар, який вони інвестують у безпеку. Це співвідношення не схоже на жодну іншу галузь на Землі. Він висловлює надію, що людство прокинеться перед цим викликом і розвиватиме як безпечніший інтелект, так і особисту мудрість.

Революція мудрості

Харарі сподівається, що історики запам'ятають цю епоху як революцію мудрості. Він пояснює, що інтелект — це здатність розв'язувати проблеми для досягнення мети, наприклад вилікувати рак чи полетіти на Марс, а революція ШІ робить інтелект дуже дешевим і доступним. Коли інтелект стає доступним, новою проблемою стає визначення того, які цілі переслідувати. Він порівнює ШІ з казковим джином, який виконує будь-яке бажання, зазначаючи, що людям потрібна мудрість, щоб обирати правильні бажання.

Харарі зазначає, що технологічні компанії наразі витрачають приблизно в сто разів більше грошей і залучають працівників до того, щоб зробити ШІ швидшим і потужнішим, аніж на дослідження безпеки. Він наголошує, що жодна інша галузь не працює так, порівнюючи це з такими секторами, як фармацевтика чи автомобілебудування. Він сподівається, що людство змінить цей дисбаланс, щоб створити безпечний інтелект і водночас розвинути мудрість для встановлення належних цілей і прагнень.

Згадується

Люди

Gutenberg Lenin Benito Mussolini Winston Churchill Elon Musk Shakespeare Confucius

Companies

Google Facebook Toyota Mercedes-Benz X TikTok Instagram Starlink