Чим кращим стає AI, тим меншою може бути його частка в економіці – Алекс Імас та Філ Траммелл
Чи варто це вашого часу?
Ви отримаєте детальний опис того, як економічні моделі частки капіталу, еластичності попиту та накопичення багатства застосовуються до автоматизованого майбутнього.
Ця розмова досліджує, як просунута автоматизація та штучний інтелект змінять розподіл багатства, частки праці та економічний попит. Спікери аналізують історичні паралелі від промислової революції, щоб оцінити, чи призведе автоматизація до масового безробіття або несподіваного економічного зростання.
Частка капіталу та автоматизація. Імас (Imas) очікує, що в міру того, як AI автоматизує виробництво, загальні наслідки для частки капіталу в економіці залишаться неоднозначними, оскільки людські реляційні послуги співіснуватимуть з автоматизованими товарами. Він зазначає, що протягом сотень років приблизно 60% економіки йшло людям у вигляді заробітної плати — це факт Калдора, який пережив промислову революцію, оскільки структурні зміни створювали нові робочі місця.
Еластичність попиту на програмне забезпечення. Траммелл (Trammell) стверджує, що обвал попиту малоймовірний, оскільки дешевше програмне забезпечення та обчислювальні потужності стимулюють вищі загальні витрати, коли попит є достатньо еластичним. Він зазначає, що Budget Lab у Єльському університеті не знайшов доказів «білокомірної різанини» в таких вразливих секторах, як розробка програмного забезпечення.
Накопичення багатства агентами. Імас (Imas) попереджає, що майбутні автономні сутності та багаті люди з ненасичуваними упорбаннями до накопичення будуть підвищувати норму заощаджень, поки не володітимуть більшістю багатства. Він пояснює, що найбагатші люди сьогодні віддають перевагу примноженню капіталу над негайним споживанням, подібно до високої прибутковості, яку зараз демонструють центри обробки даних.
Чи збільшиться частка капіталу?
Розглянемо реляційний сектор, під яким ми розуміємо товари та послуги, де людина в процесі є частиною цінності. Оскільки люди за своєю природою є обмеженим ресурсом, якщо автоматизація зробить інші речі доступними, ми все одно матимемо дефіцит у тих сферах, де задіяні люди. У світі, де ШІ фізично може робити все, що можуть люди, існує машинна економіка, яка будує заводи, проводить дослідження та генерує ідеї. Людина, ймовірно, не братиме участі в цьому фізичному виробництві в кінцевому підсумку, якщо проблему робототехніки буде вирішено.
Проте ми насправді хочемо, щоб балерина або бариста були людьми; це частина цінності виступу чи кафе. Тільки люди мають таку перевагу, що створює людську економіку, де люди надають послуги одне одному. Хоча частина багатства циркулює між людьми, частина витікає, оскільки вони хочуть автоматизованих товарів із економіки, що складається лише з машин. Значна частина такої машинної економіки є замкненим циклом, тому що машинам байдуже, чи готує їм каву людина-бариста.
Індивідуальні прогнози економістів, таких як ми, не обов'язково є корисними. У дописі в блозі Андрія Фрадкіна (Andrey Fradkin), Браяна Джабаріана (Brian Jabarian) та Ендрю Ко (Andrew Koh), де розглядалися прогнози ринку праці, було виявлено розбіжності в усіх напрямках. Я згоден з їхнім твердженням, що нам слід створювати ринки передбачень, щоб отримати агреговані прогнози та ефект «мудрості натовпу».
Давид Рікардо (David Ricardo), класичний економіст, писав під час промислової революції, що хоча нижчі ціни були б чудовими, автоматизація робочих місць, що створюють цінність, призведе до безробіття та політичних заворушень. Прогнози Рікардо були правильними; ці робочі місця були автоматизовані. Проте, якби він прокинувся і дізнався про це зараз, він був би здивований, виявивши, що рівень зайнятості людей працездатного віку у 2026 році є найвищим за всю історію, за винятком 2000 року. У нас найбільша кількість потенційно працевлаштованих людей з 2000 року.
Рікардо упустив економіку структурних змін: усе автоматизоване стало дешевим, що залишило людям більше грошей на послуги. Це помилка «фіксованого обсягу праці»; він не врахував, що будуть створені нові робочі місця. Частка праці знизилася, і Філ розповість про це пізніше сьогодні.
Я постійно говорю, що нам потрібен «Манхеттенський проєкт» для даних. Нам бракує даних про еластичність споживчого попиту, а база даних завдань і професій O*NET рідко оновлюється і має дуже низьку якість. Якщо буде повна зайнятість, ми зможемо поговорити про реляційний сектор.
Загальна економіка, сума проданих товарів і послуг, виплачується або людям у вигляді заробітної плати, або капіталу, наприклад, у вигляді орендної плати за будівлі та виплат акціонерам. Протягом сотень років приблизно 60% економіки йшло людям як зарплата, тоді як 30-40% діставалося тим, хто володіє машинами, землею та частками в компаніях. Це факт Калдора. Дивно, що частка праці залишалася понад 60% після промислової революції та всієї наступної автоматизації. Хоча дехто каже, що за останні 20–30 років частка праці впала, зміни в обліку ускладнюють цей висновок; Еткинсон (Atkinson) має статтю, яка показує, що якщо облік залишається сталим, частка праці не зменшилася.
Якщо праця та капітал є взаємодоповнюючими, вам потрібні обидва, щоб щось зробити. Якщо розглянути частки факторів з урахуванням мережі для товару по всьому ланцюгу постачання — не лише на останньому етапі, а й те, що вкладено в машини, які автоматизують цей етап, — ви побачите, що праця додає значної вартості. У США комп'ютерні та електронні товари мають стабільну частку капіталу з урахуванням мережі на рівні близько 50%.
Я вважаю, що наближається якісний зсув, коли частка капіталу з урахуванням мережі для деяких товарів досягне одиниці, тому що весь ланцюг постачання може бути автоматизований без жодної частини, яку ми б за своєю природою хотіли, щоб виконувала людина. Наслідки для загальної частки капіталу неоднозначні. Уявіть два сектори: сектор людської природи, як-от балерини, і все інше. Якщо ми повністю автоматизуємо все інше і швидко досягнемо насичення, кількість товарів, що не стосуються балерин, прагне до нескінченності, але гранична корисність падає швидше, ніж зростає кількість.
У моделі роботи, заснованій на завданнях, якщо споживачі платять більше за послугу, де кожне завдання автоматизоване, за винятком лікаря, який ставить діагноз і надає підтримку, така робота є частиною реляційного сектору. Використовуючи спільний аналіз готовності платити, можна виявити зростання різновидності капіталу, що дозволяє уникнути насичення. Якщо ця різновидність зростає достатньо швидко і не відбувається в людському секторі, ви можете отримати всі реляційні блага, які забажаєте, але частка праці все одно прямуватиме до нуля. Це нагадує мені вашу аналогію з монгольським економістом 1400 року, який роздумує про дефіцит і обмеження такого аналізу.
Розглянемо товари, доступні монголу далекого минулого. Були роботи, які були за своєю природою людськими, як-от співак, і речі, які такими не були, як транспортні послуги, що надавалися кіньми, або різні види їжі. Якби вони зафіксували різновиди в обох категоріях і запитали, що станеться з більшою автоматизацією, вони могли б сказати, що досягнуть насичення в «кінському» транспорті, йогурті та юртах. Ці частки пішли б до нуля, залишивши їм витрачати всі свої гроші на співаків.
У міру того, як ми накопичували більше багатства та вдосконалювали машини, ми розширювали перелік речей, на які можна витрачати гроші, окрім співаків, і частка витрат на співаків залишалася мізерною. Важко уявити світ із трильйонами роботів і лише кількома мільярдами людей, де сукупна сума, витрачена на роботів, була б меншою за ту, що ми витрачаємо на оплату Магнуса Карлсена (Magnus Carlsen).
Кількість транзисторів у світі зросла в трильйони або навіть у квадрильйони разів. Чед Джонс (Chad Jones) має цікавий результат, який показує, що частка економіки, яка йде на оплату обчислень і транзисторів, зменшується. Ми не лише виробляємо більше транзисторів дешевше, але й цінність граничного транзистора падає. Мені подобається песимістичне формулювання закону Мура: кожні 18 місяців цінність обчислень зменшується вдвічі, тому що нам так швидко бракує способів використання обчислень, що це й підтримує закон Мура.
Це стосується AI, де вперше це може бути вже не так. Оренда H100 зараз коштує дорожче, ніж три роки тому, попри кращі технології та більшу кількість обчислювальних потужностей у світі, тому що в міру того, як моделі стають розумнішими, альтернативна вартість обчислень зростає. Ми збільшили кількість речей, які люди вимагають від капіталу; поки це так і залишатиметься, частка економіки, що йде на обчислення, продовжуватиме зростати.
Попит виникає не лише через дефіцит, а й через внутрішнє прагнення до емпатії, зв'язку та взаємодії з іншою людиною. В одному з наших експериментів ми використали метод із сумісними стимулами, щоб запитати, скільки реальних грошей люди готові заплатити за відбиток картини. У міжсуб'єктних умовах ми зазначали, що існує лише один відбиток, створений або AI, або людиною; відбиток, створений людиною, оцінювали значно вище. В інших умовах ми казали, що існує 500 відбитків, і ціна на той, що зроблений людиною, значно впала, оскільки він більше не сприймався як спосіб встановити зв'язок з одним художником.
Кінь був ресурсом для отримання результату, який можна було замінити. Ця історія про взаємовідносини працює — і нам потрібно більше даних щодо цього — лише якщо людина не є конем і створює таку цінність результату, що якщо ви заміните людину, цінність цього результату знизиться.
Сценарій «заплутаної середини»
Моллі Кіндер (Molly Kinder) писала про сценарій «брудної середини», що змусило мене замислитися, чи не був би набагато швидший зліт ШІ кращим для розподілу багатства. ШІ міг би автоматизувати робочі місця та спричинити масові звільнення, не створивши при цьому достатньо миттєвого багатства, щоб виплатити компенсації тим, кого витіснили, і досягти покращення за Парето, від якого виграли б усі.
Хоча ресурси, заощаджені завдяки заміні людей на ШІ, все ще залишаються в економіці, виникають проблеми з розподільчою неефективністю та політичні труднощі. Уряд не знає точно, кого саме звільнив ШІ. Наприклад, чи буде політично прийнятним виплачувати звільненому працівнику Meta щорічний чек на 200,000 доларів, коли багато інших працюючих людей заробляють набагато менше?
Гадаю, що якщо автоматизація створить таку політичну проблему, то й економічний пиріг також швидко зростатиме — хіба що ШІ буде лише трохи продуктивнішим у цих професіях, і тоді капітал для заміни інженерів-програмістів коштуватиме майже стільки ж, скільки самі інженери. У довгостроковій перспективі парадокс Джевонса підказує, що ми не можемо передбачити, як саме ми використовуватимемо більше програмного забезпечення, але варіантів використання напевно стане більше.
Енді Холл (Andy Hall) написав у блозі, що якщо безробіття зросте лише на 2%, політичні вітри повністю зміняться. Посилаючись на есе Моллі, я вважаю, що «сценарій краплі» є одним із найгірших наслідків через політичну економію; люди можуть не стати безробітними масово, а натомість перейти в сектори з нижчою оплатою праці.
Між 1920 та 1940 роками робота телефонних операторів була повністю автоматизована, але це зайняло 20 років, хоча технологія вже існувала. Стаття в QJE показує, що вони були поглинуті економікою знову, переважно з недозайнятістю та за нижчими зарплатами.
Надзвичайна ситуація — це швидкий стрибок безробіття, можливо, на 2-3%. Питання в тому, чи достатньо ресурсів, заощаджених на офісних працівниках, для широкої схеми перерозподілу, якщо вони не стимулюють зростання економіки. Якщо ви не знайдете способу спрямувати ці кошти саме їм, ви зіткнетеся з проблемою: чи можна фінансувати безумовний базовий дохід за рахунок звільнень, які витісняють людей, не розширюючи технологічний фронтир того, що економіка може виробляти.
Історично технологічний фронтир розширювався щоразу, коли це траплялося. Важко уявити сценарій, за якого інтелект буде якраз достатнім, щоб замінити інженера-програміста, але при цьому коштуватиме майже стільки ж, не створюючи ефекту достатку. Якщо пиріг не росте, то де відбуватиметься перерозподіл?
Для того, щоб це сталося, ви мали б бути здатні автоматизувати офісну роботу лише частково — наприклад, автоматизувати інженерів-програмістів, але не бухгалтерів чи аналітиків. Моя модель інтелекту підказує: якщо ви можете звільнити всіх інженерів-програмістів, у вас достатньо можливостей, щоб автоматизувати всі види офісної праці. Оскільки ШІ буде дешевшим за людську працю і створить величезний потенціал заощаджень, сценарій «брудної середини», де нам бракує багатства для всіх, здається малоймовірним. Тоді питання лише в тому, як найкраще це оподаткувати та перерозподілити.
Як оподатковувати та перерозподіляти багатство від AI
Складність впровадження цих речей різна, так само як і терміни, коли вони почнуть приносити користь. Універсальний базовий капітал не дасть прибутку за шість місяців, тоді як негативний податок на дохід забезпечує негайний страховий мінімум, де кожен отримує певну суму грошей, а податки зростають у міру збільшення заробітку.
Мене турбують наслідки безумовного базового доходу (UBI) для політичної економіки; якщо люди залежать від чека, стає критично важливим, хто перебуває при владі. Зараз ми наділені працею, яка перетворюється на дохід, але бути на милість обраних посадовців у питаннях базових потреб — це небезпечний розподіл влади. З універсальним базовим капіталом ви маєте частку власності та права власності, але це залежить від індексації. Проблема універсального базового капіталу полягає в цільовому визначенні: що, якщо Anthropic знеціниться до нуля, а якусь випадкову компанію з робототехніки почне використовувати весь світ?
Негативний податок на дохід поділяє ризик UBI: хтось при владі може скасувати цей мінімум саме тоді, коли люди не зможуть працювати. Щодо податку на багатство, я побоююся, що на рівні 0.5% не існує політично стійкої рівноваги. Він може початися з низької ставки через війну і зростати, поки маржинальна ставка податку на дохід у США не досягне приблизно 40%, а в окремих штатах і понад 50%. Стосовно податку на капітал можна побоюватися, що він викривить інвестиції, і люди запитають, навіщо інвестувати в Anthropic або Intel, якщо уряд забиратиме більші частки та розмиватиме їх.
Варто розділити те, як збираються кошти, що саме оподатковується і як це розподіляється. Уряд міг би використовувати широкий податок на зовнішні ефекти або на землю, щоб купувати та роздавати акції Anthropic. Аналогічно, податок на споживання, як-от європейський податок на додану вартість, дозволяє уряду купувати акції та розподіляти їх між усіма. Саме така пропозиція була щодо приватизації Social Security: надати кожному кошик акцій.
Чому обвал попиту малоймовірний
Люди сперечаються, чи чекає на нас апокаліпсис «білих комірців». Budget Lab у Єльському університеті проводить чудовий аналіз цієї теми; їхній нещодавній звіт показує, що щоб помітити якісь зміни, треба дуже придивлятися. У масштабах усієї економіки, навіть у найбільш вразливих секторах, як-от розробка програмного забезпечення, насправді нічого не відбувається. Можливо, є сигнал, що молодші розробники отримують роботу рідше, ніж раніше, але це саме «рідше, ніж раніше», а не зміна рівня, оскільки попит на старших інженерів-програмістів насправді зріс. Скоріш за все, скорочення штату — це просто звичайні звільнення, які перейменували на «звільнення через AI».
Існують публічні механізми координації. Якщо ми потрапимо в наратив, де компанії, які не звільняють людей, сприймаються як такі, що не адаптуються до AI, виникне каскадний ефект, коли фірми намагатимуться не відставати від сусідів. Це турбує, адже компанії може стати гірше після скорочень, але вона йде на це, щоб підтримувати імідж того, що вона не застаріла. Ви, ймовірно, чули окремі історії про те, як лічильники токенів максимізують кількість токенів.
Наразі ми не маємо доказів «кровавої бані» серед білих комірців. Якщо ви автоматизуєте допоміжне завдання, цінність людської праці, що доповнює цю автоматизацію, зростає. Ключовим показником тут є еластичність попиту. У моделі роботи як «O-ring» робота є серією завдань. Якщо AI автоматизує дев'ять із десяти завдань, а людина зосереджується на одному тому, що залишилося, робота стає продуктивнішою. Якщо це створює ціновий ефект, за якого продукт стає дешевшим, а попит реагує збільшенням використання, це може призвести до нових наймів. Багато хто в інтернеті стверджує, що зростання попиту на інженерів-програмістів свідчить про те, що робочі місця зараз є достатньо еластичними.
Цей аргумент про еластичність попиту неймовірно важливий для термінів, які люди використовують, не розуміючи глибинних причин, як-от парадокс Джевонса. Це ідея про те, що коли щось стає дешевшим, ви хочете цього настільки більше, що загальні витрати зростають — так сталося з вугіллям у Британії 200 років тому. Однак це відбувається лише за умови високої еластичності попиту. Для таких речей, як нафта чи інсулін, попит не є надто еластичним; якщо вони подешевшають, не вийде так, що магічним чином з'явиться стільки автомобілів, що ми використовуватимемо набагато більше нафти, ніж раніше.
Довгострокова еластичність вища за короткострокову. Навіть у довгостроковій перспективі сільське господарство є відомим прикладом: ми могли б виробляти набагато більше їжі, якби виділяли на це таку ж частку економіки, як 100 років тому.
Програмне забезпечення — це особливий вид блага, якого ми хочемо все більше і більше, коли воно дешевшає; це не є притаманною властивістю ринків, що ви просто продовжуєте бажати більшого при падінні цін.
Вірусне сценарне планування Сітріні (Citrini) передбачає, що автоматизація та потужний AI спричинять рецесію. Якщо білі комірці будуть автоматизовані швидко, їх можуть звільнити, і вони не знайдуть роботу, що призведе до зникнення їхніх зарплат і спричинить спад. Це передбачає перерозподіл багатства та доходів від низькооплачуваних працівників до власників технологічного капіталу.
Для того щоб це призвело до негативного економічного зростання, попит повинен мати жорстку межу. Власники капіталу зрештою мали б сказати: «З мене досить», і припинити витрачати кошти або інвестувати в нові заводи та дата-центри для роботи AGI. На відміну від Великої депресії, тут технологічний фронтир розширюється. Достатку дуже важко спричинити негативне економічне зростання.
Одним із правдоподібних механізмів могла б бути теорія O-кільця, яка описує, як шаттл Challenger вибухнув через те, що один несправний компонент знищив усю конструкцію.
Людських працівників було б важко інтегрувати в машинну економіку
Зараз ви не можете повністю автоматизувати цілу посаду за допомогою ШІ, оскільки потрібна надзвичайна надійність, щоб не зіпсувати кінцевий продукт; це пояснює, чому автоматизації менше, ніж могло б бути. Однак, як тільки ШІ достатньо розвинеться, інтеграція людей у виробничі процеси стане складною. Окрім того, що люди дорожчі або менш здібні, цілі виробничі потоки будуть організовані під працю ШІ, який мислить у тисячі разів швидше та спілкується «нейромовою». Навіть якщо існуватиме порівняльна перевага найму людини, транзакційні витрати та побоювання щодо надійності ускладнять інтеграцію.
Я хочу відрізнити це від тези про те, що якщо ви автоматизуєте дев'ять десятих частини роботи, люди можуть перейти до останньої десятої, але зіткнутися з десятикратним збільшенням обсягу вимогливої роботи. Порівняйте це з моделлю автоматизації O-кільця Ганса (Gans) та Голдфарба (Goldfarb): якщо ви можете автоматизувати лише дев'ять десятих частини роботи, але з нижчим стандартом якості, ніж у людини, ви можете не автоматизувати її взагалі. Симетрично, ми можемо припинити використовувати людей для однієї десятої частини роботи, тому що вони не можуть зрівнятися з якістю або швидкістю ШІ.
Ця модель здається надзвичайно правдоподібною як пояснення того, чому більше юристів, бухгалтерів або інженерів-програмістів досі не автоматизовані. Зокрема з юристами потрібна особа, яка гарантує результат, а регуляторні рівні тримають людей у процесі незалежно від їхньої здатності надавати послугу. Ці тертя у рішеннях політичного типу, які ми довіряємо лише людям — законодавство, робота судді чи присяжного, або професійне ліцензування — здаються мені перехідними. Те, чого ми очікуємо від людей і як ми організовуємо політику, змінювалося протягом історії: від груп мисливців-збирачів до імперій. Як тільки політична система під керуванням ШІ стане набагато ефективнішою за альтернативи, вона, ймовірно, витіснить їх.
Що, якщо деякі люди (або AI) цінують накопичення багатства як внутрішню цінність?
У майбутньому ми матимемо різні типи сутностей: ШІ. Колись еволюція відбирала агентів із певними потягами та перевагами, тому що вони виживали найчастіше, і тепер ці переваги визначають, що виробляє світова економіка обсягом у сто трильйонів доларів. Навіть без катастрофічного розбіжню цілей, коли гинуть усі, відбуватиметься еволюція фірм, частиною яких є ШІ. Відбір сприятиме агентам, які зростають, більше заощаджують і мають ненаситний попит на ресурси, де обчислювальні потужності є очевидним прикладом.
Якщо повністю автономний ШІ має власне благополуччя і приймає власні рішення, у мене немає підстав вважати, що він віддасть перевагу взаємодії з людьми. Важливим питанням є те, чи зміняться людські переваги щодо довіри та емпатії до інших людей порівняно з симульованим ШІ. Дехто сприйматиме ШІ-терапевта як кращий продукт і не потребуватиме людської емпатії. Використовуючи підхід Джонатана Гайдта (Jonathan Haidt), інші відчувають моральний спротив проти перекладання соціальних взаємодій на ШІ; саме вони віддають перевагу іншим людям. Як зазначалося в останньому подкасті, ми перебуваємо під впливом природного відбору, тому навіть нинішня байдужість може еволюціонувати в сильнішу перевагу на користь інших людей.
Марк Цукерберг (Mark Zuckerberg) наймає інструкторів із MMA та танцюристів на день народження своєї дружини, але більша частина його багатства — це акції Meta. Як контрольний акціонер, він міг би перетворити це багатство на дивідендний дохід для споживання, але він воліє, щоб його капітал зростав, а Meta будувала більше дата-центрів. Найбагатші люди, чиє багатство накопичується, мають майже нік-лендіанську перевагу щодо прискорення капіталу.
Якщо дві людини однаково швидко досягають насичення капіталом, але одна з них також любить послуги, притаманні лише людям, гранична цінність капіталу для кожного залишається практично однаковою. Однак, якщо одна людина не відчуває насичення в капіталі, тому що вона захоплена дослідженням всесвіту або перетворенням своєї голови на «галактичний мозок», тоді як інша відчуває, то людина, що не насичується, раціонально матиме вищий рівень заощаджень. У довгостроковій перспективі вона володітиме більшістю багатства, і загальна частка капіталу буде часткою капіталу у витратах цієї людини, тобто одиницею.
Зараз його інвестиції спрямовані на людей і машини, але я не думаю, що йому важливо, чи будуть його майбутні дослідники та інженери людьми, чи ШІ. Схоже, що деякі багаті люди не насичуються капіталом швидко, тому в довгостроковій перспективі вони можуть заощаджувати найбільше. Навіть якщо біологічно вони розмножуються повільніше, це може не мати значення, якщо вони зможуть жити вічно.
Щодо того, що багаті люди інвестують, а не споживають, — це залежить від прибутковості капіталу. Прибутковість дата-центрів зараз надзвичайно висока, але якщо люди наситяться капіталом, прибутковість впаде, і ці багатії споживатимуть більше, бо стимул інвестувати стане меншим. Розглянемо загальну рівновагу: ми стали колосально багатшими з 1820 року. Набагато більше людей інвестують, але споживацька відповідь дозволяє людям залишатися працевлаштованими, а частці праці — бути високою. Можливо, інвестиції доведеться дозувати через реальних працівників, щоб це працювало. У майбутньому лише споживання буде опосередковане людиною, оскільки інвестування зможуть здійснювати роботи.
У сценарії з високою часткою праці прибутковість капіталу буде нижчою, а це означає, що темпи зростання мають бути нижчими, ніж ми очікуємо протягом періоду трансформаційного AI. Капітальний запас може зростати швидко, але ціна капітальних товарів відносно споживчих товарів може падати швидше, ніж зростає капітальний запас. Це різниця між потенційним технологічним рубежем і реальними цінами.
Якщо темпи зростання високі, я можу вкласти гроші, щоб отримати 30% відсотків у дата-центрах, або можу купити крутий продукт, що став результатом технологічних проривів; обидва варіанти привабливі. Можливо, нам потрібен виступ балерини з такою ж граничною корисністю, як і зараз, але гранична корисність робота може бути набагато нижчою. В одиницях роботів ми хочемо цього більше, ніж зараз. Якщо кожен робот сьогодні перетворюється на 100 роботів наступного року, то відсоткова ставка в одиницях роботів становить 10 000%.
Якщо ціна на роботів падатиме дуже швидко, ціни коригуватимуться так, як не дозволяє більшість макромоделей. Це специфічна для інвестицій технічна зміна: ціна капіталу падає відносно ціни споживання, на відміну від стандартного макроекономічного погляду на єдину химеру «випуску», що розподіляється між капіталом або споживанням. Кожна одиниця капіталу наступного року забирає набагато менше споживання, ніж одиниця цього року. Один робот зараз перетворюється на багато роботів наступного року, але кількість балерин залишається незмінною. Якщо ці додаткові роботи будуть різних видів і я не насичуся, це вже інша історія. З боку інвестицій один лише жадібний титан індустрії, який хоче більше роботів, міг би підвищити граничну вартість роботів і знизити частку праці.
Історично жадібні титани індустрії будували бібліотеки. Накопичення багатства часто було частиною соціальної взаємодії серед рівних і громади, щоб викликати захоплення. Стереотипний факт полягає в тому, що ви накопичуєте капітал, а потім купуєте речі. Коли ці титани наближаються до кінця свого життя, вони часто передають багатство дітям, які є гіршими розпорядниками й не можуть примножити статки навіть темпами зростання економіки. Відтак, вони передають їх у траст. Якщо люди житимуть довше або підлаштують свої трасти під процес накопичення, ця еволюція відчуватиметься сильною. Кілька агентів, що мислять таким чином, могли б визначити вподобання всієї економіки, оскільки цей сектор зростає швидше за інші.
Щодо насичення та спадання граничної корисності: якщо людина має внутрішню схильність до накопичення, ваша версія правильна. Коли у вас достатньо гедоніки та соціального статусу — про що писали Руссо та Святий Августин — накопичення стає метою. Ми ж стверджуємо, що висока концентрація багатства дозволяє кільком винятками з правила бути достатніми. Історично та сьогодні ми бачимо ці винятки; вони не захопили економіку через шоки розсіювання, як-от діти, що розтринькують статки, або фонди, які їх витрачають. Ця перевага не є гіпотетичною.
Навіть без внутрішньої схильності існують інструментальні причини цінувати накопичення, як-от бажання мати політичний, філософський або релігійний вплив. Люди вступають у гонку озброєнь за те, яким має бути суспільство і у що люди мають вірити. Подібним чином існує тотальна утилітарна філантропія. Як класичний утилітарист, один із способів мати майже ненасичувану функцію корисності — це створювати нових щасливих істот. Це повертає нас до точки астрономічних відходів Бострома (Bostrom): розміщення сфер Дайсона навколо зірок, щоб перетворити енергію на щасливі симуляції. Вони мають високу граничну цінність для сонячної системи, яку займають, оскільки це призводить до появи нових сонячних систем. Зонд фон Неймана може існувати, але ми зараховуємо до ВВП лише кінцеве споживання та інвестиційні товари. Якщо ми визнаємо особу, яка володіє собою, і вона обирає між витратами на малого зонда фон Неймана, що колонізує іншу зоряну систему, або на балерину, і при цьому вона не дуже цінує балерину, то частка праці може бути високою в тому розумінні, як ми зазвичай її підраховуємо.
Що робити країнам, що розвиваються?
Якщо ви не створюєте моделі AI, залізо для них, як-от HBM із Кореї, заводи TSMC з Тайваню або ASML з Нідерландів, ви не є частиною виробничого ланцюга. Я вважаю, що найбільший дефіцит ресурсів у професії економістів — це відсутність роздумів про країни з середнім рівнем доходу в епоху AI.
Існують сценарії, за яких технології AI поширяться на Нігерію та інші країни, що розвиваються, вирівнюючи умови гри та підвищуючи їхні можливості. Але в іншому світі, через брак ресурсів для навчання моделей і необхідного заліза, вони можуть залишитися далеко позаду. Завдяки автоматизації ми тепер можемо виробляти сировинні товари в розвинених країнах. Це виглядає як продовження випадку з «хаотичною серединою».
«Хаотична середина» може бути поганою лише у вузькому діапазоні сценаріїв. І не тільки тому, що перерозподіл був би легким у міру зростання «пирога», а тому, що відсоткова ставка була б набагато вищою, а ціна на все, крім товарів, що мають внутрішню людську цінність, стрімко б падала. Має статися щось дуже погане, щоб капітал був достатньо продуктивним для автоматизації праці, але недостатньо продуктивним, щоб відсоткова ставка була високою, а ціна на товари, вироблені капіталом, значно впала. Навіть без перерозподілу, невеликі заощадження врятують багатьох людей, дозволивши їм споживати багато, використовуючи ці кошти, оскільки вони стартують з набагато нижчого рівня відносно глобальної економіки. У мене немає твердого переконання щодо того, чи має це набути форми суверенних фондів багатства, що інвестують у ланцюги постачання, чи субсидій для громадян.
Щодо того, чому нащадки Рокфеллерів (Rockefellers) не контролюють усе: якщо наш аргумент про жадібних оптимізаторів вірний, то одна з причин у тому, що індексувати економіку дуже важко. Якби вони вирішили, щоб їхні спадкоємці індексували економіку, вони були б трильйонерами зараз, але до появи індексних фондів це було просто занадто складно. Дуже мала частка економіки 100-річної давни забезпечує більшість вартості, створеної зараз; якщо ви пропустили ці речі, ваше багатство стагнувало. Можливо, існувало коротке «золоте вікно» від створення індексних фондів до п'яти років тому, щоб примножити багатство темпами зростання економіки, але зараз ми живемо у світі дуже концентрованих прибутків, особливо в приватних компаніях.
Як ми зазначали в нашому дописі в блозі, пересічна людина має непропорційно менший доступ до цього капіталу. У США більша частина їхнього капіталу — це випадковий будинок, який абсолютно не підходить для того, щоб бути доповненням до виробництва чи обслуговування AI та роботів, або товарів, ціну на які багатії будуть піднімати. Земля важлива через близькість до інших людей, але, за винятком реляційних речей, вона не буде головним фактором виробництва в майбутньому. Ось чому георгістський податок не принесе достатньо грошей для програм, які ми будемо обговорювати.
Якщо індексувати економіку стане важче, звичайні люди та країни, що розвиваються, втратять свій головний спосіб отримати частку багатства від AI, за винятком якогось виду безумовного базового доходу. Нігерії недостатньо просто володіти S&P 500; чи володіє Нігерія значною часткою SK Hynix та Anthropic?
Розглянемо ConEd, місцевого постачальника електроенергії. Це монополія, що надає ресурс, яким користуються всі, але ми не сприймаємо електрику як джерело концентрації політичної чи соціальної влади, тому що вигоди від використання діставалися користувачам, а не компанії-виробнику. Соціальні мережі були протилежністю: ними користувалися всі, але прибутки йшли платформі. Якщо наша економіка працюватиме на AGI так, як зараз працює на електриці — тобто відбудеться широка фундаментальна трансформація — це буде схоже на електрику. Кожна компанія в майбутньому S&P 500 опиниться там тому, що вона використала AI.
Однак, враховуючи те, наскільки концентрованим став S&P через великі технологічні компанії, важко визначити, якою частиною прибутків керуватимуть приватні компанії. Відкриті моделі тут відіграють велику роль. Якщо відкриті моделі відставатимуть від передових на шість або дев'ять місяців, то коли ми досягнемо AGI, кожен отримає доступ до цього ресурсу за пів року. Чи будуть ці прибутки стрімко зростати, залежить від технічних прогнозів щодо рекурсивного самовдосконалення, безперервного навчання або онлайн-навчання, що впливає на те, чи матиме Уганда будь-який доступ до доходів від AGI.
В одному варіанті світу AGI концентрований і його важко індексувати. В іншому він схожий на електрику: кожна компанія має доступ, і Нігерії просто потрібно купити індекс і використовувати відкриті моделі. Я б надав пріоритет спробам індексувати, враховуючи те, як швидко AI може охопити світ. У випадках «брудного серединного» або довгого часового горизонту, коли AGI не є неминучим, було б втратою цінності, якби ви не перекваліфікувалися, щоб краще розібратися в новій хвилі обчислень. Можливо, привід для песимізму полягає в тому, що країна часто є бідною через погану систему освіти, тому стратегія стати найкращими в перекваліфікації людей для використання AI може бути не дуже перспективною для такої бідної країни.
У країнах, що розвиваються, ми спостерігали ефект «стрибка» з мобільним банкінгом, який набагато поширеніший у Нігерії, ніж у Німеччині. З такою трансформаційною технологією, як AI, можна так само пропустити проміжний етап і досягти астрономічного зростання.
Як обговорювалося в нашому есе та іншими, індексувати вже не так важко. Хоча приватизація прибутків зросла, менше ніж 20% загальної ринкової капіталізації компаній у США (за винятком крихітних) є приватними. Всі думають про OpenAI та Anthropic; якщо саме там накопичуватиметься все багатство, то питання про те, чи залишатимуться відкриті моделі лише трохи позаду, стають важливими. Проте AI може зменшити тертя, наприклад, вимоги щодо розкриття інформації, які заважають компаніям виходити на біржу. Гадаю, довготривалий загальний тренд на зменшення цього тертя та спрощення індексування для людей триватиме, попри нещодавній стрибок у протилежному напрямку.
ШІ стане популярнішим і з більшою ймовірністю призведе до загального зростання добробуту, якщо привласнити його вигоди буде так само важко, як це було з електрифікацією. Немає людей, які були б «проти електрики». Нинішній негативний наратив навколо ШІ існує тому, що люди не створюють позитивного; комусь у подкасті простіше сказати, що робочі місця, які вам подобаються, зникнуть, ніж розмалювати утопію, якої ще не існує.
Однією з великих ціна коммодитизації передових моделей ШІ є динаміка технологічних перегонів. З міркувань безпеки ви могли б бажати, щоб передових компаній було менше, аби кожна мала запас часу для сповільнення. Щодо широкого доступу до прибутків, я вважаю, що тут менше компромісів, ніж дехто уявляє. Дехто вірить, що або передовий ШІ стає коммодитизованим і ми всі користуємося перевагами попри жорстокий ринок, або ж ситуація безпечніша через великий розрив між лідером і аутсайдером. Натомість можна мати відносно великий розрив, де лідером є публічна компанія з широко розподіленим правом власності.
Останнім часом я думаю, що ризик коммодитизації — яка розсіює можливість використовувати ШІ в шкідливих цілях — вартий цієї вигоди. Я хвилююся, що концентровані лабораторії не лише заважають широкому розподілу надлишків у суспільстві, а й створюють чітку політичну мішень для уряду, як це було з погрозою застосувати Defense Production Act проти Anthropic. Якби не було однієї чи кількох лабораторій, що явно випереджають інших, таку погрозу було б набагато важче висунути.