Коли Кремнієва долина й Святий Престол сходяться в оцінках, варто запитати, що саме вони бачать, чого досі не врахували уряди.
У понеділок Папа Лев XIV оприлюднив свою першу енцикліку Magnifica Humanitas, у якій закликав роззброїти ШІ та запровадити регулювання на благо людства. Поруч із ним у Ватикані стояв Крістофер Олах, співзасновник Anthropic, який визнав, що AI-компанії діють “inside a set of incentives and constraints that can sometimes conflict with doing the right thing.” Окремо CEO Anthropic Даріо Амодеї заявляв, що “the next tier of risk is actually AI companies themselves” — і що лідери ШІ, включно з ним, не повинні самі визначати майбутнє цієї технології.
Фактично, творці найпотужніших AI-систем говорять світові: саморегуляції недостатньо. Питання вже не в тому, чи потрібне глобальне управління ШІ. Питання в тому, чи встигнуть його спроєктувати до того, як криза зробить відповідь очевидною для всіх.
Самі розробники визнають ризики — і говорять про це вголос
У галузі мало хто з відповідальних фахівців заперечує ключові загрози: потрясіння ринку праці, автономна зброя, безпека дітей, масове стеження, розмивання людського нагляду та перспектива систем, здатних до рекурсивного самовдосконалення. Anthropic створила Constitutional AI та Responsible Scaling Policy. OpenAI підтримує Preparedness Framework із системним red-teaming. Це вагомі кроки, але вони мають одну спільну структурну ваду: це внутрішні правила. Кожна компанія сама визначає пороги, стандарти прозорості й межі розкриття інформації.
Внутрішні механізми не здатні розв’язати проблему, яка є зовнішньою. Компанії, що будують frontier AI, працюють у конкурентному середовищі, де одностороння стриманість перетворюється на стратегічний мінус. Якщо одна компанія сповільнюється, а конкурент — ні, це не робить світ безпечнішим; це лише означає, що перша відстає. Те саме стосується держав: жоден уряд не може правдоподібно обмежити власні компанії, якщо Китай або інша велика AI-держава не пов’язана зіставним зобов’язанням. У підсумку отримуємо класичний провал колективних дій: усі розуміють небезпеку, але ніхто не має індивідуального стимулу оплачувати повну ціну рішення. Це не дефект ринку — це збій архітектури управління.
Найточніша паралель — не ядерна зброя, а фінансовий нагляд
Найчастіше згадують ядерний контроль над озброєннями, але це хибна аналогія. Ядерні програми були державними, з визначеними об’єктами та перевірюваними випробуваннями. Передовий ШІ створюють приватні гравці на комерційній інфраструктурі, яка вже глибоко інтегрована в глобальну економіку.
Натомість фінансова система дає значно кориснішу модель. Банки жорстко конкурують між юрисдикціями, з’єднані в реальному часі, а системні ризики — від фінансування тероризму до фінансових злочинів — не може локалізувати жодна установа наодинці. Відповіддю стала рамка стандартів G20 у вигляді FATF: поєднання спільних норм, операційних вимог, обов’язків держав і приватного сектору, експертної оцінки та реальних наслідків за невиконання. Це рішення не ідеальне, але воно змінило поведінку у масштабі, не чекаючи десятиліть на ратифікацію договорів, бо розподілило відповідальність у коаліції, достатньо широкій, щоб ухилення ставало дорогим, і розклало зобов’язання щодо безпеки між урядами та бізнесом.
Я багато років проєктувала й оцінювала ці стандарти: зокрема, очолювала міжнародну координацію протидії фінансуванню ІДІЛ і формувала крипторегуляторну рамку, яку тепер застосовують понад 120 країн. Я безпосередньо перевіряла національні програми відповідності. І переконана, що розумію, які механізми підзвітності працюють — і які приречені.
Контури реалістичної архітектури управління ШІ
Працездатна система глобального AI governance має стартувати не з дрібних технічних приписів, а з узгоджених принципів: спільних зобов’язань щодо ризиків, навколо яких уже існує реальний консенсус. Далі ці принципи мають перетворюватися на критерії, що оцінюють фактичні наслідки у світі, а не диктують техпроцеси, які за кілька місяців застаріють. Незалежні експертні панелі, складені з представників і публічного, і приватного секторів, мають перевіряти, чи відповідають компанії та держави цим критеріям. І потрібні наслідки: виконання відкриває доступ до довіри, ринків і співпраці; невиконання тягне за собою наростальні витрати. Двостороннє розуміння між США та Китаєм є необхідним, але недостатнім; лише ширша коаліція на кшталт G20 здатна перетворити стриманість на тривалий глобальний тиск.
Часове вікно швидко звужується
За деякими авторитетними оцінками, Artificial General Intelligence — системи, здатні перевершити людей у більшості сфер — можуть з’явитися вже близько 2030 року. Коли машини перевищують людські можливості, єдиною адекватною відповіддю стає колективна дія. Жодна компанія й жодна держава не здатні керувати цим поодинці.
Амодеї закликав до відвертості з боку лідерів ШІ та урядів щодо того, як швидко все розгортається. Папа закликав роззброїти технологію, перш ніж вона роззброїть нас. Олах у Ватикані підтвердив проблему стимулів, з якою стикається його ж індустрія. Цей збіг сигналів із протилежних полюсів людського авторитету — морального та комерційного — сам по собі є даними, які політики не можуть ігнорувати.
Міжнародна спільнота вже об’єднувалася навколо екзистенційних спільних ризиків — нерозповсюдження ядерної зброї, фінансування тероризму, системних фінансових колапсів. Вона створювала механізми координації, які трималися — недосконало, але результативно. ШІ потребує такого самого підходу — і набагато терміновіше. Ризики для людства мають інший порядок масштабу. Катастрофи не є суто гіпотетичними. Чекати, щоб керувати після того, як вони стануться, — це не виправлення. Це капітуляція.
Тепер уряди та міжнародні організації мають скликати цей процес. Залучити людей, які створювали ці системи й знають їхні режими відмови зсередини, а також експертів із практичним досвідом координації між сторонами, що не довіряють одна одній — державами чи комерційними конкурентами — і перетворення спільного ризику на обов’язкове зобов’язання. Вікно можливостей закривається. Ми винні нашим дітям управління, побудоване до катастрофи, а не як реакцію на неї.
Думки, висловлені в авторських матеріалах Fortune.com, належать виключно авторам і не обов’язково відображають погляди та переконання Fortune.
Ця історія спочатку була опублікована на Fortune.com
