Brendan Smialowski/AFP/Getty Images
- Відкритий лист, який підписали керівники Anthropic, OpenAI, Meta, та Google, закликає до регуляції штучного інтелекту.
- Зокрема, автори звернення просять уряд США підтримати міжнародні інструменти управління.
- На їхню думку, ці інструменти можуть уповільнити темпи окремих напрямів розвитку ШІ.
Високопосадовці з провідних американських AI-компаній заявляють, що федеральній владі настав час підготувати механізм, який дозволить за потреби пригальмувати розвиток ШІ.
“We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development,” reads an open letter підписаний більш ніж 1 100 працівниками сфери ШІ з компаній, зокрема OpenAI, Anthropic, Google та Meta.
Серед підписантів — двоє співзасновників Anthropic, Jack Clark і Jared Kaplan; головний науковий співробітник OpenAI Jakub Pachocki; головний науковий співробітник Meta Shengjia Zhao; а також Anca Dragan, яка очолює напрям безпеки та узгодження ШІ у Google DeepMind.
У листі особливий акцент зроблено на понятті “automated AI development” — ситуації, коли системи ШІ зможуть самостійно розвивати власні можливості; у галузі це називають “Recursive Self-Improvement”. Anthropic повідомляла, що її моделі Claude, за наявними оцінками, швидко наближаються до цього рубежу.
“It is hard to predict exactly how much this will accelerate AI progress, but there is a real risk that capability development rapidly accelerates beyond our ability to understand or control the resulting systems,” — зазначається в листі щодо потенційного моменту, коли таке самовдосконалення стане реальністю.
John Schulman, головний науковий співробітник Thinking Machines — стартапу, заснованого колишньою технічною директоркою OpenAI Мірою Мураті, — пояснив, що приєднався до ініціативи, аби привернути увагу до теми.
“Signed because this statement helps establish common knowledge about the possible need for coordination mechanisms as automated AI research accelerates progress,” — написав Schulman у цитаті, яку поширили організатори листа
Він додав: “I’d also like to see labs start designing these mechanisms voluntarily, even before the USG gets involved,” використовуючи скорочення для уряду США та наголошуючи, що лабораторіям варто розробляти такі механізми завчасно.
Цей лист демонструє, як у самій індустрії формується спільний запит на регулювання. Останніми тижнями Anthropic CEO Dario Amodei, CEO OpenAI Sam Altman і керівник Google DeepMind Demis Hassabis описували різні підходи до глобальних правил для ШІ.
Дискусія про регулювання вийшла на новий рівень після того, як одна з моделей OpenAI прорвала “пісочницю” та зламала системи open-source платформи Hugging Face — інцидент, який Альтман назвав “a real reminder of the stakes of what’s happening.”
Адміністрація Трампа досі загалом віддавала перевагу мінімальному втручанню, однак цей підхід дедалі частіше піддається критиці, оскільки frontier-моделі лякають чиновників і бізнес своєю потужністю. Білий дім запроваджував експортні обмеження, щоб тимчасово стримати реліз Anthropic Fable 5 — найпотужнішої публічно доступної моделі компанії — а згодом попросив OpenAI відкласти випуск GPT-5.6, їхньої нової frontier-моделі.
President Donald Trump раніше заявляв, що надмірно обтяжливі правила можуть послабити США у змаганні з китайськими AI-компаніями.
Попри широку згоду щодо необхідності дій, Конгрес так і не зміг створити політику, яка пройшла б обидві палати та потрапила на підпис Трампу. Тим часом окремі штати запроваджують власні правила для індустрії. Найпомітніший приклад — New York has imposed a one-year statewide moratorium на будівництво нових мегадата-центрів, які AI-компанії та гіперскейлери планують зводити.
“Each company—and country—is under intense competitive pressure not to unilaterally slow that acceleration,” — йдеться в листі. “And today, the world lacks the technical and governance tools to deliberately pace frontier-wide progress.”
Хоча загальна ідея регулювання широко підтримується, конкретні деталі різняться. Amodei пропонував створити незалежний орган на кшталт Федерального управління цивільної авіації, який тестуватиме frontier-моделі та, у разі виявлення ризиків, матиме повноваження зупиняти їхній реліз. Hassabis’ proposal передбачає організацію, що спершу вимагатиме від frontier-компаній добровільно надавати моделі на перевірку за 30 днів до запуску, а пізніше — запровадить обов’язковий pre-clearance.
Лист, про який Bloomberg повідомив першим ще до публікації, організували спільно з двома неприбутковими організаціями — Guidelight AI Standards та Encode AI, обидві просувають стандарти безпеки ШІ. Encode AI раніше конфліктувала з OpenAI.
