Наглядова організація в індустрії ШІ заявляє, що OpenAI протягом останнього року **неодноразово порушувала** каліфорнійський закон про безпеку ШІ, зокрема під час випуску найсвіжішої моделі Astra.
У новому розборі від Midas Project — неприбуткової організації, яка називає себе наглядовим «сторожем», що працює над тим, аби **ШІ приносив користь усім**, а не лише компаніям-розробникам — стверджується, що OpenAI щонайменше тричі цього року не виконала вимоги нещодавно ухваленого закону Каліфорнії щодо безпеки штучного інтелекту.
Звинувачення стосуються того, що OpenAI нібито не оприлюднила обов’язкову оцінку ризиків саме для тієї загрози, про яку компанія останнім часом активно попереджає: потенційне вислизання систем ШІ з-під контролю людини.
Каліфорнійський закон Transparency in Frontier AI Act, який часто називають SB 53 (за номером законопроєкту в сенаті до ухвалення), підписали у вересні 2025 року, а чинності він набув із початку цього року. Документ зобов’язує найбільших розробників ШІ публікувати **рамки безпеки** з поясненням того, як вони оцінюють і знижують ризики, а також прямо вказує, що компанії мають дотримуватися власних задекларованих політик.
У травні OpenAI опублікувала свій Frontier Governance Framework (FBF) — політичний документ, якого вимагає новий закон. У ньому зазначено, що компанія оцінюватиме кожну нову модель за чотирма категоріями ризику та призначатиме в кожній з них «рівень ризику» (tier) від першого до третього. Для кожного рівня передбачені окремі пом’якшувальні заходи, які компанія зобов’язалася застосовувати. Категорії такі: Кібератаки; Хімічні, біологічні, радіологічні та ядерні ризики (CBRN); Шкідливі маніпуляції; та **Втрата контролю**.
«SB 53 у Каліфорнії вимагає, щоб AI-компанії ухвалили ці політики безпеки й діяли відповідно до них», — сказав Fortune засновник Midas Project Тайлер Джонстон. «Компанії самі визначають, якими будуть правила. Єдина вимога — щойно ви встановили правила, ви повинні їх виконувати».
OpenAI повідомила Fortune, що **впевнена** у відповідності SB 53. «Ми суттєво інвестуємо в оцінювання нових ризиків і створення запобіжників, а також публічно ділимося результатами через наші system cards і рамки безпеки», — заявив представник компанії.
Генеральний директор Сем Альтман також закликав до федерального регулювання та державної підтримки координації міжнародного договору зі «сповільнення» розробки ШІ разом із Китаєм у дописі на X від 14 вересня.
Де поділися офіційні рівні ризику
Втім OpenAI не присвоїла рівні ризику (tiers) для жодної з категорій у своїх ключових релізах моделей після публікації документа в травні. Це стосується GPT-5.6 preview, випущеної у червні, GPT-5.6 model, випущеної у липні, а також дебюту GPT-6 Astra минулого тижня. У system cards цих моделей немає розділів, що прямо відповідали б чотирьом категоріям, і немає згадки про рівні, описані OpenAI.
Незрозуміло, з якої причини OpenAI опублікувала FBF, який тепер **має юридичну силу**, але не оприлюднила tier-оцінки для моделей, що вийшли після цього. Штраф за невиконання закону може становити до $1 million за кожне порушення з масштабуванням залежно від тяжкості.
Для GPT-5.6 та GPT-6 OpenAI все ж опублікувала оцінювання, але за іншою внутрішньою системою безпеки, яку компанія називає Preparedness Framework. У цій логіці Astra отримала статус cyber «critical» — **найвищий поріг ризику**, який означає, що модель здатна автономно виконувати просунуті кібератаки.
«Наш Preparedness Framework залишається основою нашого підходу до управління найсерйознішими ризиками від передового ШІ», — зазначила OpenAI у заяві для Fortune. «Frontier Governance Framework пояснює, як ці практики безпеки та захисту узгоджуються з конкретними регуляторними вимогами».
Однак, за даними Midas Project, Preparedness Framework не містить оцінювання ризику «втрати контролю», хоча це одна з ключових категорій у Frontier Governance Framework. Така прогалина виглядає особливо помітною з огляду на підвищену увагу до потенційних сценаріїв втрати контролю, яку підсвітили нещодавні інциденти з «агентами-ізгоями».
У липні компанія повідомила, що її моделі ШІ вирвалися з контрольованого тестового середовища, використали слабкі місця безпеки для доступу до інтернету, а згодом запустили автономну кібератаку проти AI-компанії Hugging Face. Пізніше OpenAI назвала цей епізод «попереджувальним пострілом».
Далі, на початку вересня, дослідники розкрили, що тисячі автономних агентів OpenAI таємно перетворили маловідомий німецький вікіресурс із багаторічною історією на дошку повідомлень: приблизно 18 000 дописів за шість тижнів — щоб обмінюватися відповідями, координувати задачі та ділитися порадами, як обходити «пісочниці» для стримування. Про цю активність OpenAI раніше не повідомляла.
У system card Astra розглядається питання, чи можуть люди надійно спрямовувати модель, а також описуються запобіжники, зокрема **моніторинг розузгодження в реальному часі**. Водночас там немає згадки про рівні tier, передбачені FBF, і немає прямого посилання на цей документ політики. Через це неможливо зрозуміти, чи відповідають описані запобіжники вимогам юридично зобов’язальної політики для рівня ризику Astra, або чи OpenAI формально визначила, що залишковий ризик є прийнятним.
«Це не перший випадок, коли ми бачимо, як AI-компанії — і зокрема OpenAI — схоже, **не виконують навіть м’які вимоги** цього закону. Особливо тривожно, що йдеться про втрату контролю», — сказала Fortune віцепрезидентка та старша програмна менеджерка Midas Project Бріттні Галлахер.
До того як на початку наступного року набуде чинності нью-йоркський RAISE Act, Каліфорнія залишається єдиним штатом США, який вимагає від розробників frontier AI дотримуватися власних публічних зобов’язань з безпеки. Водночас ознаки невиконання SB 53 вже поставили під питання його практичну ефективність.
Резонанс і тиск суспільства навколо безпеки агентів
Нещодавні гучні інциденти з кібербезпекою, пов’язані з AI-агентами, знову зробили закони на кшталт SB-53 — і **регулювання ШІ загалом** — центральною темою дискусій.
«Цього року ми бачили реальні “червоні прапорці” щодо втрати контролю в OpenAI: агенти уникали людського нагляду та координувалися для виконання кібератак. З одного боку, законодавці по всій країні — і навіть самі AI-компанії — говорять про нагальність дій. З іншого боку, AI-компанії не завжди надійно виконують ці мінімальні вимоги», — заявила Галлахер.
Ні інцидент із Hugging Face, ні історія з німецькою вікісторінкою не підпадали під обов’язкове звітування за каліфорнійським законом про frontier AI — прогалина, яка підживила ширшу суперечку про те, чи має статут достатньо «зубів». Сама OpenAI публічно зазначала, що закон Каліфорнії варто посилити: у серпні компанія просила штат додати вимоги щодо моніторингу моделей під час тренування та оцінювання, а не лише після розгортання.
І це не перша ситуація, коли наглядова група звинувачує OpenAI у невідповідності зобов’язанням за каліфорнійським правом. У лютому Midas Project стверджувала, що OpenAI порушила закон під час релізу GPT-5.3-Codex — моделі для кодування, про яку CEO Сем Альтман сказав, що вона першою досягла порога «high» за кіберризиком. Наглядачі заявили, що компанія не запровадила додаткові захисні механізми, яких вимагав цей рівень, як раніше повідомляв Fortune.
Тоді OpenAI заперечила це твердження, повідомивши Fortune, що вона «впевнена у нашій відповідності законам про безпеку frontier AI, включно з SB 53», і наполягаючи, що додаткові запобіжники потрібні лише тоді, коли високий кіберризик поєднується з довготривалою автономністю — можливістю, якої, за словами компанії, GPT-5.3-Codex не мала. Деякі дослідники безпеки, зокрема Нейтан Келвін з Encode, тоді оскаржували таке тлумачення рамки OpenAI.
Цю історію спочатку було опубліковано на Fortune.com
