Сем Альтман повідомив співробітникам OpenAI на загальних зборах у п’ятницю після обіду, що з Міністерством війни США формується потенційна домовленість щодо використання моделей і інструментів ШІ стартапу, за словами джерела, присутнього на зустрічі, та з огляду на підсумок наради, який бачив Fortune. Водночас контракт іще не підписано.
Ця зустріч завершила тиждень, упродовж якого конфлікт між міністром війни Пітом Гегсетом та конкурентом OpenAI, компанією Anthropic, переріс у публічну сварку і завершився, схоже, скасуванням угод Anthropic з Пентагоном та федеральним урядом загалом.
Альтман зазначив, що уряд готовий дозволити OpenAI збудувати власний «стек безпеки» — багаторівневу систему технічних, політичних і людських запобіжників між потужною моделлю ШІ та її застосуванням у реальному світі — і що якщо модель відмовиться виконувати завдання, держава не змушуватиме OpenAI примушувати її до цього.
OpenAI збереже контроль над тим, як саме реалізовуються технічні захисти, а також над тим, які моделі, де і в яких сценаріях розгортаються, і обмежить розміщення хмарними середовищами, а не «периферійними системами». (У військовому контексті edge-системи — це категорія, до якої можуть належати літаки та дрони.) У тому, що стало б суттєвою поступкою, Альтман сказав працівникам, що уряд погоджується включити до контракту «червоні лінії» OpenAI, зокрема заборону використання ШІ для автономної зброї, внутрішнього масового стеження або участі в критичному ухваленні рішень.
OpenAI та Міністерство війни не надали оперативної відповіді на запити щодо коментаря.
За словами джерела, на all-hands також виступали Саша Бейкер, керівниця політики національної безпеки в OpenAI, і Катріна Малліган, яка очолює напрям нацбезпеки для OpenAI for Government. Один із цих посадовців заявив, що взаємини Anthropic з урядом зіпсувалися, бо співзасновник і CEO Anthropic Даріо Амодеї образив керівництво Міністерства війни, зокрема публікаціями в блозі, які «департамент розлютили».
Anthropic, компанія, заснована людьми, які пішли з OpenAI через розбіжності щодо безпеки, була єдиним великим комерційним розробником ШІ, чиї моделі дозволили для використання в Пентагоні — розгортання відбувалося через партнерство з Palantir. Однак протягом кількох днів керівництво Anthropic і Пентагон перебували в конфлікті через обмеження, які Anthropic намагалася накласти на застосування своєї технології. По суті, ці обмеження збігаються з тими, яких, за словами Альтмана, Пентагон дотримуватиметься у разі використання технологій OpenAI.
Anthropic відмовилася виконати вимоги Пентагону прибрати запобіжники в моделі Claude, що обмежують її застосування для внутрішнього масового стеження або повністю автономної зброї, тоді як оборонні посадовці наполягали, що моделі ШІ мають бути доступні «для всіх законних цілей». Пентагон, включно з міністром війни Пітом Гегсетом, попереджав Anthropic, що вона може втратити контракт вартістю до $200 млн у разі непокори. Альтман раніше казав, що OpenAI поділяє «червоні лінії» Anthropic щодо обмеження окремих військових застосувань ШІ, що підкреслює: навіть ведучи переговори з урядом США, OpenAI стикається з тією самою ключовою напругою, яка нині публічно розгортається між Anthropic і Пентагоном.
Збори OpenAI відбулися незабаром після того, як президент Трамп оголосив, що федеральний уряд припиняє співпрацю з Anthropic — це стало різкою ескалацією протистояння уряду з компанією щодо її моделей ШІ.
«Я доручаю кожній федеральній агенції уряду США негайно припинити будь-яке використання технологій Anthropic. Вона нам не потрібна, ми її не хочемо і більше не будемо з ними мати справ!» — написав Трамп у дописі на Truth Social. Міністерство війни та інші відомства, що використовують моделі Claude від Anthropic, матимуть шестимісячний період поетапного виведення, додав він.
За словами джерела, на all-hands працівникам пояснили, що найскладнішим для керівництва пунктом угоди є занепокоєння щодо іноземного стеження, а також те, що ШІ-спостереження може становити загрозу демократії. Водночас керівники компанії, схоже, визнавали реальність того, що держави здійснюватимуть міжнародну розвідку проти супротивників, зважаючи на аргументи, що офіцери нацбезпеки «не можуть виконувати свою роботу» без можливостей зовнішнього спостереження. Згадувалися звіти з аналізу загроз, які свідчать, що Китай уже використовує моделі ШІ для націлювання на дисидентів за кордоном.
Ця історія спочатку була опублікована на Fortune.com
