Samuel Boivin/NurPhoto via Getty Images
- OpenAI оприлюднила частину формулювань контракту зі Міністерством оборони США.
- За словами OpenAI, її технології не можна застосовувати для масового внутрішнього стеження або автономної зброї.
- OpenAI також заявила, що уряд не повинен визначати конкурента Anthropic як ризик для ланцюга постачання.
OpenAI стверджує, що її угода з Міністерством оборони є «кращою» та містить більше запобіжників безпеки, ніж та, через яку Anthropic була внесена до чорного списку після відмови прийняти вимоги.
У дописі в блозі, опублікованому в суботу, OpenAI показала частину контрактних положень зі Department of Defense, зокрема пункти, що вказують: її інструменти не можуть використовуватися для масового внутрішнього спостереження або для підтримки автономної зброї чи високоризикових систем ухвалення рішень, як-от «соціальні рейтинги».
«Ми вважаємо, що наша угода має більше запобіжників, ніж будь-яка попередня угода щодо classified AI deployments, включно з угодою Anthropic», — йдеться в повідомленні OpenAI. «У нашій угоді ми захищаємо наші “червоні лінії” ширшим багаторівневим підходом. Ми зберігаємо повну свободу щодо власного стеку безпеки, розгортаємо рішення через хмару, залучаємо перевірений персонал OpenAI, а також маємо сильні контрактні гарантії. Це доповнює потужні чинні запобіжники в законодавстві США».
Невдовзі після публікації блогу генеральний директор OpenAI Сем Альтман вийшов у соцмережі, відповідаючи на запитання користувачів, яких турбувала сутність співпраці OpenAI з урядом.
У відповідях у форматі Ask Me Anything він ще раз наголосив: угода OpenAI, на його думку, краща за угоду Anthropic — і для загальної екосистеми ШІ, і для американців.
«Схоже, Anthropic більше зосереджувалася на конкретних заборонах у контракті, а не на посиланні на застосовні закони, з якими ми почувалися впевнено», — написав Альтман у відповідь на питання, чому OpenAI погодилася на партнерство з урядом, тоді як конкурент — ні. «Мені здається, Anthropic могла прагнути більшого операційного контролю, ніж ми».
Контракт OpenAI з федеральним урядом з’явився на тлі того, що Anthropic була внесена до чорного списку та названа supply chain risk після відмови виконати умови використання військових для передової моделі компанії — Claude.
Anthropic у заяві в п’ятницю повідомила, що «жоден рівень тиску чи покарання з боку Міністерства оборони не змінить нашої позиції щодо mass domestic surveillance або повністю автономної зброї» та пообіцяла «оскаржити будь-яке визначення як ризику для ланцюга постачання в суді».
У суботньому дописі OpenAI зазначила, що Anthropic не слід визнавати ризиком для ланцюга постачання, і додала, що донесла цю позицію безпосередньо уряду. Частково її домовленості з Пентагоном, за словами компанії, були мотивовані бажанням «знизити напруження між DoW та американськими ШІ-лабораторіями».
«Добре майбутнє вимагатиме реальної та глибокої співпраці між урядом і ШІ-лабораторіями», — йдеться в повідомленні OpenAI. «У межах цієї угоди ми просили, щоб ті самі умови були доступні всім ШІ-лабораторіям, і зокрема — щоб уряд спробував владнати ситуацію з Anthropic; нинішній стан — дуже поганий старт для наступного етапу співпраці між урядом і ШІ-лабораторіями».
Представники OpenAI та Anthropic не надали оперативної відповіді на запити Business Insider. Також наразі незрозуміло, чи пропонували Anthropic або будь-якій іншій провідній ШІ-компанії подібні контрактні умови, про які OpenAI заявила, що погодилася на них.
OpenAI повідомила, що в рамках домовленостей із Міністерством оборони вона збереже повний контроль над стеком безпеки, який розгортає, та впровадить надійні «запобіжні бар’єри» для недопущення зловживань. Якщо уряд порушить умови, OpenAI зазначила, що «може» розірвати контракт.
«Ми не очікуємо, що це станеться», — підкреслила OpenAI у своєму дописі.
У своїх AMA-відповідях Альтман написав, що OpenAI не погодилася б дозволити уряду використовувати її технології для масового внутрішнього стеження, «бо це порушує конституцію».
Він додав, що готовий до потенційної суперечки щодо законності окремих державних запитів у майбутньому, але якщо Конституцію змінять так, щоб таке стеження стало легальним, то «можливо, я б звільнився з роботи».
«Я дуже глибоко вірю в демократичний процес, у те, що наші обрані лідери мають повноваження, і що ми всі зобов’язані дотримуватися конституції», — написав Альтман. «Мене лякає світ, у якому ШІ-компанії поводяться так, ніби мають більше влади, ніж уряд. Але мене так само лякав би світ, у якому наш уряд вирішив би, що масове внутрішнє стеження — це нормально. Я не знаю, як би я щодня приходив на роботу, якби це стало станом країни/Конституції».
Конфлікт між урядом і великими гравцями ШІ викликав хвилю критики: опоненти наголошують на етичних ризиках застосування ШІ Міністерством оборони та на факті, що OpenAI погодилася надати уряду доступ до своєї технології.
У суботу OpenAI заявила, що ШІ «принесе нові ризики у світ», і що надання уряду доступу до її моделей допоможе людям, які захищають національну безпеку, отримати найкращі інструменти для цієї роботи.
Раніше Business Insider повідомляв, що Anthropic’s model, Claude, у суботу злетіла на перше місце в App Store, а багато людей у соцмережах, зокрема знаменитості на кшталт Кеті Перрі, публічно писали про скасування підписок на ChatGPT після угоди OpenAI з урядом.
