Вітаю в Eye on AI. У цьому випуску:
- OpenAI details двотижневу паузу в тренуванні та посилення безпеки після зламу Hugging Face.
- Anthropic рухається до $65 млрд річного доходу.
- OpenAI презентує ChatGPT для підлітків.
- Чи здатні моделі ШІ виводити правила гри?
Я щойно повернувся після трьох тижнів відпустки. Дякую моїм колегам Беа Нолан та Емілі Форліні, які підхопили роботу тут, поки мене не було.
Більшу частину цього часу я був зайнятий активностями просто неба — кемпінгом, походами, каякінгом, риболовлею, бігом і плаванням — або ж такими домашніми справами, що не потребують цифрових посередників, як-от вечеря з родиною чи прослуховування живої музики. Так, ми з сім’єю інколи користувалися Google Search, щоб щось швидко перевірити, і **AI-узагальнення** у відповідях часто були напрочуд детальними й точними. Це безумовно зручніше, ніж шукати інформацію на десятках сторінок. Але, по суті, на цьому мій контакт із ШІ майже й закінчився. Загалом ці три тижні стали освіжаючим нагадуванням про те, скільки сфер **ШІ ще не перевернув** — і, сподіваюся, ніколи не переверне.
Головною AI-подією вихідних стала дискусія довкола lengthy post Даріо Амодея в X, де він захищає підхід компанії до регулювання та водночас говорить про численні ризики ШІ. Амодей, який рідко з’являється на платформі, що контролюється Ілоном Маском, опублікував цей текст у відповідь на слова інвестора Гевіна Бейкера на подкасті “All In”, співведучим якого є колишній AI-куратор Трампа Девід Сакс — і він точно не фанат Anthropic.
Бейкер заявив, що йому нібито переказували “кілька людей, яким я довіряю”: мовляв, Амодей казав, що Anthropic настільки впевнена і в потенціалі ШІ, і у власному лідерстві на передньому краї розробок, що “Anthropic колись може стати єдиною приватною компанією у світі”. Бейкер подав це як приклад **«максималістського» бачення** Anthropic, у якому тільки вона та уряд США визначають, хто отримає доступ до надпотужного ШІ. Своєю чергою Сакс назвав це “самовпевненим” і повторив тезу, що стратегія Амодея — це “регуляторне захоплення”: коли Anthropic, підкреслюючи страхи щодо ризиків ШІ, переконує державу ухвалювати жорсткі правила, з якими може легко впоратися лише вона, витісняючи конкуренцію з боку інших AI-стартапів або open-source моделей.
Далі Бейкер розкритикував Амодея за те, що той нібито підживлює переважно негативне ставлення суспільства до ШІ — а це, у свою чергу, підсилює опір будівництву дата-центрів у США. Бейкер побоюється, що така негативна хвиля ускладнить роботу AI-компаніям і навіть поставить під загрозу **лідерство США** в технології. Він закликав Амодея показувати більш позитивний образ ШІ.
Відповідь Амодея: що він насправді має на увазі
Anthropic заперечує, що Амодей колись говорив щось подібне до версії Бейкера. “Повна і абсолютна нісенітниця”, — replied у X Саша де Маріньї, директорка Anthropic із бренду та комунікацій. (Пізніше Сакс зауважив, що сам Амодей не дав прямої відповіді на твердження Бейкера.) Водночас Амодей написав у X, що лібертаріанці Кремнієвої долини на кшталт Бейкера схильні вважати будь-яке регулювання гальмом для технологій і проявом регуляторного захоплення, тоді як інші — “поза цією бульбашкою” — сприймають регулювання як спосіб стримування корпоративної влади та захисту **«звичайних людей»**. На думку Амодея, обидві позиції надто спрощують реальність, адже “все складніше і насправді залежить від того, що саме входить у ‘регулювання’.”
Амодей сказав, що Anthropic “дуже старається” пропонувати правила, які одночасно **уповільнюють frontier AI-компанії** та *дають перевагу* меншим конкурентам. Він нагадав, що багато норм, які компанія підтримувала, містили винятки для бізнесів нижче певного порога доходу або для тих, хто витрачає на тренування моделей менше визначеної суми, або ж були сконструйовані так, щоб застосовуватися лише до найпередовіших моделей, не зачіпаючи менш потужні.
Він зазначив, що справді вважає: економічна сила навколо ШІ природно тяжіє до концентрації через вимоги до обчислювальних ресурсів для навчання та обслуговування потужних моделей, але це зовсім не те саме, що прогноз про існування в майбутньому лише однієї чи кількох компаній. Також він додав, що open source моделі лише частково знімають проблему концентрації, адже для їх тренування і запуску все одно потрібні **значні обчислення**. Він підтримує “правила руху”, які “залишать простір для моделей з відкритими вагами”, але одночасно врахують конкретні ризики, які вони несуть.
Щодо критики Бейкера, ніби саме заяви Амодея налаштували громадськість проти ШІ, Амодей відповів: “Я не думаю, що [негативне ставлення суспільства до ШІ] в першу чергу спричинене мною чи будь-ким іншим із AI-лідерів, хто попереджає про ризики.” На його думку, це передусім **криза довіри**. І відновити її не вийде “глянцевою маркетинговою кампанією з позитивним спіном”. Замість цього, каже він, AI-компанії мають реально показувати користь — наприклад, дійсно лікувати рак. “Я думаю, найточніша критика AI-компаній, включно з Anthropic, у тому, що ми ще не виконали свої великі обіцянки принести світові користь,” — написав він. “Це повністю наша відповідальність, і саме це ви маєте нам закидати — а не все це про меседжинг і маркетинг.”
«DMV для ШІ»: чому це не обов’язково катастрофа
Пост Амодея спровокував ще більше суперечок у X між критиками та прихильниками. З боку регулювання Сакс написав, що створення будь-якого регулятора для ШІ — він назвав це “DMV для AI” — нібито паралізує американський техсектор, “створить довгі черги, поки AI-моделі чекатимуть тестування та схвалення”, і “послабить США відносно Китаю, який не запровадить таких самих обмежень.” Сакс також додав: “Даріо вважає, що frontier AI занадто потужний, щоб його поширювати; ми вважаємо, що він занадто потужний, щоб його централізувати.”
Мій погляд такий: Даріо справедливо вказує на хибну дихотомію в розповіді Сакса про AI-регулювання. Як часто жартує Стюарт Рассел, комп’ютерний науковець із UC Berkeley, сендвічна крамниця в Сан-Франциско має дотримуватися більшої кількості правил, ніж OpenAI чи Anthropic (це вже не настільки очевидно після ухвалення торік каліфорнійського закону на рівні штату щодо frontier AI, але на федеральному рівні це все ще здебільшого так). Чи зменшує регулювання кількість ресторанів? Частково — так. Але конкуренції все одно вистачає: у Сан-Франциско понад **3 000 ресторанів**.
Так, великим мережам, імовірно, простіше виконувати правила: існують певні ефекти масштабу, а також лобістські ресурси й політичні зв’язки, яких бракує більшості сімейних закладів. Та чи виграє суспільство від наявності норм харчової безпеки, трудового законодавства та законів про відповідальність за продукт — замість їх відсутності? Звісно. І, на мій погляд, те саме стосується й автопрому. Попри критику DMV у Сакса, більшість людей підтримують ідею **ліцензування водіїв** і періодичного техогляду, щоб машини залишалися придатними для дороги. Чи є концентрація в автоіндустрії? Так, але регуляція — далеко не головна причина.
Щодо аргументу, ніби регулювання відкидає США назад у технологічних перегонах із Китаєм, важливо пам’ятати: у Китаю вже є певні AI-закони — щодо маркування даних та ідентифікації AI-згенерованого контенту — і вони в окремих аспектах суворіші, ніж у США. Також, якщо США найбільше турбують наслідки потужного ШІ для нацбезпеки, теоретично можна зробити винятки для моделей, що розробляються спеціально для оборонних потреб. (Хоча це, ймовірно, погана ідея — згадайте WarGames або Terminator. Корисно пам’ятати, що ми змогли виграти холодну війну, паралельно маючи доволі суворі правила щодо виробництва й транспортування ядерних матеріалів. Я не впевнений, що **правила безпеки** для розробки frontier AI мають бути принципово іншими.)
А тепер — більше новин про ШІ.
Джеремі Кан
[email protected]
@jeremyakahn
Перш ніж перейти до новин, нагадаю про наш новий vodcast, Fortune AI Weekly. Цього тижня Беа Нолан і Емілі Форліні обговорюють Meta CEO Марка Цукерберга та його маніфест на 6 000 слів, зміни в керівництві OpenAI, а також розмовляють зі співзасновником і CEO Lovable Антоном Осікою про оцінку стартапу в $13,3 млрд і раунд Series C на $400 млн. You can check out the vod here on YouTube.
This story was originally featured on Fortune.com
