Поруч із Папою Лео XIV, коли той виголошував свою першу енцикліку про небезпеки штучного інтелекту, сидів несподіваний учасник: самопроголошений атеїст і мільярдер-співзасновник однієї з найдорожчих у світі компаній у сфері ШІ.
Кріс Ола — співзасновник Anthropic і відомий дослідник безпеки ШІ, який очолює в компанії напрям інтерпретованості, — під час презентації у Ватикані минулого тижня прямо визнав, наскільки нетипово виглядає його присутність.
«Хочу почати з того, що може прозвучати дивно з уст співзасновника ШІ-компанії», — сказав він у підготовленому виступі. Пояснюючи потребу залишатися прибутковими й водночас лідирувати в дослідженнях, не потрапляючи під тиск геополітики, Ола наголосив: ШІ-компанії мають переконуватися, що діють правильно, просуваючи інновації.
«Як би щиро кожен із нас не прагнув чинити правильно — а я вірю, що багато хто прагне, — ми завжди будемо під впливом цих стимулів», — зазначив він у своїх тезах.
Через цю напругу між реальністю побудови компанії на передовій ШІ та вірністю місії, що спирається на цінності, Ола сидів поруч із Папою Лео XIV і попередив: індустрію мають контролювати зовнішні критики — зокрема Католицька церква, а також науковці й уряди — аби моральні зобов’язання залишалися в центрі уваги.
«Дехто може вважати, що питання ШІ найкраще вирішувати комп’ютерникам на кшталт мене, — додав він під час виступу. — Вони помиляються».
Кріс Ола: походження та шлях до Anthropic
Його поява у Ватикані була майже такою ж неочікуваною, як і біографія, що привела його туди.
Ола виріс у Торонто (Канада) і був «побожним євангельським християнином», доки не став атеїстом у 15 років. Він вступив до Університету Торонто на математику, але покинув навчання приблизно через рік.
Ще через рік, у 2012-му, він отримав $100 000 від Thiel Fellowship — програми, створеної співзасновником PayPal Пітером Тілем, щоб допомогти талановитій молоді розвивати інші інтереси замість традиційної чотирирічної освіти. У відео, присвяченому переможцям стипендії, Ола розповідав, що йому подобається створювати математичні візуалізації за допомогою 3D-принтерів.
Його подальша кар’єра лише підтверджує: любов до математики та технологій нікуди не зникла. Починаючи з 2015 року він провів три роки в Google Brain, який у 2023-му став частиною Google DeepMind. Спершу він працював стажером, згодом доріс до наукового співробітника. За цей час він допомагав створювати інструменти для візуалізації того, що відбувається всередині нейромереж, у напрямі, який нині називають «механістичною інтерпретованістю». Тоді цей підхід був непопулярним, адже більшість дослідників зосереджувалися на тому, як зробити ШІ потужнішим.
Попри це, працюючи в Google, Ола долучився до досліджень, які привернули нову увагу до розуміння принципів роботи нейромереж. Серед них — стаття The Building Blocks of Interpretability, що дала одне з перших «вікон» у те, як нейромережі вибудовують складні поняття з простіших будівельних блоків.
Як розповідав Ола в подкасті 80,000 Hours, спершу такими питаннями цікавилася «доволі невелика група людей», але з часом його робота привернула увагу OpenAI — компанії-розробника ChatGPT — де він перетворив інтерес до логіки нейромереж на основну професію.
У період з 2018 по 2020 рік Ола очолював команду інтерпретованості в OpenAI. Там він працював над двома знаковими дослідницькими ініціативами. Перша, відома як проєкт Circuits, мала на меті показати, що нейромережі містять ідентифіковану, зрозумілу людині інформацію, сформовану структурованими патернами нейронів, які можна інтерпретувати.
Друга — відкриття мультимодальних нейронів у CLIP, моделі OpenAI для поєднання тексту та зображень. Його команда з’ясувала, що окремі нейрони всередині моделі «спрацьовували» на одну й ту саму концепцію, наприклад «Людина-павук», незалежно від того, чи була вона показана як фото, малюнок або текст. Це дослідження підсилило уявлення про те, що штучні нейромережі можуть певною мірою працювати подібно до людського мозку.
У 2020 році Ола був серед перших семи співробітників OpenAI, включно з CEO Даріо Амодеї, які залишили компанію через занепокоєння щодо безпеки ШІ. Згодом Ола допоміг співзаснувати Anthropic разом із цією групою. Після нещодавнього раунду фінансування компанію оцінили у $965 млрд. Цього тижня компанія конфіденційно подала документи на первинне публічне розміщення акцій. За даними Bloomberg Billionaires Index, статки Оли нині становлять трохи менше ніж $8 млрд.
Позиція Оли, озвучена разом із Папою, суперечить поглядам частини інсайдерів індустрії. Зокрема, Марк Андріссен у своєму Techno-Optimist Manifesto (2023) стверджував, що «довіра та безпека» і «техноетика» є елементами кампанії деморалізації, яку ведуть «вороги» проти технологій і життя.
Водночас слова Оли загалом узгоджуються з місією Anthropic, яка робить акцент на безпеці та не уникає публікації досліджень про ризики ШІ. Це також співзвучно енцикліці Папи — Magnifica Humanitas, — що пропонує моральні орієнтири для сфери ШІ та закликає до «зваженого й пильного підходу» в його розвитку, ставлячи людину вище за машини.
В Anthropic Ола продовжив розвивати «механістичну інтерпретованість», намагаючись зворотно інженерити моделі ШІ: визначати, які кластери штучних нейронів за що відповідають, як саме вони активуються та як формують результати, що видає модель.
У 2024 році Time включив його до списку TIME100 AI — переліку найвпливовіших людей у галузі ШІ.
«Якби ми справді могли зрозуміти ці системи — а для цього потрібен значний прогрес, — ми, ймовірно, змогли б сказати, коли ці моделі дійсно безпечні, — або ж коли вони лише виглядають безпечними», — казав він Time.
Ця історія спочатку була опублікована на Fortune.com
