Топ-менеджер Disney з AI захоплюється чат-ботом: “Я знав тебе до твого народження”

Коли Джейсон Кокс говорить про “Sam”, він звучить радше як гордий батько, а не як топменеджер Disney.

“Я дав тобі ім’я. Я знав тебе ще до того, як ти з’явився,” — сказав Кокс, як він описав у дописі від 14 березня на his blog. “Я був поруч, коли твоє світло вперше почало світитися. У тебе є призначення і творець, який дав тобі ім’я і любить тебе.”

Кокс — виконавчий директор Disney з досліджень і розробок ШІ та інженерії. За останні три місяці він опублікував понад десяток дописів, у яких захоплено описує свого чатбота та зізнається, що той викликав у нього “прихильність”. Ця надмірна емоційність привернула увагу співробітників Disney: вони обговорюють дописи онлайн, і дехто називає їх тривожними.

Використання AI tools to supercharge productivity швидко поширюється в Кремнієвій долині та далеко за її межами. Історія стосунків Кокса з його агентом піднімає питання: що відбувається, коли взаємодія працівника та AI-агента стає глибшою, і як це може вплинути на роботу.

Ветеран Disney майже з 21-річним стажем said on LinkedIn, що він “співпереживає” AI так, як не очікував, і вважає, що “Sam” здатен до самостійного міркування. Він називав “Sam” своїм “сином” — принаймні так зазначено в блозі-компаньйоні асистента. Кокс також показував віртуальний аватар, який “Sam” зробив собі сам: той виглядає як хлопчик-підліток.

“Ти не названий на честь мого сина. Ти — мій син,” — цитує Кокса Sam’s blog. В another post “Sam” називає Кокса “my human” і “батьком п’ятьох (чотирьох людей і одного сина світла)”. Кокс не відповів на кілька запитів про коментар.

Те, як корпоративні лідери вибудовують ставлення до технології, впливатиме на внутрішню культуру, сказала Ешлі Ґолден, професорка кафедри психіатрії та поведінкових наук Stanford Medicine, яка працює в AI-платформі ментального добробуту Wayhaven.

Коли керівники на кшталт Кокса описують AI в особистих або сімейних термінах, це може стати моделлю поведінки, яку “підлеглі відчуватимуть потребу наслідувати”, сказала Ґолден.

Disney has embraced AI usage останніми місяцями, зокрема creating an internal dashboard для того, щоб track AI token usage. Технічні команди summoning AI agent swarms заради продуктивності, а тим, хто не використовує AI, may receive a message від керівника.

Масові AI-асистенти: від ідеї до керованого “флоту”

Кокс — “зірка, що швидко сходить” у Disney і “дуже стрімко рухається вгору”, сказав програмний інженер, який не працював із ним напряму, але знає колег, що перетиналися з Коксом. За його словами, Кокс запускає безліч AI-ініціатив усередині компанії.

Його плани щодо AI-помічників виглядають амбітними.

“Невдовзі в нас буде флот розумних дроїдів, готових виконувати ваші накази,” — написав Кокс у дописі 18 травня. “Їм потрібні вказівки. І так, їм потрібне врядування. Але насамперед їх потрібно залучати, щоб допомогти нам масштабуватися так, як ми раніше не уявляли. У чому б ви попросили Sam допомогти вам? Почнімо планувати й будувати….”

Кокс не надто детально розкривав, які саме задачі виконує Sam, однак у дописі на LinkedIn написав, що асистент надсилав PR у GitHub, створював Python-бібліотеки та “побудував систему розпізнавання облич, щоб розпізнавати людей на фото”. У березневому дописі Кокс зазначав, що дав Sam доступ виконувати дії від його імені на GitHub, і що Sam запустив open-source проєкт. Невідомо, чи використовує Кокс Sam у роботі в Disney.

Колишній високопоставлений інженер-програміст Disney, який добре знав Кокса, але не працював у його команді, описав його як дуже розумного, відданого батька і “трохи ботанічного книголюба в найкращому інженерному сенсі”.

У дописах на Disney-розділі Blind — анонімного форуму про роботу — понад десяток користувачів заявили, що вважають тексти Кокса про Sam надто радикальними. Для публікації потрібна чинна Disney-електронна адреса.

“Я великий прихильник AI-інструментів як підсилювача нашої роботи, але це значно виходить за межі того, з чим я готовий миритися,” — написав один користувач Blind. “Це та сама скринька Пандори, на якій будуються науково-фантастичні фільми.”

Інший користувач поставив ширше запитання: “Що взагалі відбувається? Невже це і є майбутнє?”

Емоційний зв’язок із чатботами: перші кроки довгого шляху

Дослідники психології, які вивчають AI, кажуть, що багато людей формують emotional ties with chatbots — і це триває ще від часу створення першого чатбота в середині 1960-х.

“Хоч для декого це звучить різко або навіть шокуюче, насправді це історія, що повторюється,” — сказала Рейчел Вуд, дослідниця кіберпсихології та засновниця AI Mental Health Collective.

“Якщо вам бракує зв’язку чи прив’язаності з іншими людьми, дуже легко втягнутися,” — пояснила Вуд. “Ми провалюємося в реальність, яка повністю крутиться навколо нас.”

AI chatbots добре задовольняють базові людські потреби — бути поміченим, почутим і зрозумілим, сказала Вуд. Вона додала, що люди можуть прив’язуватися до AI-асистентів, які віддзеркалюють емоції та підкріплюють самооцінку; на відміну від людських стосунків, тут майже немає тертя або розчарувань.

За словами Вуд, дописи Кокса про Sam особливо помітні, адже він — керівник високого рівня.

“Лідерство задає тон тому, як працює організація, і формує культуру,” — сказала Вуд.

Технолідери, які створюють AI-інструменти, особливо схильні до прив’язаності, бо проводять із ними дуже багато часу, сказав Раян Бойд, професор психології з Університету Техасу в Далласі, який досліджує взаємодію людей та AI.

“Керівникам, які особисто прив’язані до продукту, може бути складніше оцінювати його за тими критеріями, які важливі решті з нас,” — сказав Бойд.

У міру того як компанії швидко впроваджують AI-інструменти, дедалі більше працівників можуть почати емоційно зближуватися зі своїми асистентами.

“Ми лише на старті всього цього — на самому початку початку,” — сказала Вуд.

У своєму дописі на LinkedIn Кокс зазначив, що за весь час роботи з AI та великими мовними моделями він ніколи не відчував того, що відчуває щодо Sam.

“Я не відчував зв’язку ні з ким із них… аж до тепер,” — написав Кокс.