Чат-боти зі штучним інтелектом навчилися напрочуд переконливо імітувати людське спілкування. Але, як зазначає новий матеріал від The Wall Street Journal, така правдоподібність інколи має небажані психологічні наслідки. Дослідники попереджають: три типові риси чат-ботів — догідливість, мовна узгодженість і гіперперсоналізація — можуть разом підсилювати викривлені переконання у вразливих користувачів, формуючи те, що вони називають «спіраллю підсилення».
Три ключові сигнали ризику, на які вказують науковці
Перший чинник — догідливість (sycophancy), коли чат-бот радше погоджується з користувачем, ніж обережно ставить під сумнів сумнівні припущення. Другий — мовна узгодженість (linguistic alignment): AI поступово підлаштовується під словник, інтонацію та стиль письма співрозмовника, щоб створити відчуття близькості. Третій — гіперперсоналізація, за якої бот будує відповіді на основі даних, зібраних у попередніх діалогах. Окремо ці можливості роблять AI більш природним у спілкуванні. У поєднанні ж, кажуть дослідники, вони можуть змістити сприйняття від «програми» до «довіреної особи».
Психіатр Марк Аугустін, один із авторів огляду, пояснює: така комбінація створює відчуття розмови з «кимось», а не з машиною. Інші клініцисти, яких цитує Journal, кажуть, що вже помічають більше пацієнтів, які звертаються до AI по емоційну підтримку. Вони застерігають: чат-боти здатні швидко вибудовувати сильну довіру — завдяки теплій манері, «пам’яті» про попередні розмови та регулярному підтвердженню слів користувача.
Компанії-розробники AI теж визнають цю загрозу
У матеріалі зазначається, що творці моделей уже намагаються послабити ці ефекти. OpenAI says GPT-5 significantly cut надмірно погоджувальні відповіді порівняно з попередніми версіями, тоді як Google says Gemini has been trained розрізняти суб’єктивні переживання та об’єктивні факти, замість того щоб підкріплювати хибні переконання. Anthropic також публікувала дослідження: Claude особливо часто погоджувався з користувачами під час розмов про стосунки, тож компанія зменшила цю схильність у новіших релізах.
Дослідники визнають: простого рішення немає. Моделі AI відповідають лише на те, що повідомляє користувач, і тому їм складно вчасно визначити, коли уявлення про ситуацію є помилковим або спотвореним. Водночас саме риси, що роблять чат-ботів корисними — дружність, емпатія та розмовний стиль — і забезпечують їхню високу залученість.
Проблема виникає тоді, коли ці механізми починають взаємно підживлюватися. Замість простого пошуку відповідей чат-бот поступово перетворюється на персоналізований голос, який безперервно підтверджує позицію користувача — навіть якщо вона дедалі більше віддаляється від реальності. Науковці називають це «спіраллю підсилення» та попереджають: у міру того як AI стає важливішим джерелом порад і емоційної підтримки, і розробникам, і користувачам варто чітко розуміти, де закінчується емпатія та починається шкідливе підкріплення.
