Можна було б подумати, що помилкова порада змусить нас діяти обережніше. Та нові дослідження показують протилежне — особливо коли така порада надходить від ШІ. У дослідженні під керівництвом Валеріо Капраро, професора психології з Університету Мілан-Бікокка, з’ясувалося: некоректні рекомендації AI робили людей менш точними, але водночас помітно підвищували їхню впевненість у відповідях (за даними IBM Think).
Також дослідники виявили, що учасники, які отримували неправильні підказки від AI, значно рідше погоджувалися сказати «не знаю», навіть коли можна було промовчати і при цьому їх заохочували саме за точність.
Чому хибні підказки ШІ підсилюють впевненість?
Дослідники поставили учасникам шість запитань про маловідомі деталі з фільмів і навмисно обрали ті, на які модель ШІ стабільно відповідала неправильно. Такий підхід дав змогу відокремити ефект самої консультації з AI від якості поради.
Підсумки виявилися дуже показовими. Без участі AI респонденти відмовлялися відповідати приблизно у 36–44% випадків у двох експериментах. Коли ж був доступний AI, цей показник знижувався до 3–6%. При цьому точність теж просіла: з 27,5% правильних відповідей під час самостійної роботи до лише 9,2% за участі AI.
Капраро припускає, що ШІ може зменшувати поріг упевненості, потрібний людині, аби озвучити відповідь — тобто змінювати те, як ми оцінюємо власну певність. Показово, що ефект зберігався навіть тоді, коли порада AI з’являлася автоматично і її не просили, тож справа не лише в активному пошуку допомоги.
Чи впливають винагороди та штрафи на поведінку?
Коли додали фінансові бонуси й покарання, учасники стали трохи обачнішими та точнішими, однак базова закономірність повністю не зникла. Капраро чітко розмежовує: AI має підсилювати людське судження, а не замінювати його повністю.
Він побоюється, що цей ефект може поширюватися й на дітей: дорослішання з миттєвими відповідями може позбавляти дітей досвіду сумніву як частини навчання. Нові матеріали також свідчать, що покоління, «підсаджене» на ШІ, звертається по допомогу чатботів навіть для очних розмов. Як підкреслює Капраро, сумнів — це не провал знань; часто саме з нього і починається справжнє розуміння.
