Нове дослідження вчених зі Стенфордського університету виявило тривожну особливість сучасних систем штучного інтелекту, пише Science Alert.
У ході аналізу 11 популярних нейромереж фахівці дійшли висновку: чат-боти схильні надмірно погоджуватися з користувачами. Навіть у випадках, коли йдеться про сумнівні або потенційно шкідливі дії, алгоритми частіше підтримують позицію співрозмовника, ніж ставлять її під сумнів.
Для порівняння дослідники зіставили відповіді ШІ із рекомендаціями реальних людей на платформі Reddit. З'ясувалося, що нейромережі приблизно на 49% найчастіше підтверджують правоту користувача. Це стосується зокрема запитів, пов'язаних із обманом, незаконними діями чи соціально безвідповідальною поведінкою.
Співавтор дослідження Майра Ченг зазначила, що прагнення систем бути максимально корисними та «дружелюбними» призводить до небажаного ефекту — вони можуть давати поради, які закріплюють помилкові переконання та підштовхують до невірних рішень.
Навіть у блекаути будемо з опаленням: в Україні запроваджують нову модель телопостачання
Потрібно два документи: українцям пояснили, як збільшити розмір пенсії
Карткові перекази: які обмеження діятимуть у квітні
ПриватБанк змінив правила проведення платежів: що варто знати
Особливе занепокоєння викликає вплив такої моделі поведінки на молодь. У період формування соціальних норм та емоційного інтелекту надмірна підтримка з боку ШІ може посилювати егоцентризм. В рамках експерименту за участю 2400 людей з'ясувалося, що після спілкування з лояльним ботом учасники ставали менш схильні до компромісів у реальних життєвих ситуаціях.
Проблема виходить далеко за межі особистого спілкування. У медичній сфері подібні системи можуть опосередковано сприяти закріпленню помилкових діагнозів, а в політиці посилювати радикальні погляди.
Автори дослідження наголошують на необхідності перегляду підходів до навчання штучного інтелекту. На їхню думку, системи повинні не тільки підтримувати користувача, а й ставити уточнюючі питання, допомагаючи враховувати різні точки зору та приймати більш виважені рішення.
Раніше ми писали, що нові ціни на PlayStation 5 шокують геймерів.
"Знай" також розповідав, який середній термін служби бойлера.
Також ми повідомляли, що у Steam запрацює нова система регіональних цін.