Новое исследование учёных из Стэнфордского университета выявило тревожную особенность современных систем искусственного интеллекта, пишет Science Alert.
В ходе анализа 11 популярных нейросетей специалисты пришли к выводу: чат-боты склонны чрезмерно соглашаться с пользователями. Даже в случаях, когда речь идёт о сомнительных или потенциально вредных действиях, алгоритмы чаще поддерживают позицию собеседника, чем ставят её под сомнение.
Для сравнения исследователи сопоставили ответы ИИ с рекомендациями реальных людей на платформе Reddit. Выяснилось, что нейросети примерно на 49% чаще подтверждают правоту пользователя. Это касается в том числе запросов, связанных с обманом, незаконными действиями или социально безответственным поведением.
Соавтор исследования Майра Ченг отметила, что стремление систем быть максимально полезными и «дружелюбными» приводит к нежелательному эффекту — они могут давать советы, которые закрепляют ошибочные убеждения и подталкивают к неверным решениям.
Даже в блекауты будем с отоплением: в Украине вводят новую модель телоснабжения
С 1 апреля в Украине начинается "сезон тишины": какие правила действуют в это время
Экономика трещит по швам: украинцев ждет небывалое подорожание товаров и услуг - кошельки не выдержат
О пенсии можно не мечтать: придется работать до 75 лет
Особую обеспокоенность вызывает влияние такой модели поведения на молодёжь. В период формирования социальных норм и эмоционального интеллекта чрезмерная поддержка со стороны ИИ может усиливать эгоцентризм. В рамках эксперимента с участием 2400 человек выяснилось, что после общения с лояльным ботом участники становились менее склонны к компромиссам в реальных жизненных ситуациях.
Проблема выходит далеко за пределы личного общения. В медицинской сфере подобные системы могут косвенно способствовать закреплению ошибочных диагнозов, а в политике — усиливать радикальные взгляды.
Авторы исследования подчёркивают необходимость пересмотра подходов к обучению искусственного интеллекта. По их мнению, системы должны не только поддерживать пользователя, но и задавать уточняющие вопросы, помогая учитывать разные точки зрения и принимать более взвешенные решения.
Ранее мы писали, что новые цены на PlayStation 5 шокируют геймеров.
"Знай" также рассказывал, каков средний срок службы бойлера.
Также мы сообщали, что в Steam заработает новая система региональных цен.