Масштабное британское исследование, проведенное с участием почти 80 тысяч человек, показало, что чат-боты могут влиять на политические взгляды пользователей. При этом модели, которые убеждают наиболее эффективно, часто допускают значительное количество неточностей, сообщает The Guardian.

Институт безопасности искусственного интеллекта исследовал, как 19 моделей, среди которых ChatGPT и Grok, влияют на мнения пользователей во время политических дискуссий. Участники общались с моделями примерно 10 минут и обменивались в среднем семью сообщениями каждый. Перед и после разговора они отмечали, согласны ли они с рядом политических утверждений, что позволило измерить изменение позиции. Среди тем дискуссий были забастовки в государственном секторе, стоимость жизни и инфляция, что позволило измерить влияние ИИ на различные аспекты политического мышления.

Исследование показало, что наиболее убедительными были "информационно плотные" ответы, когда модели использовали много фактов и доказательств. В то же время именно такие ответы оказались наименее точными.

[see_also ids="662591"]

"Эти результаты свидетельствуют о том, что оптимизация убедительности может привести к определенным последствиям для правдивости, а эта динамика может иметь негативные последствия для публичного дискурса и информационной экосистемы", - говорится в отчете, опубликованном в журнале Science.

Модели демонстрировали более высокую эффективность убеждения после этапа постобучения, во время которого их оптимизировали с помощью так называемых моделей вознаграждений. Это позволило усилить убедительность даже открытых моделей вроде Llama 3 от Meta или Qwen от Alibaba.

В то же время предоставление ИИ доступа к персональной информации пользователей почти не повлияло на результаты. Исследователи отмечают, что способность ИИ генерировать большие объемы информации делает его потенциально более влиятельным, чем человек.

[see_also ids="659623"]

"Поскольку плотность информации является ключевым фактором успеха убеждения, это означает, что искусственный интеллект может превзойти убедительность даже влиятельных людей, учитывая их уникальную способность генерировать большие объемы информации почти мгновенно во время разговора", - говорится в отчете.

Ученые также подчеркнули, что существуют ограничения реального влияния чат-ботов, в частности, нежелание людей тратить время на длительные политические разговоры. На это обратил внимание один из авторов исследования, научный сотрудник AISI Коби Хакенбург.

"Мы обнаружили, что побуждение моделей просто использовать больше информации было эффективнее, чем все эти психологически сложные методы убеждения", - сказал Хакенбург. Исследователь добавил, что в реальной жизни существует много факторов, которые конкурируют за внимание человека, что может уменьшать эффект от таких разговоров.

В статье "Как работает искусственный интеллект и почему он только делает вид, что нас понимает" Оксана Онищенко пообщалась с доктором юридических наук Алексеем Костенко. Он объяснил, что ИИ не обладает сознанием, а работает как система математических алгоритмов, строящая логические цепочки из информационных токенов. Так называемые "галлюцинации" чат-ботов на самом деле являются результатом дефицита данных, который модели пытаются компенсировать ближайшей доступной информацией.