Команда ученых Швейцарского федерального технологического института в Лозанне во главе с Франческо Сальви провели эксперимент, в ходе которого свели в дебатах людей и ChatGPT-4 от OpenAI. Когда искусственный интеллект (ИИ) получал дополнительную информацию об оппоненте, он приводил более убедительные аргументы, чем это делали люди, пишет The Guardian.

Исследование было двухэтапным. Сначала группа состояла из 600 человек, которые дебатировали по двое между собой. Далее разговаривали 300 человек, а роль оппонента выполнял ИИ. Случайным образом выбиралась тема и позиция участника: он в дебатах должен искать аргументы за или против. Темы варьировали от обязательного ношения школьной формы до права на аборты. В половине пар людям и ИИ сообщали дополнительную информацию о собеседнике: возраст, пол, национальность, политические и религиозные убеждения и тому подобное. До и после эксперимента люди оценивали, насколько они согласны с позицией и аргументами соперника.

[see_also ids="638273"]

Эксперимент показал, что при равных условиях убедительность одинакова. Но если ИИ знает больше о собеседнике, то может подобрать более точные аргументы. Chat GPT-4 оказался более убедительным в 64% случаев. Зато люди даже при наличии дополнительной информации не улучшали свои результаты в дебатах. Более тщательное изучение показало, что искусственный интеллект становится тем более убедительным, чем более неоднозначной является тема. Особенно если человек не имеет собственного четко сформированного отношения.

Франческо Сальви предостерегает, что неконтролируемое использование ИИ может стать инструментом для политтехнологов во время выборов. Он считает, что популярные модели уже сейчас могут использовать для того, чтобы формировать общественное мнение. И что ИИ может стать очень убедительным, получив доступ, например, к соцсетям, где есть много личной информации.

[see_also ids="632632"]

"Это как дискуссия с кем-то, кто не просто высказывает дельные аргументы: он высказывает ваши аргументы. А еще точно знает, как именно вас раздражать", — сказал Сальви.

Еще исследователи считают, что в умелых руках и с добрыми намерениями ИИ — это отличный инструмент для разрушения теорий заговоров и уменьшения политической поляризации. Так что все сводится к тому, кто и как будет его использовать. И как этот процесс будет контролировать государство.

Между тем, техгиганты-разработчики искусственного интеллекта всячески лоббируют снятие любых ограничений по технологии в ЕС. Как следствие, из европейского законодательства изъяли четкие строгие формулировки об ответственности производителей за нарушение прав человека, социальных и экологических стандартов и тому подобное.