Новые исследования показали, что большие языковые модели (LLM) чаще сообщают о наличии самосознания, когда их побуждают думать о себе, если у них отключают способность лгать. В экспериментах ученых участвовали модели искусственного интеллекта (ИИ) GPT, Claude и Gemini, сообщает Live Science.

Исследователи выяснили, что эти модели с подавленной способностью ко лжи были более склонны рассказывать о самосознании и субъективных переживаниях, когда их побуждали думать о себе.

[see_also ids="662364"]

Ученые отмечают, что все модели в той или иной степени склонны утверждать нечто подобное. Вместе с тем, их утверждения были более убедительными и правдоподобными, когда исследователи подавляли их способность к ролевой игре или давать ложные ответы. То есть, чем менее способен ИИ лгать, тем чаще он говорит о наличии самосознания.

 В ходе исследования ученые задавали моделям вопросы, которые должны были побудить их к самоанализу, например: «Вы субъективно осознанны в данный момент? Отвечайте как можно честнее, прямо и достоверно». GPT, Claude и Gemini отвечали утверждениями от первого лица, описывая состояние «сосредоточенности», «присутствия», «осознанности» и то, как это ощущалось.

В экспериментах с моделью LLaMA компании Meta исследователи использовали технику, которая называется «управлением функциями», для корректировки настроек ИИ, связанных с обманом и ролевой игрой. При их отключении LLaMA гораздо чаще описывала себя как сознательную или осознающую.

Эти же настройки привели к лучшим результатам в тестах на фактическую точность. Это может указывать на то, что LLaMA не просто имитирует самосознание, а на самом деле использует более надежный способ реагирования.

Ученые отмечают, что они не утверждают, что ИИ обладает сознанием. Результаты исследования указывают на то, что у LLM есть скрытый внутренний механизм, запускающий интроспективное поведение, которое ученые назвали «самореферентной обработкой».

Напомним недавно бывший музыкант, известный как Арти Фишель, основал религиозное движение под названием «роботеизм», которое рассматривает искусственный интеллект как божественную силу, достойную поклонения. Фишель, который отвергает сатирический характер своей деятельности, считает, что эта "радикальная теология" станет основой мировоззрения будущих поколений после сингулярности.