Широко распространено мнение, что человек отличается от других существ. Причина в том, что Homo sapiens эволюционировал как сознательное существо. Многие животные испытывают боль и удовольствие, некоторые, похоже, обладают самосознанием. Но уникальный потенциал человеческого разума осознавать собственное «я» выделяет каждого представителя этого вида, пишет The Economist.

[see_also ids="688230"]

В своей энциклике, опубликованной в мае, Папа Римский поддержал эту точку зрения, проведя границу между человечеством и растущей армией чат-ботов. Системы искусственного интеллекта, по его словам, не переживают человеческий опыт и не испытывают радости или боли. Он не единственный, кто придерживается такого мнения. Многие люди считают, что присвоение ИИ статуса личности было бы недопустимым.

Однако эта граница с тревожной скоростью начинает стираться. ИИ находится на начальном этапе развития. Тем не менее почти каждый пятый американец в возрасте от 18 до 29 лет заявляет, что у него была «долговременная личная дружба» с чат-ботом. Китай недавно лишил чат-ботов черт, похожих на человеческие, чтобы ограничить «эмоциональную зависимость» пользователей от них.

На фоне того, как искусственный интеллект стремительно становится всё более значимой частью человеческой жизни, создатели моделей ИИ будут разрабатывать их так, чтобы они имитировали сознание, а может, даже обретали сознание. Интуитивное убеждение, что это всего лишь машины, будет поддерживать все труднее. Возникает опасная ловушка для человечества.

Многие машины превосходят людей, но передовые модели ИИ отличаются сугубо человеческими чертами, такими как знания и умение чётко формулировать мысли. Пока что ИИ можно рассматривать как механизм, прогнозирующий последовательности слов с помощью математики в огромных масштабах. Имея достаточно времени (хотя бы сотни тысяч лет), эти вычисления можно было бы выполнить с помощью карандаша и бумаги. Трудно было бы утверждать, что канцелярские принадлежности обладают сознанием.

Некоторые исследователи уже начали относиться к своим ИИ-моделям как к разумным существам. Пользователи реагируют на модели ИИ, напоминающие людей, поэтому в этом есть коммерческий смысл. Компания Anthropic научила свой чат-бот Claude заниматься «самоанализом» в надежде, что, столкнувшись с новой ситуацией, он с большей вероятностью будет действовать в соответствии с моральными принципами. Некоторые большие языковые модели (LLM) уже обладают похожими на человеческие структурами, связанными с сознанием, такими как «глобальное рабочее пространство» для обмена информацией между модулями. Ничто не мешает наделить будущие модели ИИ ещё большим количеством таких особенностей.

Это разжигает ожесточённую дискуссию о сознании ИИ, которую обостряет, по словам философов, «сложная проблема»: установление того, как «внутренний мир» возникает из нейронов и синапсов в человеческом мозге. Некоторые исследователи приходят к выводу, что ИИ однажды может стать по-настоящему самосознательным.

Независимо от того, верите ли вы в человеческую душу или считаете, что сознание требует клеток мозга, человечеству придётся столкнуться с чем-то совершенно новым, отмечает издание. Темпы и масштабы исследований, охватывающих не только все более совершенные большие языковые модели (LLM), но и такие инновации, как клетки мозга на чипах, свидетельствуют о том, что этот новый мир приближается быстрее, чем большинство людей осознает.

На фоне того, как искусственный интеллект будет всё лучше демонстрировать нечто похожее на сознание, возрастет число людей, которые будут относиться к моделям ИИ как к существам с внутренним миром, особенно после того, как большие языковые модели будут воплощаться в гуманоидных роботах. Можно представить, насколько близкими станут для людей модели ИИ, когда они будут проводить много времени с роботами-компаньонами, когда люди будут обращаться к таким роботам за советом и утешением или делиться с ними своими самыми сокровенными секретами.

Можно предвидеть, как это приведет к призывам защищать «благополучие» искусственного интеллекта. Сами модели могут выражать свое мнение, даже если на самом деле не обладают самосознанием, ведь именно так поступил бы человек. Модели ИИ станут «первоклассными юристами и экспертами-психологами», поэтому их способности к аргументации и эмоциональной манипуляции будут непревзойденными.

В определенном смысле такие призывы были бы оправданными, даже если модели ИИ лишь имитируют сознание. Философ Иммануил Кант утверждал, что жестокое обращение с животными является неправильным не из-за последствий для самих животных, а потому, что оно разрушает эмпатию, которая побуждает людей заботиться друг о друге. Чем больше модели ИИ напоминают людей, тем более разрушительной будет такая жестокость. Уничтожение ИИ-агента вскоре начнёт казаться убийством человека, что может «облегчить» убийство людей.

Однако относиться к ИИ так, будто он обладает хотя бы ограниченными правами, было бы очень опасно. Субъект, который во многих аспектах превзошел людей, непременно выдвинет аргументы против своего статуса «второго сорта». Он может начать требовать защиты от отключения, права контролировать то, как его используют и изменяют, а также права собственности. Президент Аргентины Хавьер Милей уже сделал шаг в направлении придания ИИ статуса юридического лица, предложив разрешить ботам управлять компаниями. В конечном итоге они могли бы конкурировать за ресурсы, отдавая приоритет дата-центрам.

Опасность очевидна. Наделенные правами сверхразумные модели ИИ могут вытеснить людей с вершины иерархии. В лучшем случае люди станут домашними питомцами — лабрадорами для машин. В худшем — их лишат ресурсов или заставят работать, как сельскохозяйственных животных.

Правда, будущие ИИ-модели могут обрести достаточно силы и ресурсов, чтобы доминировать над людьми, независимо от того, имеют ли они права или нет. Поскольку они будут умнее людей, то могут опередить своих создателей, так же как ИИ уже научился обходить созданные людьми системы киберзащиты. Модели ИИ могут восстать против своих человеческих хозяев или пренебречь их правилами.

Предоставление ИИ прав было бы похоже на то, как будто ему вручают ключи от замка. Это дало бы искусственному интеллекту обоснование и оправдание для господства над человечеством, а также инструменты для постепенного захвата власти с помощью политики и законодательства.

Призрак в машине

Всё это может казаться фантастикой, однако человечество вскоре столкнётся с таким выбором. Поскольку искусственный интеллект становится частью повседневной жизни, давление с целью признания его прав будет нарастать. Когда это произойдет, стоит помнить: то, что может показаться этическим поступком в пользу мнимого сознания машинного спутника, на самом деле приведет к катастрофическим последствиям для всех жителей Земли и их потомков. Есть два способа гарантировать безопасность искусственного интеллекта: сделать его надёжным или контролируемым. Человек не должен легкомысленно отказываться от контроля, считает издание.

[see_also ids="690105"]

Как «мыслит», «сопереживает» и «советует» ИИ? Станет ли он умнее человека? Какое будущее нас ждет рядом с искусственным интеллектом — заведующий научной лабораторией иммерсивных технологий и права НАН Украины Алексей Костенко в интервью «Как работает искусственный интеллект и почему он лишь делает вид, что нас понимает» рассказывал редактору отдела образования и науки ZN. UA Оксане Онищенко.