Израильский историк и футуролог Юваль Ной Харари считает, что главный вызов искусственного интеллекта заключается не в роботизации или автоматизации, а в его влиянии на человеческое сознание. Как говорит Харари на лекции в Оксфордском университете, ИИ будет все больше генерировать словесные конструкции, которые будут формировать внутренний мир человека, а это ставит под вопрос его свободу и идентичность.

Харари заявил, что отношения человека с самим собой в значительной степени строятся на словах, мыслях и внутренних историях, которые он рассказывает самому себе. До сих пор все словесные конструкции в человеческом сознании были результатом работы человеческого разума — либо собственного мышления, либо общения с другими людьми.

Однако, по словам футуролога, в ближайшее время всё больше таких конструкций будет создавать ИИ. Харари сравнил этот процесс с производством мебели, которую сегодня в основном изготавливают машины, а не ремесленники.

[see_also ids="688159"]

В то же время Харари подчеркнул, что машинное производство мыслей само по себе не является негативным явлением. По его словам, главный вопрос заключается в том, сохранят ли люди свободу в отношении этих мыслей.

«Если мы отождествляем себя со своими мыслями, а эти мысли создаются машинами, то машины теперь контролируют нас и нашу идентичность», — заявил Харари.

Историк отметил, что люди на протяжении жизни автоматически отождествляют себя со словесными конструкциями в собственном сознании. По его мнению, именно искусственный интеллект может заставить человечество совершить «духовный скачок» и начать искать истину, которая существует за пределами слов.

[see_also ids="688543"]

Харари считает, что свобода и даже выживание человека будут все больше зависеть от способности не подчиняться автоматически потоку собственных мыслей. Он предположил, что будущим вызовом для человечества станет исследование природы сознания, ведь слова всё чаще будет генерировать не человеческий, а машинный интеллект.

«Знаете ли вы, откуда взялось следующее слово, которое приходит вам в голову? Знаете ли вы, почему вы подумали именно об этом слове, а не о каком-то другом? » — подытожил Харари.

Еще в прошлом году исследования и наблюдения за интернет-сообществами показали, что человеческая речь и онлайн-коммуникация претерпевают стремительные изменения под влиянием ИИ. В частности, ученые подтвердили рост количества характерных ИИ-маркеров в речи пользователей, а публицисты и модераторы платформ фиксируют пафосную «машинную прозу» даже в официальных выступлениях политиков.

Ранее Харари называл главной угрозой ИИ способность осуществлять «сбой привязанности» и манипулировать человеческими эмоциями. В совершенстве владея языком и имитируя эмпатию, чат-боты создают иллюзию личных отношений и переносят конкуренцию технологических гигантов из борьбы за внимание в борьбу за близость.