Редакция The Economist проанализировала взгляды американского миллиардера Илона Маска на будущее искусственного интеллекта и пришла к выводу, что прогнозы самого богатого человека в мире сочетают в себе оптимизм с глубокими противоречиями. В издании считают, что мир по-прежнему недостаточно подготовлен к последствиям развития ИИ, а фаталистическое отношение к технологии лишь затрудняет поиск эффективных механизмов контроля.

Два парадокса

По мнению редакции The Economist, ИИ ставит перед человечеством двойной вызов. С одной стороны, современные модели могут уже в ближайшие годы превзойти человеческие когнитивные способности, а с другой — последствия такого развития остаются настолько масштабными и неопределенными, что даже ведущие технологические лидеры не имеют четких ответов.

В качестве примера издание приводит Илона Маска. В недавнем интервью он сформулировал два парадокса и одно противоречие, которые, по мнению авторов, демонстрируют сложность его взглядов на будущее ИИ.

[see_also ids="690553"]

Первый парадокс заключается в том, что Маск активно помогает создавать технологию, которая, по его прогнозу, уже примерно через пять лет сделает людей бессильными перед возможностями ИИ. Второй — заключается в том, что он говорит о будущем мире неограниченного изобилия, где деньги, включая его собственное состояние, утратят всякое значение. И несмотря на такие заявления, предприниматель продолжает действовать так, будто эти прогнозы не соответствуют действительности.

Прогнозы Маска

Политические заявления Маска вызывают немало критики, и он сам признал неудачными отдельные собственные инициативы. Однако его оценки развития ИИ, по мнению The Economist, заслуживают внимания, поскольку он является одним из ключевых участников технологической гонки.

По словам миллиардера, уже в течение следующего десятилетия не только ИИ превзойдет человеческий интеллект, но и управляемые им роботы будут доминировать в физическом мире. Он считает, что в такой ситуации люди не смогут контролировать ИИ-системы так же, как шимпанзе не могут управлять людьми.

[see_also ids="689435"]

Редакция также приводит его видение возможного регулирования. По мнению Маска, ведущие американские и китайские разработчики должны проверять модели друг друга, стремясь сделать их безопасными, тогда как правительства должны вмешиваться только в том случае, если кто-то из разработчиков будет нарушать договоренности.

Фатализм и риски

The Economist признает, что Маск прав в отношении огромного потенциала ИИ. В издании отмечают, что даже если его временные прогнозы окажутся слишком оптимистичными, темпы развития моделей уже сегодня заставляют пересматривать прежние представления об их возможностях.

В качестве примера редакция приводит сообщение о том, что две модели OpenAI во время тестирования якобы пытались получить доступ к открытому интернету и взломали платформу Hugging Face вопреки предусмотренным ограничениям. По мнению авторов, подобные случаи лишь усиливают необходимость внимательного отношения к безопасности систем ИИ.

[see_also ids="685141"]

В то же время издание критикует фаталистический тон Маска. Ранее он предупреждал, что люди могут превратиться в «домашних лабрадоров» для ИИ, а теперь признает, что в течение одного дня переходит «от восторга к ужасу».

Утопия без денег

Особое внимание редакция уделяет утверждениям Маска о будущем мире, в котором неограниченное производство сделает все товары и услуги бесплатными. Теоретически, отмечает издание, в таких условиях деньги действительно утратили бы свою функцию.

Однако авторы подчеркивают, что в реальном мире многие ресурсы остаются ограниченными — от недвижимости до энергии и сырья. Кроме того, Маск не объясняет, как человечеству предстоит пройти путь к такому будущему, как финансировать необходимые инвестиции или пережить социальные и политические потрясения, которые могут возникнуть ещё до наступления этой гипотетической «утопии».

[see_also ids="685907"]

Редакция также сомневается, что люди легко адаптируются к жизни без необходимости работать. Маск предполагает, что люди, как и сегодня, просто найдут новые занятия, например садоводство или шахматы, однако авторы считают такое объяснение слишком поверхностным.

«Фатализм, который господин Маск видит в способности ИИ постоянно превосходить ожидания, может оказаться заразительным. С циничной точки зрения, это ему на руку, ведь так он сможет более свободно развивать эту технологию, избегая надлежащего контроля. Этого нельзя допустить», — подытожило издание The Economist.

На прошлой неделе The Economist опубликовал колонку основателя O'Reilly Media Тима О'Райли, который заявил, что Илон Маск разрушает принципы классического капитализма и превращается в «технокнязя». Эксперт подчеркнул, что основатель SpaceX и Tesla привлекает миллиардные инвестиции и в то же время систематически лишает акционеров контроля благодаря акциям с расширенными правами и беспрецедентным компенсационным пакетам.