Ведущие разработчики и исследователи в области искусственного интеллекта всё чаще называют одной из главных угроз использование ИИ для создания опасных биологических патогенов. Эксперты считают такой сценарий маловероятным, но достаточно реалистичным, чтобы потребовать усиления мер безопасности. Об этом сообщает Axios, отмечая, что именно такой ответ журналисты чаще всего слышат во время неформальных бесед с представителями отрасли.

По словам собеседников издания, развитие ИИ может опередить возможности государств и компаний по выявлению и предотвращению биологических угроз. Речь идет не о наиболее вероятном сценарии развития событий, однако специалисты считают его достаточно правдоподобным, чтобы уделять ему особое внимание.

В прошлом месяце руководитель OpenAI Сэм Альтман, генеральный директор Anthropic Дарио Амодей, глава Google DeepMind Демис Хассабис, руководитель Microsoft AI Мустафа Сулейман и директор Meta Superintelligence Labs Александр Ван подписали открытое письмо. В нём они предупредили о риске использования ИИ для создания биологического оружия и призвали усилить механизмы защиты.

[see_also ids="690684"]

Такие опасения подтверждает новое исследование MIT FutureTech и Университета Квинсленда, в котором 272 исследователя проанализировали 24 основных риска, связанных с ИИ. Участники исследования оценили в 12% вероятность того, что опасные возможности ИИ приведут к катастрофическим последствиям к 2030 году, и ещё в 12% — риск применения оружия с использованием ИИ или других технологий массового поражения.

Исследователи отмечают, что эти оценки учитывают уже принятые меры по снижению рисков. Без них вероятность катастрофических последствий, по их расчетам, превышала бы 20%. Под катастрофой авторы исследования подразумевают события, которые могут привести к более чем миллиону смертей или нанести экономический ущерб на сумму свыше 100 миллиардов долларов.

Именно эти риски, как отмечает Axios, всё больше влияют на дискуссии между правительствами и технологическими компаниями о проверке новых моделей ИИ перед их публичным запуском. Разработчики стремятся создать механизмы, которые будут блокировать использование моделей в опасных целях и в то же время помогут быстрее выявлять потенциальные биологические угрозы.

[see_also ids="689465"]

В то же время эксперты обращают внимание на сложность контроля над моделями с открытым исходным кодом. В отличие от закрытых коммерческих систем, их можно свободно модифицировать и использовать вне рамок каких-либо регуляторных механизмов, что, по мнению части исследователей, затрудняет предотвращение возможных злоупотреблений.

По оценкам экспертов, в настоящее время создание принципиально нового патогена требует высокой квалификации, дорогостоящего лабораторного оборудования и многолетних исследований. Однако развитие ИИ может существенно ускорить отдельные этапы этого процесса — от анализа биологических данных до поиска перспективных вариантов, что и вызывает наибольшее беспокойство среди разработчиков.

«Это серьёзные и пугающие вещи. Но игнорирование их не решит проблемы. А вот осведомлённость и предотвращение — решат», — подытоживает Axios.

В то же время историк и футуролог Юваль Ной Харари заявил, что главная угроза ИИ заключается в постепенном захвате бюрократических систем. По мнению ученого, алгоритмы естественным образом интегрируются в государственные учреждения, банки и корпорации, контролируя информационные потоки и процесс принятия решений без вооруженной революции. Харари предупредил, что из-за разрушения доверия между людьми и прямого взаимодействия ИИ-систем между собой человечество рискует оказаться внутри алгоритмической экономики, принципы функционирования которой перестанут быть понятными даже для ее создателей.