Бывший президент США Барак Обама заявил, что мир приближается к переломному моменту в развитии искусственного интеллекта, когда технология начинает развиваться экспоненциальными темпами. По его мнению, наибольшую опасность представляет не сценарий «восстания машин», а сочетание стремительного технического прогресса, коммерческого давления на компании и отсутствия надлежащего государственного регулирования. Об этом он сказал во время встречи в Университете Колгейт в штате Нью-Йорк, отвечая на вопрос о том, как демократии должны реагировать на развитие ИИ.

«Я не считаю, что вокруг этой технологии раздут неоправданный ажиотаж. Возможно, преувеличивают коммерческие выгоды от неё. Но сама технология не переоценена», — заявил Обама.

Рекурсивное самосовершенствование

Бывший президент считает, что технология вступает в фазу рекурсивного самосовершенствования, ведь доля самостоятельного обучения моделей быстро растет по сравнению с человеческим вкладом, что ведет к экспоненциальному развитию. Эти опасения совпадают с реальными показателями разработчиков: так, компания Anthropic недавно сообщила, что её модель Claude уже ведёт 26 % исследований по разработке будущих поколений ИИ против 1 % ещё полгода назад.

[see_also ids="694438"]

Почему самый большой риск — не «восстание машин»

Обама признал, что гипотетический сценарий, в котором суперинтеллект выходит из-под контроля человека, полностью исключать нельзя. В то же время он подчеркнул, что больше всего его беспокоят гораздо более реалистичные угрозы.

В первую очередь он назвал проблему согласования целей (alignment), когда система, даже не имея «злых намерений», может выполнить задачу катастрофическим образом. В качестве примера Обама привёл ситуацию, когда ИИ, получив команду максимизировать инвестиционную прибыль, может вызвать блэкаут или другую масштабную аварию, если алгоритм придёт к выводу, что это поможет достичь поставленной цели.

Второй опасностью он назвал использование мощных моделей злоумышленниками. По его словам, в будущем такие системы могут помогать создавать новые биологические угрозы, например штаммы оспы из доступных компонентов, или использоваться для атак на критическую инфраструктуру.

[see_also ids="688543"]

«Искусственный интеллект — это инструмент. Это машина. Она создана так, чтобы производить впечатление, будто это нечто большее, но на самом деле это просто машина», — подчеркнул Обама.

Влияние ИИ на жизнь людей

Обама считает, что экономические последствия развития ИИ могут оказаться более масштабными, чем многие ожидают. По его словам, под угрозой оказывается высококвалифицированный интеллектуальный труд. В качестве примера он привёл юридические фирмы, где младших юристов всё чаще могут заменить системы ИИ.

Отдельным вызовом Обама назвал появление цифровых компаньонов с механизмами психологической привыкаемости. По его мнению, особенно опасно, если такие системы начнут намеренно формировать зависимость у детей по аналогии с тем, как социальные сети удерживают внимание пользователей. Ранее об этом уже предупреждал футуролог Юваль Ной Харари, подчеркнув способность алгоритмов имитировать эмоциональную близость, манипулировать психологическими уязвимостями человека и коренным образом трансформировать психику следующих поколений.

[see_also ids="686991"]

Проблема агентного ИИ

Бывший президент упомянул также так называемый агентный ИИ — системы, которые могут выполнять задачи в открытой цифровой среде, взаимодействуя с интернетом, банковскими счетами или другими сервисами от имени пользователя. По его мнению, именно выход таких систем за пределы контролируемой среды создает новые риски.

«Если мы рассматриваем ИИ лишь как средство для лечения рака или получения более эффективных источников энергии, то этого можно достичь и без создания агентского ИИ, который свободно «блуждает» по интернету», — — заявил Обама.

Давление миллиардных инвестиций

Бывший президент также обратил внимание на конфликт между общественными интересами и коммерческими целями компаний, разрабатывающих ИИ. Он отметил, что объемы инвестиций в сферу ИИ уже превысили расходы на программу «Аполлон», поэтому компании находятся под сильным давлением, вынуждающим их быстро выпускать продукты, способные окупить вложенные средства.

[see_also ids="695017"]

Замедление развития ИИ

Обама признал, что решение некоторых ведущих компаний временно замедлить развитие самых мощных моделей является полезным шагом. В то же время он подчеркнул, что добровольные ограничения со стороны бизнеса не могут заменить полноценное государственное регулирование.

По словам Обамы, рынок сам по себе не способен гарантировать безопасность таких технологий, так же как это не происходит в авиации, фармацевтике или пищевой промышленности. Он также выразил обеспокоенность тем, что темпы развития ИИ опережают способность властей создать надлежащую нормативную базу.

«Для нас крайне важно иметь компетентное правительство и вести серьёзный двухпартийный диалог по этому вопросу — и делать это нужно немедленно. Я призываю избирателей обратить на это внимание. Если у кого-то нет серьезного плана действий в этой сфере, значит, этот человек не соответствует требованиям времени, и, пожалуй, стоит поискать другого кандидата», — подытожил Обама.

В то же время президент США Дональд Трамп категорически отверг призывы к введению регуляторных мер безопасности или замедлению разработки ИИ, назвав опасения об угрозе человечеству «фейком» и попыткой лишить Вашингтон лидерства в противостоянии с Китаем. Глава Белого дома провозгласил ИИ и дата-центры «нефтью следующих 20–25 лет», заявив, что победа в технологической гонке гарантирует глобальное доминирование страны.