Буквально за несколько часов до объявления о создании специальной координационной группы, состоящей из разработчиков искусственного интеллекта и операторов критической инфраструктуры, соучредитель и руководитель Google DeepMind Демис Гассабис обнародовал концепцию регулирования искусственного интеллекта, которая как раз предусматривает создание специального органа для оценки безопасности передовых моделей. Своё видение он изложил в посте, опубликованном 14 июля в социальной сети X, а также раскрыл детали в интервью The Economist.

По словам Гассабиса, стремительное развитие ИИ и усиление геополитической конкуренции требуют четкой и предсказуемой системы контроля. Он отметил, что США должны взять на себя ведущую роль в разработке таких правил, поскольку ожидание глобального консенсуса может затянуть процесс.

[see_also ids="687034"]

Модель нового регулятора

По мнению руководителя Google DeepMind, новый орган должен работать по модели американского регулятора финансовой отрасли FINRA (Financial Industry Regulatory Authority). Это должна быть независимая структура под государственным надзором, которая будет финансироваться преимущественно отраслью, но будет обладать достаточной автономией и ресурсами для проведения масштабных технических проверок.

«Важно, чтобы это была не просто отраслевая организация. Но и обычное правительственное ведомство тоже не подойдет. Оно не сможет действовать достаточно быстро и не будет располагать необходимыми ресурсами», — заявил Гассабис.

Процедура тестирования моделей

Предлагаемая система предусматривает, что передовые модели будут проходить тестирование примерно за 30 дней до официального запуска. Сначала участие разработчиков ИИ должно быть добровольным, однако после отработки механизма проверки оно может стать обязательным условием для выхода продуктов на американский рынок.

Гассабис предлагает отказаться от практики оценки моделей по объему вычислительных ресурсов, использованных в процессе обучения. Вместо этого он считает, что статус «передовой модели» должен определяться по результатам специальных тестов, которые будет регулярно обновлять новый орган.

[see_also ids="688510"]

Критерии проверки безопасности

Проверки должны включать оценку кибербезопасности, биологических рисков, возможностей обхода защитных механизмов, потенциальной подверженности моделей обману, а также других опасных свойств. Кроме того, Гассабис предлагает внедрить практику нанесения цифровых водяных знаков на изображения, созданные ИИ, и разработать инструменты для лучшего понимания логики работы моделей.

Новый орган также будет определять перечень разработчиков, работающих с самыми мощными ИИ-системами. Такие компании должны будут публиковать техническую документацию, обеспечивать высокий уровень киберзащиты, проверять ключевых сотрудников и выделять достаточно ресурсов на исследования в области безопасности.

Подход Гассабиса отличается от предложения генерального директора OpenAI Сэма Альтмана, который ранее выступил за создание международной системы контроля, координируемой США. Соучредитель Google DeepMind считает, что американская модель со временем сама может стать международным стандартом, поскольку другие страны будут вынуждены адаптироваться, чтобы сохранить доступ к американским технологиям и рынку.

[see_also ids="689465"]

Перспективы появления AGI

Особое внимание Гассабис уделяет перспективе появления общего искусственного интеллекта (Artificial general intelligence, AGI). По его мнению, такая система может появиться уже «через несколько лет» и станет технологическим прорывом, сравнимым с открытием электричества или огня.

«Времени осталось очень мало, уже поздно. Мы уже столкнулись с киберугрозой; впереди нас ждут гораздо более серьёзные угрозы. Надо что-то делать: именно сейчас настало время», — подытожил Гассабис.

Ранее Демис Гассабис, Сэм Альтман, генеральный директор Anthropic Дарио Амодей и другие руководители ведущих технологических компаний обратились к Конгрессу США с призывом усилить контроль над продажей синтетической ДНК и РНК. Они предупредили, что стремительное развитие искусственного интеллекта снижает барьеры знаний для создания биологического оружия, позволяя злоумышленникам конструировать опасные патогены.