Генеральный директор Meta Марк Цукерберг не поддержал призыв руководителя Anthropic Дарио Амодея к скоординированному замедлению развития передового искусственного интеллекта из-за угроз безопасности человечества. В социальной сети X Цукерберг заявил, что лаборатории должны самостоятельно обеспечивать безопасное обучение своих систем, а согласованность с человеческими целями станет одной из главных характеристик ИИ.

Цукерберг подчеркнул, что каждая ИИ-лаборатория несет ответственность и имеет стимул развиваться с тем темпом, который необходим для безопасного обучения моделей. По его словам, компании также могут самостоятельно принимать меры, которые помогут обеспечить такую безопасность.

Отдельно глава Meta высказался по поводу дискуссии о возможном замедлении развития возможностей ИИ до тех пор, пока технологии согласования (alignment) не догонят их. Об этом ранее говорил генеральный директор OpenAI Сэм Альтман. По мнению Цукерберга, доверие и согласованность быстро становятся важнейшими характеристиками, которые будут отличать различные модели и ИИ-агентов.

[see_also ids="692387"]

Генеральный директор Meta отметил, что ИИ-агенты, которые не соответствуют целям пользователей или не выполняют их запросы, не будут пользоваться спросом. Поэтому, по его мнению, ИИ-лаборатории имеют естественный стимул делать свои модели более согласованными с человеческими ценностями.

Цукерберг также подчеркнул, что разработчики несут значительную ответственность в случае ущерба, нанесенного их моделями. Это, по его словам, также создает стимул для компаний предотвращать опасные последствия работы ИИ.

«Компания Meta отложила выпуск Muse на несколько месяцев, чтобы сосредоточиться на вопросах безопасности и защиты. Мы не призывали других поступать так же, как мы; мы просто сделали это в рамках нашей повседневной работы, поскольку это был правильный шаг как для людей, так и для нас», — добавил Цукерберг.

[see_also ids="692463"]

Глава Meta также высказался за более широкое привлечение независимых экспертов и консультантов к проверке ИИ-систем. По его словам, Meta Superintelligence Labs уже использует такой подход в нескольких сферах, а более широкая и разнообразная экосистема экспертов могла бы быть полезной для всей отрасли.

«Я убежден, что залогом построения позитивного будущего для всех является поддержание надлежащего баланса сил. Это вполне по силам нам», — подытожил Цукерберг.

Призыв замедлить развитие ИИ раскритиковали также глава Nvidia Дженсен Хуанг и президент США Дональд Трамп. Хуанг назвал апокалиптические прогнозы об уничтожении человечества безответственными и научно необоснованными, тогда как Трамп объявил опасения относительно угрозы ИИ «фейком» и категорически выступил против ужесточения регулирования, ведь они лишь навредят экономике США и сыграют на руку Китаю в глобальной технологической гонке.

[see_also ids="694381"]

Президент Международной ассоциации безопасного и этичного ИИ Стюарт Рассел, в свою очередь, отверг идею замедления разработок и призвал ввести обязательную государственную сертификацию систем безопасности ещё до выхода моделей ИИ на рынок. Исследователь настаивает, что системы, не доказавшие свою безопасность в ходе тестов, не должны получать доступ к пользователям независимо от финансовых интересов технологических гигантов.

Дискуссия началась на фоне громкого увольнения исследователя из Anthropic Джейкоба Коксона, который обвинил ведущие лаборатории в безответственной спешке ради создания сверхразумных систем, способных к бесконтрольному самосовершенствованию. Он заявил, что разработчики ИИ в частных беседах открыто допускают угрозу гибели человечества уже к концу текущего десятилетия.

После этого OpenAI, Anthropic и Google начали переговоры о создании независимого органа для установления стандартов безопасности и обязательной проверки моделей ИИ перед их выпуском. Структуру, предложенную главой Google DeepMind Демисом Гассабисом по образцу американского финансового регулятора FINRA, планируется финансировать за счет самих технологических гигантов для обеспечения необходимых вычислительных мощностей и аудита.