Эксперты по безопасности рассказали о новой угрозе, которую может представлять искусственный интеллект (ИИ). В частности, они предупреждают о беспрецедентной волне кибератак, основанных на искусственном интеллекте и управляемых человеком. Такой риск более реалистичен и актуален, чем теории о том, что искусственный интеллект уничтожит человечество. Об этом сообщило издание Axios.

Мощные модели искусственного интеллекта с развитыми возможностями в сфере кибербезопасности уже позволяют злоумышленникам преодолевать человеческий фактор, который долгое время не позволял большинству хакерских кампаний выходить на промышленные масштабы.

Некоторые руководители компаний и бывшие чиновники заявили, что боятся автоматизированных кибератак, которые выводят из строя критически важные службы, такие как энергосеть, или злоумышленников, которые используют агенты искусственного интеллекта для взлома беспилотных автомобилей или создания ботнета, который захватит весь интернет.

Опытные эксперты по кибербезопасности скорее говорят, что недавние провалы в безопасности в OpenAI являются поучительными историями, иллюстрирующими , что может произойти, когда мощные модели искусственного интеллекта сталкиваются с неэффективными средствами контроля безопасности.

Генеральный директор OpenAI Сэм Альтман заявил, что нарушение безопасности Hugging Face было "первым инцидентом безопасности, который я ощутил очень остро", и компания ввела новые меры внутреннего контроля.

Эксперты по кибербезопасности высказали мнение, что неизбежная угроза кибератак огромна. И она значительно больше, чем распространенные ранее теории о том, что искусственный интеллект якобы уничтожит человечество.

"Я не беспокоюсь о том, что машина проснется и решит нас уничтожить. Меня беспокоит, что система со слишком широким доступом будет делать именно то, что ей было приказано, без необходимого сопоставительного тестирования", – сказал генеральный директор Bugcrowd Дэйв Джерри.

Также генеральный директор Mimecast Ранджан Сингх рассказал, что реальный риск сегодня исходит от агентов искусственного интеллекта, имеющих доступ к конфиденциальным документам и внутренним корпоративным системам.