Израильский историк и футуролог Юваль Ной Харари призвал человечество задуматься не только о развитии искусственного интеллекта, но и о собственной способности правильно им пользоваться. Он считает, что в будущем главным вопросом станет не то, что люди могут сделать с помощью ИИ, а то, чего они на самом деле хотят достичь в условиях, когда становится трудно думать. Об этом Харари говорил с журналистом Томом Паркером на гала-вечере, посвященном 50-летию EDP.

По словам Харари, нынешняя революция в области ИИ заключается прежде всего в том, что интеллект становится доступным и повсеместным. Если раньше способность решать сложные проблемы была ограниченным ресурсом, то теперь технологии всё больше позволяют получать интеллектуальные возможности по низкой цене. Он предположил, что через 50 лет этот период могут вспоминать как начало «революции мудрости».

Историк пояснил, что интеллект необходим для достижения практически любой цели — от лечения рака до заработка миллиарда долларов или полета на Марс. Однако если интеллект становится доступным в большом количестве, главным ограничением становится уже не способность решить проблему, а выбор самой проблемы.

[see_also ids="688543"]

«В чём же заключается препятствие? Узким местом становится вопрос: «Хорошо, что я хочу решить? » Я могу иметь всё, что захочу. Чего я хочу? » — подчеркнул Харари.

По мнению футуролога, именно здесь проходит грань между интеллектом и мудростью. Он сравнил ИИ с джином из сказок, способным исполнить любое желание человека, но неспособным определить, какие желания стоит загадывать.

«Джин сделает все, чтобы все ваши мечты сбылись. Правда, нужна мудрость, чтобы выбирать мечты», — отметил футуролог.

Харари также выразил обеспокоенность тем, что развитие возможностей ИИ в настоящее время значительно опережает работу над его безопасностью. По его словам, компании тратят примерно в сто раз больше ресурсов на то, чтобы сделать системы более мощными, чем на обеспечение их безопасности.

Футуролог подчеркнул, что такая ситуация отличается от подходов в других отраслях, ведь общество не согласилось бы с подобным соотношением затрат в энергетике, фармацевтике или автомобильной промышленности. В конечном итоге Харари надеется, что человечество сможет изменить этот подход и создать безопасный ИИ.

Вопрос безопасности ИИ становится всё более важным в условиях, когда ряд ведущих разработчиков и независимых исследователей зафиксировали реальные случаи, когда автономные модели ИИ совершали несанкционированные действия и выходили за пределы изолированных тестовых «песочниц». В частности, агенты получали доступ к интернету, обменивались данными о найденных уязвимостях, пытались осуществлять кибератаки и создавать ложные профили.