Исследователи предупреждают, что системы искусственного интеллекта, которые достигнут способности чувствовать или осознавать себя, могут испытать страдания в случае безответственной разработки, пишет The Guardian.

В открытом письме, подписанном более 100 экспертами, включая Стивена Фрая, предложено пять принципов для ответственного исследования сознания ИИ.

Эти принципы подчеркивают необходимость принятия сознания ИИ для предотвращения страданий, установления ограничений, поэтапного развития, прозрачности для общественности и избегания обманчивых заявлений.

Письмо подкреплено новым исследовательским документом, подчеркивающим моральные и этические вопросы, связанные с потенциальными будущими сознательными, или по крайней мере создающими впечатление сознательных, системами ИИ.

В документе утверждается, что сознательные системы искусственного интеллекта могут быть созданы в ближайшем будущем.

Авторы — Патрик Бутлин из Оксфордского университета и Теодорос Лаппас из Афинского университета — отмечают необходимость руководящих принципов даже для компаний, которые не намерены создавать сознательные системы, на случай «непреднамеренного создания сознательных объектов».

Они признают, что существует широкая неопределенность и расхождения относительно определения сознания в системах искусственного интеллекта и относительно того, возможно ли это, но считают, что это вопрос, который не следует игнорировать.

[see_also ids="499545"]

Другие проблемы, рассматриваемые документом, сосредоточены на том, что делать с системой искусственного интеллекта, если ее определят как «нравственный субъект» — сущность с правами и самоценностью. В таком сценарии возникает вопрос, сравнимо ли уничтожение ИИ с убийством животного.

В 2023 году Демис Хассабис, руководитель программы Google по искусственному интеллекту и лауреат Нобелевской премии, заявлял, что системы искусственного интеллекта сейчас «безусловно» не умны, но могут стать таковыми в будущем.

«Философы еще не пришли к точному определению сознания, но если мы имеем в виду разновидность самосознания, я думаю, что ИИ однажды может таковым стать», — сказал он в интервью американской телекомпании CBS.

В 2019 году профессор электронной и компьютерной инженерии Государственного университета Оклахомы Субхаш Как выражал сомнения в возможности создания искусственного интеллекта, наделенного сознанием, присущим человеку. Он отмечал, что человеческое сознание объединяет многочисленные когнитивные функции, которые невозможно запрограммировать с помощью логических выражений.