С развитием технологии искусственного интеллекта много спорят о том, как она изменит мир вокруг нас. Но не менее, а может быть, и более важный вопрос заключается в том, как ИИ изменит нас самих?

Любопытная статья в The Atlantic именно на эту тему. Центральный тезис: люди неизбежно антропоморфизируют всё, что ведет себя как человек. С ИИ-агентами мы будем делать то же самое – и уже делаем: многие считают своего чат-бота настоящим компаньоном, почти другом.

Но здесь есть неожиданное и тревожное следствие: чем больше мы очеловечиваем машины, тем меньше человечности мы видим в людях. Когда ИИ становится "почти человеком", граница размывается – и оценка реальных людей снижается. Мы начинаем дегуманизировать коллег, друзей, незнакомцев – незаметно, по чуть-чуть.

Второй тезис не менее тревожный. ИИ-системы, заточенные на максимизацию результата, являются консеквенциалистами — они оценивают действия по последствиям, а не по ценностям. Большинство людей так не устроены: мы основываем мораль на любви, заботе, интуиции, а не на холодном расчете. Но если ИИ незаметно приучит нас к своему "мышлению" – мы потеряем нечто существенное в своей человечности.

Я не разделяю пессимизм автора полностью. Но вопрос, который он ставит, важен: технологии улучшают инструменты, но ИИ может менять людей. И это стоит внимательно отслеживать.