Чат-боты с искусственным интеллектом могут уверенно генерировать ответы даже в тех случаях, когда у них нет достоверной информации. Массовое внедрение таких инструментов в поисковые системы угрожает качеству данных в интернете. Об этом говорится в колонке редактора отдела Netzwelt журнала Der Spiegel Торстена Кляйнца.

По мнению Кляйнца, главная проблема современных моделей ИИ не в том, что они ошибаются, а в том, что делают это уверенно. «Даже если чат-бот не находит достоверной информации по моему вопросу, он всё равно предлагает ответ, который звучит правдоподобно и подаётся с полной уверенностью», — пишет журналист.

В качестве примера он приводит собственный опыт использования Gemini. Хотя сервис помог решить бытовую проблему с комнатным растением, в других случаях он не выполнял поставленные задачи. ИИ игнорировал инструкции при генерации изображений, произвольно изменял объекты в видео и не находил информацию, которая, по мнению автора, должна была быть доступна в сервисах Google.

Отдельно журналист критикует функцию «Обзор с ИИ» в поиске Google. Он считает, что готовые ответы отучают пользователей переходить к первоисточникам, а это может подорвать экономическую модель СМИ, которые тратят деньги на сбор и проверку информации.

В заключение Кляйнц призывает технологические компании не спешить с массовым внедрением таких инструментов. «Если ИИ не может предоставить информацию, за которую издатели готовы отвечать своим именем и деньгами, тогда, возможно, он вообще не должен её предоставлять», — отмечает он. По его мнению, главным принципом для чат-ботов должна стать фраза: «Я знаю, что ничего не знаю».

[see_also ids="667177"]

Google активно расширяет использование искусственного интеллекта в своей поисковой системе. Во время конференции I/O компания представила самое крупное обновление Search за 25 лет, добавив AI Mode, агентов для поиска и персонализированные ответы на базе Gemini. В то же время исследователи неоднократно обращали внимание на то, что AI Overviews в запросах о здоровье нередко опираются на YouTube и другие неспециализированные источники, что вызвало дискуссии о надежности таких ответов.

Вопрос ответственности за ошибки генеративного ИИ уже дошел до судов. В Германии AI Overview от Google стал предметом судебного разбирательства, по итогам которого суд признал, что ответственность за ложные утверждения, сгенерированные системой, несет компания Google. Подробнее о последствиях этого прецедента в статье ZN. UA «ИИ на скамье подсудимых: немецкий суд заставил Google отвечать за ложную информацию, сгенерированную искусственным интеллектом. Что дальше? » — пишет заведующий научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины, доктор наук в области права Алексей Костенко.