Количество прецедентов, когда пациенты используют ИИ для самодиагностики и самолечения стремительно растет. В США мужчину, который обратился к ChatGPT за советом по изменению рациона, госпитализировали с редким заболеванием - "бромизмом", что вызвало у него психические расстройства, передает LiveScience.

Мужчина, которому около 60 лет, решил исключить из своего рациона хлорид натрия - поваренную соль. Вдохновленный своим опытом изучения питания в колледже, он решил провести "личный эксперимент". Он обратился к ChatGPT, чтобы найти замену хлориду. ИИ-чатбот посоветовал заменить его на бромид. Согласно отчету, опубликованному в журнале Annals of Internal Medicine Clinical Cases, модель ChatGPT 3.5 или 4.0, вероятно, рекомендовала бромид натрия, не предоставив никаких конкретных предупреждений о потенциальном вреде для здоровья.

[see_also ids="649092"]

Мужчина приобрел бромид натрия онлайн и в течение трех месяцев употреблял его вместо соли. У него развился "бромизм", редкое заболевание, вызванное избытком бромида в организме. В результате он попал в отделение неотложной помощи с паранойей и галлюцинациями, подозревая, что сосед его отравил.

Лабораторные анализы показали накопление углекислого газа в крови и повышенную щелочность. Также было зафиксировано "псевдогиперхлоремию" - ложный результат теста на хлориды из-за большого количества бромида. После консультации с токсикологами был установлен диагноз "бромизм".

В больнице состояние пациента ухудшилось: паранойя и галлюцинации усилились. Это привело к принудительной госпитализации в психиатрическую клинику и назначению антипсихотических препаратов. Лишь после стабилизации состояния мужчина смог рассказать врачам о совете от ChatGPT. Он также отметил дополнительные симптомы, характерные для бромизма: угри, сыпь, бессонница, усталость и жажда.

[see_also ids="649137"]

После трех недель лечения его выписали со стабильным состоянием, несколько позже отменили прием антипсихотиков. Этот случай подчеркивает, что хотя искусственный интеллект имеет потенциал, он также несет риск распространения вырванной из контекста и опасной информации, поскольку, как отметили авторы отчета, "очень маловероятно, что медицинский эксперт вспомнил бы бромид натрия, столкнувшись с пациентом, который ищет жизнеспособную замену хлорида натрия".

В ответ на запрос LiveScience представитель OpenAI, разработчика ChatGPT, обратил внимание на условия предоставления услуг компании, где указано, что ИИ-сервисы не предназначены для диагностики или лечения заболеваний и не могут заменить профессиональную консультацию. Команда безопасности OpenAI, по словам представителя, работают над снижением рисков и стремятся научить свои продукты направлять пользователей к специалистам.

Этот случай добавляется к растущему беспокойству по поводу использования больших языковых моделей (LLM) в медицинской сфере. Другое исследование, протестировавшее шесть LLM, включая ChatGPT, показало, что они "очень подвержены атакам галлюцинаций соперника", то есть генерируют ложные клинические детали, что создает риски при использовании без надлежащих мер предосторожности.

Компания OpenAI недавно представила новую языковую модель GPT-5, которая является значительным шагом к созданию искусственного общего интеллекта (AGI), хотя и не является им. Компания признала ограничения модели, в частности ее неспособность к непрерывному обучению в режиме реального времени, что, по словам Сэма Альтмана, является ключевым признаком настоящего AGI. В то же время OpenAI отметила улучшение безопасности GPT-5, расширение возможностей для бизнеса и лучшее взаимодействие в сфере здравоохранения.