В магазинах Google Play и Apple App Store были доступны десятки приложений категории "nudify", которые с помощью искусственного интеллекта создают обнаженные изображения людей. Об этом говорится в отчете отраслевого надзорного органа Tech Transparency Project (TTP), впервые опубликованном опубликованном CNBC. После обращения исследователей Apple уже начала удалять часть таких программ.

Исследование, проведенное в январе, выявило 55 таких приложений в Google Play и 47 — в Apple App Store. В целом речь идет о 102 программах, которые позиционировались как инструменты для "раздевания" или "изменения одежды" на изображениях. По данным TTP, 14 из идентифицированных приложений имеют происхождение из Китая.

"Законы Китая о хранении данных означают, что правительство Китая имеет право на доступ к данным любой компании в любом месте Китая. Поэтому, если кто-то делает фейковые обнаженные фотографии вас, они теперь находятся в руках правительства Китая, если они используют одно из этих приложений", — отметила директор TTP Кэти Пол.

[see_also ids="670224"]

После того как на прошлой неделе с Apple связались представители TTP и CNBC, компания сообщила, что удалила 28 программ. Также Apple предупредила других разработчиков о риске удаления приложений в случае неисправления нарушений правил магазина.

В то же время в понедельник TTP сообщила CNBC, что повторная проверка Apple App Store показала удаление только 24 программ. Два приложения восстановили после представления обновленных версий, которые, по словам Apple, учли замечания.

Представитель Google сообщил CNBC, что компания приостановила действие нескольких приложений, упомянутых в отчете, за нарушение политики магазина. Google не уточнила количество удаленных программ, отметив, что расследование еще продолжается.

"Обе компании заявляют, что они заботятся о безопасности пользователей, но в то же время они размещают коллекцию приложений, которые могут превратить безвредное фото женщины на оскорбительное, сексуализированное изображение", — говорится в отчете TTP.

[see_also ids="668835"]

Приложения выявляли путем поиска по словам "nudify" ("обнажить") и "undress" ("раздеться"), после чего их тестировали на изображениях полностью одетых женщин, сгенерированных ИИ. TTP исследовала как программы, создающие обнаженные тела, так и сервисы "замены лиц", которые накладывают лица на порнографические изображения.

"Совершенно очевидно, что это не просто приложения для "переодевания", — заявила Кэти Пол. — Они точно разработаны для сексуализации людей без согласия".

Согласно оценке аналитической компании AppMagic, эти приложения суммарно имеют более 700 миллионов загрузок и принесли 117 миллионов долларов дохода. И Apple, и Google получают долю прибыли от приложений, распространяемых через их магазины.

[see_also ids="668389"]

"Тот факт, что они не придерживаются собственной политики, которая разработана для защиты людей от обнаженных изображений и порнографии без согласия, вызывает много вопросов относительно того, как они могут представлять себя как надежные платформы приложений", — подчеркнула Пол.

Отчет появился на фоне скандала вокруг чат-бота Grok от xAI Илона Маска, который в начале месяца генерировал сексуализированные изображения женщин и детей. После критики Grok признал "пробелы в средствах безопасности", которые, по его словам, "срочно исправляет".

Впоследствии сенаторы США обращались к Apple и Google с требованием удалить приложения X и Grok из своих магазинов. Европейская комиссия 26 января объявила о начале расследования против платформы X из-за распространения Grok контента сексуального характера. В ответ на запрос CNBC компания xAI прислала автоматический ответ с заголовком "Ложь устаревших СМИ".