Мать одного из сыновей Илона Маска Эшли Сент-Клер подала иск в Верховный суд штата Нью-Йорк против компании xAI, сообщает The Guardian. Она утверждает, что инструмент искусственного интеллекта Grok, интегрированный в социальную сеть X, создавал сексуализированные изображения с ее лицом. Среди них, по словам истицы, были изображения, на которых она является несовершеннолетней.

В иске указано, что Grok обещал прекратить создание такого контента, однако продолжал его генерировать. Сент-Клер требует компенсации убытков и штрафных санкций, заявляя о десятках унизительных дипфейков.

После двух недель массовой критики Grok и запрета инструмента в нескольких странах, xAI сообщила, что будет "блокировать" возможность создавать изображения "реальных людей в бикини, нижнем белье и подобной одежде через учетную запись Grok и в Grok in X". Ограничения будут действовать в странах, где подобный контент является незаконным.

[see_also ids="668000"]

Сент-Клер проживает отдельно от Маска и является праворадикальным инфлюенсером, автором и политическим комментатором. Ее сын от Илона Маска родился в 2024 году.

Интересы истицы представляет адвокат Кэрри Голдберг, которая специализируется на делах против технологических компаний. Она заявила Guardian: "xAI не является достаточно безопасным продуктом и является общественной опасностью".

"Этот вред возник непосредственно из-за преднамеренных решений разработчика, которые позволили использовать Grok как инструмент преследования и унижения. Компании не должны иметь возможности избежать ответственности, когда продукты, которые они создают, предсказуемо наносят такой вред", — заявила адвокат.

[see_also ids="667458"]

В заявлении указано, что X демонетизировал учетную запись Сент-Клер и одновременно продолжал распространять дипфейки с ее изображением. Среди них — сцены сексуального характера и "изображение ее обнаженного ребенка".

Иск также содержит утверждение, что Grok создал сексуализированные изображения Сент-Клер в 14-летнем возрасте, а также контент, где она "одета в бикини, сделанное из нити" во взрослом возрасте. Отдельно отмечается, что чат-бот добавлял на ее тело татуировки с оскорбительными надписями, в частности, "проститутка Илона" и нацистской символикой.

В иске указано, что xAI знала об отсутствии согласия на генерирование и публикацию подобных изображений и получала запросы на удаление. В документе говорится, что X "получил финансовую выгоду от создания и распространения неконсенсуального, реалистичного, сексуализированного дипфейкового контента".

[see_also ids="661765"]

"Любой, кто использует Grok для создания незаконного контента, подвергнется тем же последствиям", — заявлял ранее на X Илон Маск.

Компания X сообщила 15 января о "нулевой толерантности к любым формам сексуальной эксплуатации детей, наготы без согласия и нежелательного сексуального контента". Компания также подала встречный иск, настаивая, что дело следует рассматривать в Техасе, а не в Нью-Йорке.

"xAI несет прямую ответственность за домогательства и откровенные изображения, созданные его собственным чат-ботом Grok", — подытожила Сент-Клер в иске.

В то же время Пентагон объявил об интеграции Grok в свои секретные и несекретные сети, открывая моделям доступ к массиву боевых и разведывательных данных. Министр обороны США Пит Гегсет назвал это шагом к созданию военного ИИ "без идеологических ограничений".