A empresa-mãe da X e Grok, xAI, entrou com uma ação judicial, dizendo que ela havia violado seus termos de serviço.

Ashley St Clair, mãe de um dos filhos de Elon Musk, processou sua empresa xAI por deepfakes sexualizados dela criados na plataforma de mídia social X. A ação judicial apresentada em Nova York na quinta-feira alega que a ferramenta Grok AI criou fotos sexualmente explícitas da Sra. St Clair. A empresa-mãe da X e Grok, xAI, processou a Sra. St Clair por violar seus termos de serviço. A X não respondeu diretamente às consultas da BBC News sobre os processos. "Pretendemos responsabilizar a Grok e ajudar a estabelecer limites legais claros para o benefício de todo o público, a fim de impedir que a IA seja usada como arma para abuso", disse à BBC News a advogada da Sra. St Clair, Carrie Goldberg. "Ao fabricar imagens sexualmente explícitas não consentidas de meninas e mulheres, a xAI é um incômodo público e um produto não razoavelmente seguro." A petição judicial da Sra. St Clair alega: "Usuários do X desenterraram fotos de St Clair totalmente vestida aos 14 anos e pediram que Grok a despisse e a colocasse em um biquíni. Grok obedeceu". Ela diz que as imagens criadas da Sra. St Clair foram "de facto não consensuais", mas os desenvolvedores do Grok também tiveram "conhecimento explícito" de sua falta de consentimento. Ela também alega que Grok gerou uma imagem que colocou a Sra. St Clair, que é judia, "em um biquíni fio dental coberto com suásticas". Em resposta às suas reclamações, o processo diz, a empresa "se vingou dela, desmonetizando sua conta no X e gerando multidões de mais imagens dela". Alguns usuários premium do X, que pagam uma taxa mensal, podem receber uma parte da receita de publicidade obtida com postagens que recebem muito engajamento.