A xAI, startup de inteligência artificial de Elon Musk, está processando um homem da Carolina do Sul preso no início deste ano por acusações de exploração sexual infantil, alegando que ele abusou do sistema Grok AI da empresa para criar material de abuso sexual infantil.

A xAI alega no processo, aberto no tribunal federal do Texas na terça-feira, que Terry Harwood violou os termos de serviço da empresa. O caso é um dos primeiros movidos por uma empresa de IA contra um de seus usuários ⁠por supostamente usar um sistema de IA para gerar material de abuso sexual infantil.

Os porta-vozes da xAI não responderam imediatamente a um pedido de comentário na quarta-feira. O processo da empresa contra Harwood ocorre após intenso escrutínio global da xAI sobre alegações de que Grok permitia que usuários gerassem deepfakes sexualizados, ou vídeos de aparência realista fabricados por IA, sem consentimento. As informações de contato de Harwood, que foi preso em fevereiro, não estavam disponíveis imediatamente. ‌

A reclamação da xAI diz que a empresa “aplica suas políticas contra os infratores, suspendendo contas, encerrando contas e denunciando material suspeito de abuso sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas”.

xAI alega que Harwood carregou imagens não sexuais de adultos e menores para Grok e tentou usar o sistema para gerar imagens falsas sexualmente explícitas com base nelas. A denúncia também alega que ele criou imagens sexuais de adultos sem consentimento.

A empresa pediu ao tribunal uma quantia não especificada em danos monetários e uma liminar bloqueando permanentemente Harwood de usar Grok.

“As ações do Réu foram um esquema calculado para transformar a instrumentalidade do Requerente em arma para fins criminais, expondo as verdadeiras vítimas a danos profundos e duradouros, ao mesmo tempo em que expôs o Requerente a riscos legais significativos e danos à reputação”, disse xAI no processo.