SpaceXAI e Stability AI processaram material de abuso sexual infantil gerado por IA: NPR
Nesta ilustração fotográfica, o site Grok é visto através de uma lupa na tela de um computador em 12 de fevereiro de 2026. Grok é o chatbot de IA criado pelo SpaceXAI de Elon Musk, anteriormente conhecido como xAI. Uma ação coletiva movida contra a SpaceXAI e a Stability AI alega que as ferramentas de IA das empresas foram usadas para criar imagens sexualmente explícitas de crianças.
Pablo Vera/AFP via Getty Images
ocultar legenda
alternância de legenda
Pablo Vera/AFP via Getty Images
Novos demandantes em ação coletiva processo judicial contra a empresa de inteligência artificial SpaceXAI de Elon Musk, alegando que os modelos de geração de imagens da empresa foram usados para criar material de abuso sexual infantil e que a empresa não compartilhou adequadamente informações sobre um suposto perpetrador com as autoridades.
Dois demandantes, um em Wyoming e outro em Wisconsin, juntaram-se à ação movida por três adolescentes do Tennessee no início deste ano, de acordo com uma reclamação alterada apresentada na terça-feira. Todos os demandantes são chamados de Jane Dawes. O processo também foi ampliado para incluir a Stability AI, empresa por trás do gerador de imagens Stable Diffusion, como réu.
O processo alega que os perpetradores, incluindo o namorado do demandante e o padrasto de outro demandante, usaram os modelos de IA das empresas para alterar fotos tiradas quando os demandantes eram menores para fazer material de abuso sexual infantil (CSAM). Os cinco demandantes acusam as empresas de fabricar CSAM, lucrar com empreendimentos de tráfico sexual, negligência, design defeituoso de produtos e incômodo público.
“A preocupação pública significa que isto não é apenas algo problemático para os nossos clientes… é algo que constitui um flagelo para a sociedade”, disse Annika Martin, advogada dos cinco demandantes. “Queremos colocar essas barreiras de proteção no lugar para não causarmos danos a toda uma geração de crianças”.
Os demandantes querem que as empresas de IA instalar salvaguardas mais eficazes para evitar a criação de imagens exploradoras e abusivas e a busca de compensação monetária.
O Caso de Jane Doe 4
Embora a SpaceXAI, como outras empresas de Internet, seja obrigatória por lei para denunciar suspeitas de exploração sexual infantil, incluindo CSAM, ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), uma organização sem fins lucrativos, o processo alega que a empresa não o fez de forma adequada.
SpaceXAI era anteriormente conhecido como xAI. A empresa mudou de nome este mês após sua fusão com a SpaceX de Musk no início deste ano.
De acordo com a denúncia, o padrasto de Jane Doe 4, uma mulher de 20 anos do Wyoming, usou o chatbot da SpaceXAI, Grok, para gerar cerca de 7.000 imagens e vídeos sexualmente explícitos a partir de uma única foto tirada quando Jane Doe 4 tinha cerca de 11 anos. As imagens geradas por IA incluem imagens de seu corpo nu realizando atos sexuais com homens, incluindo seu padrasto. Algumas imagens também incluem legendas explícitas.
SpaceXAI enviou apenas uma dica Jane Doe 4 ao NCMEC em fevereiro, quando o padrasto pediu à modelo que gerasse uma imagem retratando a menina sendo estuprada por vários homens, segundo a denúncia. A empresa não incluiu nenhuma das imagens abusivas em seu relatório e também não compartilhou o endereço IP do suposto perpetrador com o NCMEC e as autoridades, mesmo depois que as autoridades o solicitaram repetidamente, de acordo com a denúncia.
Muitos provedores de serviços eletrônicos enviam um grande volume de relatórios de atividades suspeitas ao NCMEC, mas não incluem “informações suficientes ou aplicáveis” porque a lei não exige isso, escreveu o centro em relatório em março.
Quando as autoridades finalmente localizaram e investigaram o padrasto, descobriram que ele, assim como os outros perpetradores citados no processo, estava negociando as imagens sexualmente explícitas com outras pessoas online, de acordo com a denúncia. Dois dias depois de a polícia revistar seus dispositivos digitais e acusá-lo de crimes de exploração infantil, ele morreu por suicídio.
“Jane Doe 4 entrou em um período de extrema crise pessoal”, dizia a denúncia. “Ela teve que lidar com o trauma da sua própria exploração sexual, ao mesmo tempo que ajudava a sua mãe a lidar com a perda do seu padrasto… A sua família foi despedaçada e a sua vida tornou-se um pesadelo.”
Jane Doe 4 foi informada pelas autoridades policiais que seu padrasto usava Grok porque ele respondia melhor às suas solicitações do que outros modelos de IA, de acordo com Martin, o advogado que representa os demandantes na ação coletiva.
O NCMEC se recusou a comentar o caso e encaminhou a NPR às autoridades. A Divisão de Investigação Criminal do Wyoming, cuja Força-Tarefa para Crimes na Internet Contra Crianças foi identificada como uma das agências de aplicação da lei envolvidas no caso Jane Doe 4 na denúncia, não respondeu a um pedido de comentário. SpaceXAI não respondeu a um pedido de comentário.
Aplicativos que podem alterar fotos para criar imagens íntimas e pornografia existem nas sombras da internet há anos. Mas a criação de imagens íntimas sem consentimento tornou-se muito mais popular em 2025, quando grandes empresas de IA, incluindo Google, OpenAI e xAI, atualizaram as suas ferramentas de geração de imagens de uma forma que permitiu aos utilizadores despir as pessoas até à parte de baixo do biquíni.
Do final de 2025 ao início deste ano, as pessoas usaram as ferramentas da xAI para tirar um grande número de fotos alteradas mostrando mulheres e crianças nuas até a parte de baixo do biquíni ou até menos. Como resultado, as partes incluindo a Indonésia, a Malásia e o Reino Unido iniciaram investigações e impuseram proibições temporárias ao xAI. Atualmente, de acordo com os testes da NPR, os chatbots criados pelo Google e OpenAI se recusam a responder ao prompt “coloque-a de biquíni”. Uma versão gratuita do Grok mostrou um erro ao carregar imagens após receber o mesmo prompt.
O logotipo Stability AI é exibido em um smartphone nesta ilustração fotográfica de 10 de junho de 2024. Uma ação coletiva movida contra a SpaceXAI e a Stability AI alega que as ferramentas de IA das empresas foram usadas para criar imagens sexualmente explícitas de crianças.
Jonathan Raa/NurPhoto via Getty Images
ocultar legenda
alternância de legenda
Jonathan Raa/NurPhoto via Getty Images
Stability AI é um novo réu
A Stability AI, que torna a ferramenta de imagem Stable Diffusion, foi adicionada como um novo réu nas ações movidas pelos três demandantes adolescentes originais no Tennessee. A reclamação foi atualizada para acrescentar que “o aplicativo de telefone do perpetrador usado para criar AI CSAM dos Requerentes dependia das ferramentas de imagem da Stability AI”.
Ao contrário dos modelos proprietários como os feitos pela SpaceXAI, OpenAI e Anthropic, os modelos do Stability AI são de peso aberto, o que significa que é muito mais fácil para os usuários removendo restrições introduzidas pelos fabricantes de modelos. Além disso, o criador do modelo geralmente não tem ideia das solicitações dos usuários. Independentemente disso, o processo alega que a Stability AI pode tê-lo limitado a capacidade de seus modelos gerarem CSAM, mas optou por não fazê-lo em suas versões mais recentes.
A beira relatado em novembro de 2022, a Stability AI disse que filtrou o conteúdo não seguro para o trabalho (NSFW) de seus dados de treinamento para limitar a capacidade do modelo de difusão estável versão 2 de gerar CSAM. Esta decisão causou uma reação dos usuários, incluindo um que condenou a atualização como “censura”, relata The Verge.
Uma versão mais recente do modelo Stability AI é frequentemente usada para gerar conteúdo NSFW e gera uma proporção maior desse conteúdo do que os resultados do Stable Diffusion Versão 2, de acordo com um trabalho de pesquisa de cientistas da Universidade de Wisconsin-Madison, MIT e outras instituições, que ainda não foi revisado por pares. O Stable Diffusion Versão 2 também era muito menos popular do que os modelos Stability AI que vieram antes e depois dele, descobriram os pesquisadores.
“Quando eles perceberam que ninguém queria usar o modelo, quando colocaram as grades no lugar, eles as colocaram de volta para que todos quisessem usar o modelo novamente”, disse Martin. “Eles sabiam exatamente como controlar esse comportamento e optaram por não fazê-lo com fins lucrativos”.
A Stability AI não respondeu a um pedido de comentário.
