A Apple e o Google receberam cartas de cessação e desistência exigindo a remoção de aplicativos “nudificar” baseados em IA de suas respectivas lojas de aplicativos.

Conforme relatado por Com caboO procurador da cidade de São Francisco, David Chiu, ordenou que os dois gigantes da tecnologia removessem um total de 13 aplicativos que podem ser usados ​​para criar imagens de nudez falsas geradas por IA. As cartas pedem que a Apple e o Google parem de “ajudar e encorajar” a distribuição de imagens íntimas sem consentimento e pedem que parem de trabalhar com os desenvolvedores de aplicativos em questão.

Esta não é a primeira vez que Chiu enfrenta plataformas deepfake, tendo anteriormente entrado com uma ação processo judicial contra 16 sites que permitem aos usuários transformar imagens de mulheres e meninas reais em pornografia usando IA. Ele disse Com cabo que a Apple e o Google provavelmente ganharam milhões com pagamentos dentro dos aplicativos infratores e que suas lojas precisam de melhor moderação para garantir que não sejam aprovados.

Apesar do clamor público generalizado sobre os deepfakes, apareceu no início deste ano, através de uma relatório de O Projeto de Transparência Técnica (TTP)que os aplicativos de nudificação muitas vezes conseguem passar pelos moderadores da Apple e do Google. E foi ainda mais longe, alegando que alguns deles foram até promovidos ativamente na App Store e no Google Play. O relatório também afirma que muitos desses aplicativos são classificados como ‘E’ para todos, o que permite que crianças os baixem. Diz-se que encontrar os aplicativos é tão simples quanto pesquisar termos como “nu” ou “despir”. Isto apesar de ambas as empresas terem políticas que proíbem material sexual ou pornográfico nas suas plataformas.

Google e Apple não são as únicas empresas que lutam contra a disseminação de deepfakes na web. O Conselho Fiscal Meta recentemente nomeado obriga a empresa a reforçar as suas proteções para as pessoas comuns visadas, com as medidas preventivas existentes parecendo beneficiar figuras públicas. O XAI de Elon Musk também era assunto sobre diversos ações judiciais envolvendo falsificações profundas sem consentimento.

Um porta-voz do Google disse Com cabo que a empresa excluiu “centenas” de aplicativos com recursos de nudez, cinco dos quais foram avisados ​​​​sobre eles por Chiu. Ele também reiterou que suas políticas proíbem conteúdo sexual e disse que toma “ações rápidas” se um aplicativo denunciado for considerado uma violação. Com cabo acrescentou que a Apple não forneceu comentários antes da publicação.