xAI processa Minnesota por lei que proíbe nudes com IA
A criadora do Grok, a empresa xAI, entrou com um processo contra o estado de Minnesota, nos Estados Unidos. A ação judicial é uma resposta a uma lei estadual que exige que as plataformas impeçam a criação de imagens de nudez sem consentimento usando inteligência artificial.
O projeto de lei de Minnesota já foi aprovado e entra em vigor no próximo sábado, dia 1º de agosto. A legislação responsabiliza as plataformas por permitirem a criação dessas imagens íntimas e prevê uma multa de até US$ 500 mil (cerca de R$ 2,5 milhões em conversão direta) para cada conteúdo gerado e identificado no estado. Além da multa, as vítimas podem processar a empresa diretamente.
Na ação, a xAI alega que as medidas são severas demais. A empresa argumenta que um único usuário pode gerar várias imagens diferentes, o que resultaria em um prejuízo financeiro enorme para a companhia. A xAI afirma que considera limitar a geração de imagens no Grok, mas que prefere manter a inteligência artificial sem alterações. A empresa diz priorizar o efeito dos termos de uso, que preveem o banimento de contas que criarem imagens íntimas sem consentimento.
O texto do processo, obtido pelo site Ars Technica, menciona que as imagens com nudez poderiam ser usadas em outras expressões "totalmente protegidas" pela constituição dos EUA. A defesa da xAI também critica os critérios usados pelo estado para determinar o que é uma imagem íntima, incluindo aquelas sem nudez explícita.
No começo do ano, o X permitiu que diversas pessoas criassem imagens sensuais sem consentimento a partir de comandos de texto simples para o Grok. O caso chamou a atenção de autoridades no mundo todo e resultou em novos mecanismos de proteção para evitar que qualquer foto na rede fosse transformada em deepfake. No entanto, investigações recentes identificaram que o Grok ainda poderia ser usado para gerar conteúdos do tipo.
