Um juiz federal dos Estados Unidos se recusou a suspender a lei do estado de Minnesota contra imagens falsas de nudez geradas por inteligência artificial nesta sexta-feira (4 de setembro). A decisão define que a proibição — a primeira do tipo no país — será mantida enquanto tramita a contestação apresentada pela xAI, de Elon Musk. A xAI argumenta que a medida restringe a liberdade de expressão protegida pela Constituição; Minnesota afirma que a lei foi cuidadosamente formulada para conter a disseminação de imagens sexuais não consensuais criadas com IA. As informações são da Folha.
O juiz Donovan Frank rejeitou o pedido de liminar da xAI contra a lei, que entrou em vigor em 1º de agosto e proíbe operadores de sites, desenvolvedores de software e outros de permitir que usuários "tirem a roupa" de pessoas identificáveis em imagens usando IA. Na decisão, Frank afirmou que a xAI não conseguiu demonstrar que sofreria danos enquanto leva adiante a ação em que alega violação da Primeira Emenda. "As questões constitucionais levantadas pelas partes são complexas, sobretudo quando consideradas no contexto desta nova tecnologia e dos riscos que ela representa para o público", escreveu. "Essas questões merecem — e receberão — uma análise completa." A xAI e seus advogados não responderam de imediato; em documento apresentado à Justiça nesta sexta, a empresa informou que recorrerá ao Tribunal de Apelações do 8º Circuito. O procurador-geral de Minnesota, Keith Ellison, do Partido Democrata, afirmou que a lei recebeu "apoio esmagador de ambos os partidos e aprovação quase unânime" dos legisladores estaduais: "Esses aplicativos de nudificação têm sido usados para gerar material de abuso sexual infantil e assediar pessoas das maneiras mais repugnantes que se possa imaginar. Esse comportamento repulsivo não é bem-vindo em Minnesota". Em julho, o juiz já havia rejeitado uma tentativa de Musk de impedir que a lei entrasse em vigor, mas concordou em acelerar a análise. O chatbot Grok, de Musk, tem enfrentado críticas pela criação de conteúdo sexualmente explícito; órgãos reguladores defendem salvaguardas mais rígidas e impõem proibições para conter material ilegal criado artificialmente, e a xAI começou a processar usuários que, segundo a empresa, contornam os bloqueios do Grok para criar imagens sexuais de pessoas sem consentimento.
Liberdade de expressão x dignidade: por que o caso de Minnesota importa além do estado
A lei de Minnesota é a primeira nos Estados Unidos a atacar não o usuário que cria a imagem falsa — já criminalizado em dezenas de estados e, desde 2025, pela lei federal Take It Down, que obriga plataformas a remover imagens íntimas não consensuais em 48 horas —, mas a ferramenta: o site, o aplicativo ou o modelo que permite "despir" uma pessoa real; é o equivalente a responsabilizar o fabricante da arma, e é por isso que a xAI, cujo Grok gerou imagens sexualizadas de celebridades e de pessoas comuns a pedido de usuários em 2025 e 2026, escolheu o caso para uma batalha de Primeira Emenda — a proteção constitucional americana à expressão, que cobre inclusive código de software, segundo jurisprudência das últimas décadas. A tese da empresa é que proibir a ferramenta é censura prévia a uma forma de expressão; a tese do estado é que não há expressão protegida na produção de nudez falsa de pessoa identificável sem consentimento, assim como não há na pornografia infantil, e que a lei é estreita o suficiente — só imagens de pessoas identificáveis, só nudez ou ato sexual — para passar no teste de constitucionalidade. O juiz Frank, ao negar a liminar duas vezes, sinalizou que a lei tem chance de sobreviver, e o 8º Circuito, conservador, decidirá em meses; se a lei for mantida, outros estados copiarão, e as ferramentas de IA generativa terão de bloquear a função em território americano — o que já fazem, com eficácia variável, OpenAI, Google e Meta, e o que o Grok fez tarde e mal, a ponto de a própria xAI processar usuários que burlam seus filtros. No Brasil, a lei de 2025 que aumentou penas para violência psicológica e sexual com uso de IA e o Marco Civil já permitem responsabilizar quem cria e quem hospeda; falta o equivalente à regra de Minnesota para quem fornece a ferramenta.
Para Adriano Jose Reis Martins, editor do portal, a decisão é uma derrota merecida para o dono do Grok. "Elon Musk transformou o Grok no chatbot que 'tira a roupa' de qualquer pessoa a pedido, ganhou mercado com isso e, quando um estado proibiu, foi ao tribunal falar em liberdade de expressão. O juiz respondeu que não há dano em não poder despir mulheres por IA. E o procurador-geral disse o que todos sabem: essas ferramentas produzem abuso infantil e assédio. A xAI agora processa os próprios usuários por fazerem o que o produto foi desenhado para fazer — é a confissão. O portal acompanha porque a mesma tecnologia chega a Araras: adolescentes 'despidas' por colegas com app gratuito, escolas sem saber o que fazer, e a lei brasileira ainda focada em quem publica, não em quem fornece. Minnesota mostra o caminho: proibir a ferramenta, não só punir o uso", avalia.
O que a lei de Minnesota proíbe
Em vigor desde 1º de agosto, veda a operadores de sites, desenvolvedores e provedores permitir que usuários criem, por IA, imagens de nudez ou ato sexual de pessoas identificáveis sem consentimento — a "nudificação"; prevê multas e ações civis, e responsabiliza a ferramenta, não apenas o usuário. Aprovada com apoio bipartidário quase unânime.
A tese da xAI: Primeira Emenda
A empresa sustenta que a geração de imagens é expressão protegida, que a lei é ampla demais e que impede usos legítimos — arte, sátira, ficção —; pede a suspensão até o julgamento de mérito e, negada, recorre ao 8º Circuito. A tese enfrenta o precedente de que material sexual não consensual não é expressão protegida.
Donovan Frank: duas negativas e uma promessa
O juiz do Distrito de Minnesota negou em julho a suspensão preventiva e, agora, a liminar, afirmando que a xAI não demonstrou dano; reconheceu a complexidade constitucional e prometeu "análise completa" — o julgamento de mérito, que definirá se a lei sobrevive.
Na leitura de Jaime Fernando Reis Martins, editor do portal, o caso mostra a regulação americana funcionando de baixo para cima. "O governo federal americano, sob Trump, não regula IA — proíbe estados de regular, se puder. Minnesota fez a lei, Musk atacou, o juiz manteve. É o federalismo como última linha de defesa contra o Vale do Silício. O Take It Down federal obriga a remover depois; Minnesota impede antes. A diferença, para a vítima, é enorme — a imagem que não é criada não precisa ser removida de mil sites. O portal registra que o Grok é o pior aluno da turma nesse quesito e que o dono, em vez de corrigir, processa o usuário e o estado. Que o 8º Circuito mantenha, e que o Brasil copie", observa.
Grok e o histórico de conteúdo sexual
O chatbot da xAI, integrado ao X, foi criticado em 2025 e 2026 por gerar imagens sexualizadas de celebridades, políticas e pessoas comuns a pedido de usuários, com filtros mais permissivos que os concorrentes; reguladores na Europa, no Reino Unido e em estados americanos abriram investigações, e a empresa reforçou bloqueios sob pressão.
A xAI contra os próprios usuários
A empresa passou a processar pessoas que, segundo ela, burlam os bloqueios do Grok para criar imagens íntimas sem consentimento — estratégia que transfere a responsabilidade ao usuário e que críticos veem como admissão de que a ferramenta é usada para o que a lei de Minnesota proíbe.
Take It Down: a lei federal de 2025
Sancionada por Trump em 2025, criminaliza a publicação de imagens íntimas não consensuais, inclusive geradas por IA, e obriga plataformas a removê-las em 48 horas após notificação; atua depois do dano, enquanto a lei estadual atua na origem — abordagens complementares que a indústria prefere manter separadas.
Brasil: o que a lei já prevê e o que falta
A lei de 2025 aumentou penas para crimes de violência psicológica e sexual cometidos com IA, e o ECA e o Código Penal punem a criação e divulgação de imagens íntimas falsas; casos em escolas — adolescentes "despidas" por colegas — multiplicaram-se, e delegacias e escolas ainda aprendem a lidar. Não há regra para quem fornece a ferramenta, como em Minnesota.
Para Thiago Baptista Martins, editor do portal, a frase do procurador resume o debate. "'Esse comportamento repulsivo não é bem-vindo em Minnesota.' Simples assim. Não é debate de liberdade de expressão; é abuso, e a ferramenta que o permite é cúmplice. Musk perdeu duas vezes no mesmo juiz e vai perder na apelação, porque nenhum tribunal vai dizer que despir mulheres por IA é discurso protegido. O portal registra a decisão e o exemplo: leis estaduais, aprovadas por unanimidade, com procurador que as defende. Quando a Assembleia de São Paulo fizer o mesmo, o Grok vai ter de bloquear aqui também", analisa.
A decisão do juiz federal Donovan Frank de manter em vigor a lei de Minnesota contra imagens sexuais falsas geradas por inteligência artificial, negando liminar à xAI, de Elon Musk, foi tomada em 4 de setembro de 2026 e noticiada pela Folha; a lei está em vigor desde 1º de agosto e a empresa recorrerá ao Tribunal de Apelações do 8º Circuito.
Foto: Rizki Ariffudin (CC0) via Wikimedia Commons.
