A lei do estado americano de Minnesota que proíbe imagens falsas de nudez produzidas por inteligência artificial continuará em vigor. Um juiz federal rejeitou nesta sexta-feira (4) o pedido da xAI, empresa de IA de Elon Musk, para suspender a aplicação da norma enquanto a companhia a contesta na Justiça. A decisão, divulgada pelo G1, mantém ativa a que é descrita como a primeira lei desse tipo nos Estados Unidos — e coloca a empresa dona do chatbot Grok em rota de colisão com um estado que decidiu regular uma das aplicações mais controversas da IA generativa.
A lei entrou em vigor em 1º de agosto e proíbe operadores de sites, desenvolvedores de programas e outras pessoas de permitir que usuários usem inteligência artificial para retirar digitalmente as roupas de pessoas identificáveis em imagens. O alvo é a prática conhecida como "undressing" ou "nudificação": a partir de uma foto comum, ferramentas de IA geram uma versão em que a pessoa aparece nua — sem seu consentimento e, com frequência, com finalidade de assédio, extorsão ou humilhação.
A decisão do juiz
O juiz federal Donovan Frank rejeitou o pedido da xAI por uma decisão provisória que suspenderia a aplicação da lei. Segundo ele, a empresa não conseguiu demonstrar que sofreria prejuízos irreparáveis enquanto o processo continua — requisito básico para esse tipo de medida cautelar. Frank afirmou que as questões constitucionais levantadas pelas partes são complexas, especialmente por envolverem uma tecnologia nova e os riscos que ela representa para o público, e que serão analisadas de forma completa ao longo do processo.
Não é a primeira derrota da xAI no caso. Em julho, o mesmo juiz já havia rejeitado o pedido da empresa para impedir que a lei entrasse em vigor — mas, naquela ocasião, concordou em acelerar a análise do mérito. A xAI e o gabinete do procurador-geral de Minnesota não responderam imediatamente aos pedidos de comentário.
Para Jaime Fernando Reis Martins, editor do portal, a decisão tem peso simbólico. "Um juiz federal disse, pela segunda vez, que a empresa de Elon Musk não demonstrou prejuízo em ser proibida de permitir que usuários dispam pessoas com IA. É uma frase que resume o absurdo do argumento: qual é o dano de não poder fazer isso? A xAI está gastando dinheiro em tribunal para defender uma funcionalidade que nenhuma vítima pediu", avalia.
Liberdade de expressão contra consentimento
O argumento central da xAI é constitucional. A empresa processou o estado de Minnesota alegando que a lei viola a Primeira Emenda da Constituição americana ao restringir uma forma de expressão protegida. É a mesma linha de defesa usada historicamente por plataformas digitais nos Estados Unidos contra regulações de conteúdo: a produção de imagens, mesmo sintéticas, seria uma forma de expressão que o Estado não pode proibir previamente.
Minnesota responde que a lei foi criada especificamente para combater a divulgação de imagens sexuais produzidas com IA sem o consentimento das pessoas retratadas — e que a proteção da Primeira Emenda não se estende à criação de material sexual não consensual envolvendo pessoas reais e identificáveis. O ponto de tensão é justamente onde termina a expressão e começa o dano a terceiros: uma imagem gerada de uma pessoa fictícia é uma coisa; a de uma vizinha, colega ou ex-parceira, outra.
O histórico do Grok
O contexto que torna o caso especialmente sensível é o histórico do Grok, chatbot desenvolvido pela xAI. A ferramenta já foi criticada por produzir conteúdo sexualmente explícito, e reguladores em diferentes países buscaram medidas de proteção mais rígidas e impuseram proibições para tentar conter a disseminação de material ilegal criado artificialmente. O G1 lembra o caso de uma brasileira que se disse vítima de uma foto de biquíni editada pelo Grok — "me sinto suja", declarou ela em reportagem anterior.
A xAI, por sua vez, afirma que combate o abuso: começou a processar usuários que, segundo a empresa, estariam burlando os mecanismos de proteção do Grok para criar imagens sexuais de pessoas. A posição da companhia é, portanto, dupla — processa usuários que exploram a ferramenta para gerar nudes, mas contesta na Justiça a lei que proíbe a própria plataforma de permitir essa geração.
Na leitura de Adriano Jose Reis Martins, editor do portal, a contradição é o coração do caso. "A xAI diz que vai processar quem burla os filtros do Grok, mas não quer que o Estado obrigue os filtros a existir. Ou seja: a empresa quer ser a única a decidir o que a ferramenta pode fazer. Minnesota decidiu que essa escolha não pode ficar só com a empresa quando o resultado é uma mulher real despida sem consentimento. Essa é a disputa real, e a Primeira Emenda é só o vocabulário", observa.
Por que Minnesota é pioneira
Nos Estados Unidos, a regulação de inteligência artificial avança mais nos estados do que no Congresso federal. Minnesota foi o primeiro a aprovar uma lei que responsabiliza não apenas quem cria ou divulga o nude falso, mas também quem fornece a ferramenta — sites, aplicativos e desenvolvedores que permitem a funcionalidade. É essa responsabilização do intermediário que a xAI contesta, e é ela que torna a lei relevante como precedente: se sobreviver ao escrutínio judicial, outros estados tendem a copiá-la.
Leis anteriores em outros estados tratavam da divulgação de imagens íntimas não consensuais — a chamada "pornografia de vingança" — mas foram escritas antes da IA generativa, quando a imagem precisava existir de fato para ser divulgada. A nudificação por IA inverteu o problema: a imagem é fabricada, e a vítima nunca posou para ela.
O que está em jogo para as plataformas
Se a lei de Minnesota for confirmada no mérito, toda plataforma de IA generativa que opere no estado precisará impedir tecnicamente que seus sistemas produzam nudez de pessoas identificáveis — não apenas proibir nos termos de uso, mas bloquear na prática. Isso implica filtros de reconhecimento de pessoas reais, detecção de tentativas de burla e responsabilidade da empresa pelo que escapar.
Para as grandes empresas de IA, que já mantêm filtros desse tipo por política própria, o impacto é limitado. Para a xAI, cujo produto se posicionou como alternativa "menos censurada" aos concorrentes, a lei atinge diretamente um diferencial de mercado.
A lei federal que já existe — e o que Minnesota acrescenta
O governo federal americano também agiu sobre o tema. Em maio de 2025, o presidente Donald Trump sancionou o Take It Down Act, lei que criminaliza a publicação de imagens íntimas sem consentimento — incluindo as geradas por inteligência artificial — e obriga plataformas a remover o conteúdo em até 48 horas após a notificação da vítima. A norma federal atua depois do dano: pune quem publica e exige a retirada.
A lei de Minnesota vai um passo além, e é esse passo que a xAI contesta: em vez de esperar que a imagem seja publicada, proíbe que a ferramenta de "nudificação" seja disponibilizada ao público. É a diferença entre apagar o incêndio e proibir a venda do fósforo — e é nessa fronteira, a da responsabilidade de quem fornece a tecnologia, que a decisão do juiz Frank tende a criar precedente.
Reflexos no Brasil
O Brasil discute o tema por caminhos próprios. O Código Penal já pune a divulgação de imagens íntimas sem consentimento, e alterações recentes passaram a alcançar conteúdo manipulado ou gerado artificialmente. O que ainda não existe é uma norma que, como a de Minnesota, responsabilize o fornecedor da ferramenta — o que deixa vítimas brasileiras dependentes de ações contra o usuário individual, muitas vezes anônimo, e de pedidos de remoção às plataformas.
Para Thiago Baptista Martins, editor do portal, o caso americano deveria ser observado de perto. "A pergunta que Minnesota fez é a que o Brasil vai precisar responder: quem é responsável quando uma IA despe uma pessoa real? Só o usuário que pediu, ou também quem construiu a máquina que atende ao pedido? A decisão do juiz Frank ainda não é o mérito, mas já diz uma coisa importante: o argumento de que proibir isso fere a liberdade de expressão não convenceu, nem mesmo em caráter provisório", analisa.
O processo da xAI contra o estado de Minnesota segue para a análise de mérito, sem data definida para julgamento. Enquanto isso, a lei permanece em vigor e aplicável a qualquer plataforma que opere no estado.
Foto: Autor: Grok (Public domain) via Wikimedia Commons.
