Tecnologia

Detector de IA do Instagram rotula fotos reais editadas no Canva

Sistema marca como "Conteúdo de IA" fotos de iPhone que só tiveram fundo removido, enquanto testes mostram que só imagens feitas com ferramentas da própria Meta ativam o rótulo de forma consistente.

Detector de IA do Instagram rotula fotos reais editadas no Canva

O sistema de rotulagem de inteligência artificial da Meta está produzindo resultados contraditórios no Instagram. Fotografias reais que receberam apenas pequenas edições — remoção de fundo, correção de imperfeições — ganham automaticamente o selo "Conteúdo de IA", enquanto imagens inteiramente criadas por modelos generativos circulam sem qualquer aviso. Marcas, fotógrafos e criadores de conteúdo relatam o problema no Threads, e testes do site The Verge indicam que apenas imagens produzidas com as ferramentas de IA da própria Meta ativam o rótulo de forma consistente. As informações são do Canaltech.

A inconsistência não é nova. Em 2024, poucos meses após lançar o selo "Made by AI", a Meta já havia sido criticada por identificar como geradas por IA imagens que haviam passado por alterações simples. Na época, a empresa prometeu ajustar o sistema para levar em conta a "quantidade de IA usada em uma imagem" e citou padrões da indústria, como os metadados IPTC e C2PA. Dois anos depois, a companhia não detalha quais sinais analisa, e os relatos continuam.

Os casos: Canva, iPhone e a marca de Halsey

No Threads, usuários contam ter recebido o rótulo depois de usar o removedor de fundo do Canva ou recursos para eliminar pequenas imperfeições — e a página de ajuda do próprio Canva afirma que a remoção de fundo não adiciona metadados de conteúdo gerado por IA. A estrategista de conteúdo Jess Bruno relatou que algumas ferramentas da plataforma faziam o Instagram marcar suas imagens; o Canva disse ter corrigido o problema, mas outros usuários seguiram reportando casos parecidos.

Um dos exemplos mais visíveis envolve a About Face, marca de cosméticos da cantora Halsey. A empresa relatou que fotografias reais, feitas com iPhone e submetidas a edições leves, foram identificadas como conteúdo de IA — imagens que usavam pessoas e artistas reais, sem geração de personagens ou cenas sintéticas.

Para Jaime Fernando Reis Martins, editor do portal, o erro tem custo para quem trabalha com imagem. "Uma marca de cosméticos fotografa modelos reais com iPhone, tira o fundo no Canva e o Instagram avisa ao público que aquilo é IA. Para o consumidor, é o mesmo que dizer 'essa pele não existe'. Para a marca, é acusação de fraude num setor em que autenticidade é o produto. O rótulo que deveria proteger o público está prejudicando quem faz tudo certo — e deixando passar quem inventa a foto inteira", avalia.

Os testes: só a IA da Meta ativa o selo

O The Verge testou diferentes ferramentas: o recurso de apagar fundos do Photoshop, funções generativas do Adobe Firefly, o modelo Nano Banana do Google no Gemini e recursos do Apple Intelligence. Apenas as imagens editadas ou geradas pelas ferramentas de IA da Meta ativaram o rótulo de forma consistente. Ou seja, o sistema parece detectar bem o que a própria empresa produz — e mal o que vem de fora, que é a maior parte do conteúdo sintético em circulação.

A explicação provável está nos metadados. Ferramentas da Meta embutem marcações que o Instagram reconhece; ferramentas de terceiros seguem padrões variados, ou nenhum, e imagens repassadas por captura de tela ou compressão perdem qualquer marcação. O resultado é um detector que funciona no cenário menos relevante e falha no mais importante.

Por que o rótulo importa

Para fotógrafos, marcas e criadores, o aviso de que uma imagem é gerada por IA transmite ao público uma impressão errada sobre como o conteúdo foi produzido. Uma fotografia feita com câmera e editada com remoção de objeto não deveria ser apresentada da mesma forma que uma cena criada do zero por um modelo generativo — e ferramentas assistidas por aprendizado de máquina já fazem parte do fluxo de trabalho profissional há anos. Do outro lado, quando uma imagem totalmente sintética não recebe identificação, o público fica sem nenhuma indicação de que aquela cena nunca existiu fora do computador — exatamente o risco que a rotulagem deveria mitigar.

C2PA e IPTC: os padrões que a Meta citou

O C2PA — Coalition for Content Provenance and Authenticity — é um padrão aberto, apoiado por Adobe, Microsoft, Google, OpenAI e outras empresas, que embute na imagem um registro criptografado de sua origem e das edições sofridas: câmera, software, se houve geração por IA. O IPTC é o padrão de metadados usado pela imprensa. Ambos permitem, em tese, distinguir "foto real com fundo removido" de "imagem gerada". O problema é a adoção: nem todas as ferramentas gravam esses dados, plataformas removem metadados ao comprimir imagens, e o usuário pode apagá-los. A Meta disse em 2024 que usaria os dois padrões; os casos atuais mostram que, na prática, o sistema não distingue graus de intervenção.

Na leitura de Adriano Jose Reis Martins, editor do portal, a Meta escolheu o caminho errado. "Rotular por metadado é rotular quem colabora — a Adobe, o Canva, a própria Meta — e ignorar quem não colabora, que é exatamente quem faz deepfake. É como colocar detector de metal só na porta dos funcionários. A solução séria é análise da imagem em si, que é difícil e cara, combinada com metadado. A Meta prometeu isso em 2024. Em 2026, o detector continua acusando foto de iPhone e liberando montagem", observa.

O que a Meta diz — e o que não diz

A empresa não detalha atualmente quais sinais o sistema analisa para aplicar o rótulo, nem oferece ao usuário meio simples de contestar uma marcação errada. Em 2024, após as primeiras críticas, renomeou o selo de "Made by AI" para "AI info", em reconhecimento de que a marcação original era enganosa para imagens apenas editadas. A mudança de nome não resolveu o problema de base: decidir, de forma confiável, quanto de uma imagem é sintético.

O que o usuário pode fazer

Enquanto a Meta não corrige o sistema, há medidas práticas para quem publica imagens profissionais. Guardar os arquivos originais da câmera, com metadados intactos, permite comprovar a origem em caso de contestação. Evitar as ferramentas de edição por IA da própria Meta — as que mais ativam o rótulo — reduz a chance de marcação indevida. Ao receber o selo em foto real, reportar pelo suporte da plataforma e, se a imagem for de campanha, avisar o público diretamente na legenda. E, para quem produz imagens sintéticas, declarar voluntariamente: a transparência protege a credibilidade mais do que o rótulo automático.

Ano eleitoral: o que a lei brasileira exige

No Brasil, a rotulagem de conteúdo gerado por IA deixou de ser só política de plataforma. As regras do Tribunal Superior Eleitoral para as eleições exigem que propaganda com conteúdo sintético — imagem, áudio ou vídeo criado ou manipulado por IA — traga aviso explícito, e proíbem deepfakes que prejudiquem candidatos. As plataformas são obrigadas a agir contra conteúdo enganoso. Um detector que marca foto real e ignora imagem falsa é, nesse contexto, um problema institucional: pode punir campanhas legítimas e deixar passar exatamente o que a Justiça Eleitoral quer identificar.

Reflexos no Brasil

O Instagram é uma das redes mais usadas no país, e o rótulo de IA afeta diretamente fotógrafos, lojas, agências e influenciadores brasileiros que dependem da plataforma para vender. Um selo errado em foto de produto ou de campanha pode reduzir alcance e credibilidade — e o caminho para corrigir passa por suporte da Meta, lento e impessoal. Ao mesmo tempo, imagens sintéticas de políticos, celebridades e produtos circulam sem aviso, em ano eleitoral, o que preocupa o TSE e as autoridades que cobram das plataformas identificação de conteúdo gerado por IA.

Para Thiago Baptista Martins, editor do portal, a "bagunça" é sintoma de um problema sem solução fácil. "Todo mundo quer que a plataforma avise quando a foto é falsa. Ninguém tem tecnologia para fazer isso direito. A Meta lançou o selo para dizer que fez alguma coisa, e o selo virou ruído: pune o fotógrafo honesto, ignora o falsificador. O que se pode exigir da empresa é transparência — dizer como decide — e um botão de contestação que funcione. Enquanto isso não existir, o rótulo vale menos do que o olho treinado do leitor", analisa.

A Meta não respondeu aos relatos mais recentes sobre o funcionamento do rótulo de IA no Instagram. Usuários que receberem a marcação em fotografias reais podem reportar o erro pelos canais de suporte da plataforma.

Foto: Anthony Quintano from Mount Laurel, United States (CC BY 2.0) via Wikimedia Commons.

JM
Escrito por

Jaime Fernando Reis Martins

Colaborador convidado do blog The Gin Flavors, assina esta matéria com curadoria própria.

Develop by Cliki