Meta entra na briga contra apps de nudez gerados por IA, conhecidos como “Nudify”

Nos últimos anos, a tecnologia de inteligência artificial avançou a passos largos, mas nem todos os usos são éticos. Aplicativos conhecidos como “nudify”, que usam IA para criar imagens explícitas não consensuais de pessoas, incluindo celebridades e influenciadores, têm causado preocupação.

Depois de críticas e alertas de pesquisadores, a Meta, dona do Facebook e Instagram, está finalmente tomando medidas sérias para combater esses apps. Com ações legais e novas tecnologias, a empresa quer frear a disseminação desse tipo de conteúdo em suas plataformas. Vamos entender o que está acontecendo e por que isso é tão importante.

O problema dos apps “nudify”

Esses aplicativos, que prometem “remover roupas” de fotos de maneira realista, têm se multiplicado e encontrado brechas para se promover em redes sociais. Um relatório recente da CBS News revelou que centenas de anúncios desses apps, como o Crush AI, apareceram no Facebook e Instagram, muitas vezes direcionados a homens e promovendo a criação de imagens explícitas sem consentimento. O impacto vai além da violação de privacidade: essas ferramentas têm sido usadas em esquemas de chantagem e “sextortion”, além de chegarem às mãos de menores, o que amplifica os riscos.

O caso do Crush AI é emblemático. Segundo o pesquisador Alexios Mantzarlis, da Cornell Tech, a empresa por trás do app, Joy Timeline HK Limited, veiculou mais de 8 mil anúncios nas plataformas da Meta desde o último outono. Esses anúncios muitas vezes burlavam os sistemas de moderação da Meta com imagens inofensivas, dificultando a detecção automática.

Ação legal contra o Crush AI

Cansada das tentativas da Joy Timeline HK Limited de contornar suas regras, a Meta anunciou que está processando a empresa sediada em Hong Kong. A ação judicial é um marco na luta contra esses aplicativos, que violam as políticas de segurança e moderação da Meta. Apesar de repetidas remoções de anúncios, a empresa por trás do Crush AI continuou a encontrar formas de voltar às plataformas, o que levou a Meta a buscar medidas mais drásticas.

Essa não é a primeira vez que a Meta enfrenta problemas com conteúdo gerado por IA. Anúncios de deepfakes de celebridades usados em golpes já desafiaram a empresa, e o Conselho de Supervisão independente da Meta criticou a falta de rigor na aplicação das regras contra esses conteúdos. A pressão para agir aumentou com a exposição pública desses casos, especialmente após investigações jornalísticas que destacaram a gravidade do problema.

Novas ferramentas para proteção

Além da ação legal, a Meta está investindo em tecnologia para impedir que anúncios de apps “nudify” cheguem às suas plataformas. A empresa desenvolveu sistemas que identificam esses anúncios mesmo quando não contêm nudez explícita, usando tecnologia de correspondência para detectar cópias e variações. A Meta também expandiu a lista de termos, frases e até emojis que seus sistemas monitoram, trabalhando com especialistas externos e equipes internas para aprimorar a detecção.

Outra iniciativa importante é a colaboração com outras empresas de tecnologia. A Meta planeja compartilhar informações sobre esses apps com plataformas como lojas de aplicativos, por meio de programas como o Lantern, da Tech Coalition, que combate a exploração sexual infantil online. Desde março, a empresa já forneceu mais de 3.800 URLs únicas relacionadas a esses apps para outras companhias, ampliando o impacto de suas ações.

O contexto maior: um desafio da indústria

O problema dos apps “nudify” não é exclusivo da Meta. Plataformas como X, Reddit e YouTube também enfrentam dificuldades para conter a proliferação de links e anúncios desses serviços. No Telegram, por exemplo, bots que criam imagens explícitas não consensuais têm milhões de usuários mensais, mostrando como o problema é disseminado. A Meta e outras empresas, como TikTok, já bloquearam termos como “nudify” e “undress” em buscas, mas a remoção completa desses conteúdos ainda é um desafio.

A pressão também vem de fora. Leis de verificação de idade, como as aprovadas em estados como Texas e Utah, estão forçando empresas a reforçar a proteção de menores. Além disso, casos como o de Francesca Mani, uma adolescente de 14 anos vítima de imagens geradas por esses apps, têm gerado clamor por mudanças. A Meta apoia legislações que deem mais poder aos pais para controlar os downloads de apps pelos filhos, o que poderia ajudar a prevenir o acesso a ferramentas como essas.

O que você acha dessas medidas? Será que a Meta e outras gigantes da tecnologia conseguirão conter essa onda de abusos? A discussão está apenas começando.

Leia também:

União Europeia quer retomar vigilância em massa com nova lei de metadados; entenda

Respeitar direitos autorais ‘mataria’ a IA, diz executivo da Meta