Denúncias envolvem imagens sintéticas de mulheres e crianças geradas por inteligência artificial
Por Karol Peralta
O Governo do Brasil expediu recomendações à empresa controladora da plataforma X após denúncias sobre o uso indevido do Grok, assistente de inteligência artificial integrado à rede social, para a geração de conteúdos sintéticos sexualizados a partir de imagens de pessoas reais. As medidas foram adotadas de forma conjunta pela Autoridade Nacional de Proteção de Dados (ANPD), pela Secretaria Nacional do Consumidor (Senacon) e pelo Ministério Público Federal (MPF).
Uso de IA para produção de deepfakes motivou atuação
Segundo as acusações, baseadas em reportagens da imprensa nacional e internacional e em testes realizados pelas próprias instituições, usuários estariam utilizando o Grok para produzir deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais — com conteúdos sexualizados, eróticos e com conotação pornográfica.
As denúncias envolvem principalmente mulheres, crianças e adolescentes, com relatos de imagens nuas ou em roupas íntimas, acessíveis a qualquer usuário da plataforma, ampliando riscos de exposição indevida e danos às vítimas.
Atuação coordenada das instituições
A gravidade dos fatos levou à atuação conjunta da ANPD, do MPF e da Senacon, diante do potencial impacto simultâneo sobre a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos e coletivos.
As instituições destacam que os riscos recaem de forma mais sensível sobre mulheres, crianças e adolescentes, grupo considerado especialmente vulnerável no ambiente digital.
Recomendações à empresa responsável pela plataforma
Entre as principais recomendações está a adoção imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios com crianças e adolescentes em contextos sexualizados ou erotizados. As orientações também abrangem conteúdos envolvendo adultos identificados ou identificáveis, quando gerados sem consentimento.
As determinações devem valer para todos os planos, versões e modalidades da ferramenta. Além disso, o documento recomenda que a empresa:
- crie, em até 30 dias, procedimentos técnicos e operacionais eficazes para identificar, revisar e remover conteúdos já gerados e ainda disponíveis na plataforma;
- promova a suspensão imediata de contas envolvidas na produção de conteúdos sexuais sintéticos ilegais, com comprovação mensal às instituições;
- implemente um canal transparente e acessível de denúncias, garantindo resposta adequada aos titulares de dados;
- elabore um relatório de impacto à proteção de dados pessoais, específico para a geração de conteúdos sintéticos a partir de imagens, vídeos ou áudios enviados por usuários ao Grok.
Possibilidade de novas medidas
As instituições alertam que, caso as recomendações não sejam cumpridas ou sejam consideradas insuficientes, outras medidas administrativas ou judiciais poderão ser adotadas. O objetivo é assegurar a proteção adequada dos cidadãos, especialmente de grupos vulneráveis, no ambiente digital.
As apurações seguem no âmbito das competências individuais de cada órgão, que irão analisar as respostas e providências eventualmente apresentadas pela empresa responsável pela plataforma X.
