A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram recomendações conjuntas à plataforma X para combater o uso indevido da inteligência artificial Grok na geração de conteúdos sexualizados, incluindo deepfakes de pessoas reais sem consentimento.
O documento, divulgado em 20 de janeiro de 2026, exige a criação de procedimentos técnicos para identificar, revisar e remover esses conteúdos em até 30 dias. As instituições também solicitam a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas de crianças, adolescentes e adultos sem autorização.
Entre as medidas propostas, destaca-se a implementação de um mecanismo transparente e acessível para denúncias sobre o uso irregular de dados pessoais, especialmente em conteúdos sintéticos sexualizados sem consentimento. As recomendações visam proteger a dignidade de mulheres, crianças e adolescentes, além de resguardar direitos à proteção de dados e relações de consumo.
As ações foram motivadas por denúncias de usuários, reportagens na imprensa e testes realizados pelas instituições, que revelaram o emprego ilegal do Grok para criar deepfakes com conotação pornográfica a partir de imagens reais. As entidades alertam que tais práticas violam direitos fundamentais e posicionam o X como coautor, e não mero intermediário, dos conteúdos gerados pela ferramenta.
O documento cita a recente decisão do Supremo Tribunal Federal (STF), que declarou parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, impondo dever de cuidado aos provedores para evitar a circulação de crimes graves, como os contra mulheres. Além disso, reforça a política de autorregulação do X contra nudez não consensual e manipulação de imagens com conteúdo sexual.
Caso as recomendações não sejam cumpridas adequadamente, as instituições poderão adotar medidas administrativas e judiciais para garantir a proteção dos cidadãos, priorizando grupos vulneráveis.
