Governo brasileiro e Ministério Público Federal pressionam X para coibir geração de conteúdos sexualizados pelo Grok
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram recomendações à empresa controladora da plataforma X para que a ferramenta de inteligência artificial Grok não seja utilizada para gerar e distribuir conteúdos sexualizados. As recomendações foram divulgadas após denúncias de usuários indicarem o uso indevido da ferramenta para criar deepfakes — imagens falsas geradas por IA — com caráter sexualizado, erótico e pornográfico envolvendo mulheres, crianças e adolescentes reais.
O documento oficial, apresentado no dia 20 de janeiro, estabelece um conjunto de medidas que devem ser implementadas pela plataforma. A principal delas exige a criação, em até 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados já publicados que foram gerados pelo Grok a partir de comandos de usuários. As instituições também solicitam a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de menores de idade quanto de adultos sem autorização.
Além disso, as recomendações exigem a implementação de medidas imediatas e contínuas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças, adolescentes ou adultos identificáveis em contextos sexualizados ou erotizados sem consentimento. As instituições também solicitam a criação de um canal transparente e acessível para que vítimas denunciem usos irregulares ou abusivos de seus dados pessoais, com garantia de resposta em prazo razoável.
As recomendações foram embasadas em denúncias de usuários, reportagens veiculadas na imprensa nacional e internacional, e em testes realizados pelas próprias instituições. Os órgãos destacam que essas práticas impactam direitos fundamentais relacionados à proteção de dados pessoais, relações de consumo e dignidade humana, afetando especialmente mulheres, crianças e adolescentes.
Um ponto importante levantado pelas instituições é que o X não pode ser tratado como mero intermediário de conteúdo. Segundo o documento, os deepfakes sexualizados não são produzidos exclusivamente por terceiros, mas através de uma interação entre usuários que inserem comandos (prompts) e a ferramenta de IA criada e disponibilizada pelo próprio X. Isso tornaria a empresa coautora dos conteúdos em vez de simples intermediadora, alterando significativamente sua responsabilidade legal.
As instituições destacam ainda que decisões recentes do Supremo Tribunal Federal (STF) reforçam esse entendimento. A Corte declarou parcialmente inconstitucional o artigo 19 do Marco Civil da Internet por considerar que ele não oferece proteção suficiente a direitos constitucionais relevantes. No mesmo julgamento, o STF estabeleceu que provedores de internet têm especial dever de cuidado para evitar a circulação massiva de crimes graves, incluindo conteúdos que propagam violência contra mulheres.
O documento também aponta uma contradição entre as ações e as políticas da própria plataforma. O X possui normas de autorregulação que proíbem a publicação de imagens ou vídeos explícitos produzidos sem consentimento, bem como a produção, manipulação e disseminação de conteúdo sexual ou erotizado através do Grok. Segundo as instituições, permitir uma ferramenta de IA sem filtros rigorosos que facilite exatamente esses comportamentos torna-se insustentável sob essa perspectiva.
Até o momento, o X implementou algumas restrições. A plataforma limitou inicialmente a geração de imagens apenas a usuários pagantes, e posteriormente desativou a possibilidade de todos os usuários utilizarem o Grok para criar imagens sexualizadas de pessoas reais. No entanto, segundo informações divulgadas, assinantes premium ainda conseguem usar a ferramenta para outras edições de imagens que se conformem aos termos de serviço, e casos de uso indevido continuam sendo relatados.
As recomendações estabelecem um prazo até 27 de janeiro para que o X informe se acatará as medidas solicitadas. A pressão regulatória não é exclusiva do Brasil: investigações, restrições ou suspensões do serviço Grok também foram implementadas em países como Indonésia, Malásia, Reino Unido, França, Índia, além da União Europeia e do Estado da Califórnia nos EUA.
As instituições alertam que, caso as recomendações não sejam acatadas ou sejam implementadas de forma insuficiente, outras medidas serão consideradas nas esferas administrativa e judicial. Isso pode incluir sanções previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados, ou até mesmo solicitações de suspensão do serviço no Brasil.
