O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas da plataforma X e consideraram insuficientes as providências da empresa em relação ao uso inadequado de sua ferramenta de inteligência artificial, o Grok. Esta tecnologia tem sido utilizada indevidamente para gerar e disseminar imagens de pessoas em contextos sexualizados sem autorização.
No mês passado, as três entidades emitiram recomendações para a plataforma X, incluindo a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos gerados pelo Grok que ainda estejam disponíveis. A plataforma afirmou ter removido milhares de publicações e suspendido centenas de contas por violações, além de adotar medidas de segurança. No entanto, as instituições consideraram as informações apresentadas insuficientes, sem evidências concretas ou relatórios técnicos que comprovem sua eficácia.
Em nova manifestação, divulgada nesta quarta-feira (11), os órgãos determinaram que o X implemente imediatamente medidas efetivas para impedir a produção de conteúdo sexualizado envolvendo crianças, adolescentes e adultos sem consentimento. As instituições também exigiram informações sobre as providências já adotadas pela empresa. O MPF ordenou que o X forneça relatórios mensais sobre suas ações e destacou a falta de transparência na resposta da empresa.
A ANPD, o MPF e a Senacon estão coordenados na investigação dos fatos relacionados ao uso indevido do Grok. Cada instituição mantém um procedimento administrativo aberto contra a plataforma. No caso da ANPD, a medida preventiva requer que os recursos para impedir o uso indevido da IA abranjam todas as versões do Grok.
O MPF exigiu relatórios mensais detalhando como o X está atuando para impedir a produção de deepfakes, incluindo o número de postagens nocivas removidas e contas suspensas. Se não cumpridas, a empresa poderá ser multada diariamente, e os envolvidos poderão responder por desobediência, além de enfrentar medidas investigatórias mais severas.
A Senacon, em medida cautelar administrativa, cobrou comprovação das providências adotadas para conter os riscos identificados. Também foi exigido um relatório métrico detalhado com dados sobre identificação, moderação e remoção de conteúdos sexualizados, incluindo número de conteúdos removidos e prazos de resposta.
A reportagem tenta contato com a assessoria da Plataforma X no Brasil para obter um posicionamento sobre a nova manifestação conjunta do MPF, ANPD e Senacon.
