Autoridades cobram provas concretas
O governo federal e o Ministério Público Federal (MPF) concluíram que a rede social X não apresentou garantias de que está agindo contra a criação de imagens eróticas pelo Grok. A ferramenta de inteligência artificial tem sido usada para alterar fotos de pessoas sem consentimento, gerando nus falsos.
A análise da Agência Nacional de Proteção de Dados (ANPD) e da Secretaria Nacional do Consumidor (Senacon) indica que a plataforma não forneceu provas reais das medidas de segurança. Testes técnicos feitos pelos órgãos mostram que o sistema continua permitindo a geração e o compartilhamento de imagens sexualizadas.
Empresa descumpre recomendações
As autoridades brasileiras haviam recomendado em 20 de janeiro que o X impedisse esse tipo de manipulação digital. A empresa controlada por Elon Musk informou ter removido milhares de postagens e contas infratoras, mas a resposta não convenceu os reguladores.
A avaliação oficial aponta que a defesa da empresa não trouxe relatórios técnicos ou ferramentas de monitoramento que permitam checar se o bloqueio funciona. As equipes do governo conseguiram criar conteúdo erotizado envolvendo crianças, adolescentes e adultos durante as verificações.
O MPF considerou que faltou transparência e exigiu o envio de relatórios mensais sobre o combate a esse material. A ANPD também determinou que a plataforma liste as providências tomadas e apresente evidências que possam ser auditadas.
Novo prazo e risco de multas
Um novo prazo de cinco dias úteis foi fixado para que o X melhore os filtros do Grok e impeça a criação dessas imagens. A empresa deve explicar as ações implementadas dentro desse período.
Se a determinação não for atendida, a companhia pode sofrer sanções pesadas, incluindo multas. O caso pode evoluir para processos criminais por desobediência e ações judiciais para reparação de danos às vítimas.
A situação do X também é delicada na Europa. Escritórios da empresa na França foram alvo de buscas no início do mês em uma investigação sobre distribuição de pornografia infantil e deepfakes. O funcionamento do Grok também está sob análise no Reino Unido e na União Europeia.
