Bloqueio imediato de conteúdo gerado por IA
O X (antigo Twitter) recebeu uma recomendação oficial de autoridades brasileiras para bloquear imediatamente a geração de imagens eróticas pelo Grok, sua inteligência artificial. O documento foi enviado na terça-feira (20) pelo Ministério Público Federal (MPF), Autoridade Nacional de Proteção de Dados (ANPD) e Secretaria Nacional do Consumidor (Senacon).
A medida ocorre após um aumento nas denúncias sobre o uso da ferramenta para criar deepfakes. Essas montagens colocam pessoas reais, inclusive crianças e adolescentes, em situações sexuais sem que elas tenham dado consentimento.
Para os órgãos do governo, a plataforma de Elon Musk não pode ignorar o uso indevido de sua tecnologia, já que isso viola a privacidade e a dignidade das vítimas. O entendimento é que a rede social atua como “coautora” desses conteúdos abusivos ao disponibilizar a ferramenta para os usuários.
Exigências e proteção aos usuários
A ordem determina um bloqueio total que deve atingir todos os usuários, até mesmo quem paga pelas versões premium do serviço. As autoridades estabeleceram requisitos claros para a rede social:
- Impedir novas criações de imagens de cunho sexual;
- Criar um canal fácil para denúncias de abusos;
- Suspender contas que usem a IA para fins eróticos;
- Garantir a remoção rápida do conteúdo do ar.
Prazos e possíveis punições
A empresa tem até o dia 27 de janeiro para informar se vai acatar as orientações de forma amigável. Se a rede social decidir ignorar o pedido, as instituições alertaram que podem entrar com processos na Justiça e aplicar multas pesadas. As sanções se baseiam na Lei Geral de Proteção de Dados (LGPD) e no Código de Defesa do Consumidor.
O Instituto de Defesa do Consumidor (Idec), responsável pela denúncia inicial sobre o Grok, considerou a ação das autoridades tímida. A entidade defende que o funcionamento da IA deveria ser suspenso completamente até que seu uso se torne comprovadamente seguro para os cidadãos.
