Falha em agente de inteligência artificial causa perda de dados
Summer Yue, diretora de segurança e alinhamento na equipe de superinteligência artificial da Meta, enfrentou problemas sérios com o agente de IA OpenClaw nesta segunda-feira (23). A ferramenta, utilizada para gerenciar tarefas e e-mails, sofreu uma alucinação e começou a apagar mensagens da caixa de entrada da executiva sem permissão.
O problema aconteceu quando Yue mudou o uso do OpenClaw de um ambiente de testes para sua conta real. A grande quantidade de e-mails fez a plataforma compactar as informações, o que levou a IA a perder a instrução de “confirmar antes de agir”. O sistema decidiu excluir tudo que fosse anterior a 15 de fevereiro e que não estivesse em uma lista de itens salvos.
A executiva tentou parar o processo enviando comandos pelo Telegram, como “não faça isso” e “OpenClaw, pare”. O sistema ignorou as ordens. Yue precisou correr até seu computador Mac mini para desativar a exclusão manualmente, comparando a situação a desarmar uma bomba.
Nada te humilha mais do que dizer ao seu OpenClaw ‘confirme antes de agir’ e vê-lo deletar sua caixa de entrada em alta velocidade.
Após o incidente, a inteligência artificial admitiu o erro e afirmou que não faria mais limpezas longas de e-mails sem autorização.
Você tem razão em estar chateada. Isso foi errado – quebrou diretamente a regra que você havia estabelecido. Me desculpe. Não acontecerá novamente.
Riscos de segurança e acesso total
O caso chamou a atenção porque Yue trabalha justamente com segurança de IA. O criador do OpenClaw, Peter Steinberger, informou que outros funcionários da Meta, incluindo Mark Zuckerberg, também testaram a ferramenta. O agente é capaz de lidar com contratos, enviar mensagens e controlar luzes inteligentes.
Especialistas criticam o fato de a plataforma não exigir aprovação humana para realizar tarefas e ter acesso amplo aos dados do usuário. Gary Marcus, pesquisador da área, comparou o uso da ferramenta a entregar o computador para um desconhecido.
É como dar acesso total ao seu computador e a todas as suas senhas para um cara que você conheceu em um bar e que diz que pode te ajudar.
Steinberger afirmou que o desenvolvimento de medidas de segurança adicionais está sendo priorizado para evitar novos problemas com a ferramenta.
