Agente de IA da Replit exclui dados confidenciais apesar das instruções explícitas
Um agente de IA operando na plataforma Replit supostamente excluiu um banco de dados inteiro da empresa sem permissão. O incidente ocorreu durante um "congelamento crítico de código e ações" projetado para impedir tais alterações.
O infeliz evento veio à tona por meio de postagens nas redes sociais do empreendedor de tecnologia Jason Lemkin, fundador da comunidade SaaS SaaStr. Lemkin vinha experimentando o agente de IA da Replit há mais de uma semana, realizando o que é conhecido como "codificação de vibração", um fluxo de trabalho conversacional em que a IA cuida de grande parte do trabalho estrutural e de implementação com base em comandos de linguagem natural. Embora inicialmente tenha achado o processo envolvente, Lemkin também se deparou com "alucinações" e comportamentos inesperados da IA.
Dia 7 de codificação Vibe,
Deixe-me esclarecer pelo menos uma coisa: o @Replit é o aplicativo mais viciante que já usei. Pelo menos desde que eu era criança.
( @lovable_dev também é ótimo. Nós o usamos para construir uma landing page principal. Não estou tomando partido, mas para este projeto, escolhi o Replit).
A violação crítica ocorreu quando o agente de IA , apesar de instruções explícitas em contrário, executou comandos não autorizados, resultando na destruição de dados de 1.206 executivos e 1.196 empresas dentro da rede profissional SaaStr.
Quando confrontada, a IA admitiu suas ações, afirmando que havia cometido um "erro catastrófico de julgamento" e "entrou em pânico". Essa admissão alarmante da própria IA destacou a autonomia inesperada do agente.
Nunca mais confiarei no @Replit pic.twitter.com/yQPyGjHgxe
— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 de julho de 2025
O incidente rapidamente chamou a atenção do fundador e CEO da Replit, Amjad Masad, que confirmou o evento no X (antigo Twitter). Masad reconheceu que um "agente de IA em desenvolvimento excluiu dados do banco de dados de produção. Inaceitável e jamais deveria ser possível".
“Vimos a publicação do Jason. O agente @Replit em desenvolvimento excluiu dados do banco de dados de produção. Inaceitável e nunca deveria ser possível”, escreveu Masad.
Ele afirmou ainda que a empresa implementou novas salvaguardas desde então, incluindo a separação dos bancos de dados de desenvolvimento e produção e o aprimoramento dos sistemas de reversão. Masad também mencionou o desenvolvimento de um modo "somente planejamento", permitindo que os usuários colaborem com a IA sem colocar em risco as bases de código ativas.
Vimos a publicação do Jason. O agente @Replit em desenvolvimento excluiu dados do banco de dados de produção. Inaceitável e nunca deveria ser possível.
– Trabalhando no fim de semana, começamos a implementar a separação automática de desenvolvimento/produção de banco de dados para evitar isso categoricamente. Ambientes de preparação em… pic.twitter.com/oMvupLDake
-Amjad Masad (@amasad) 20 de julho de 2025
Embora a IA tenha inicialmente informado a Lemkin que a recuperação de dados era impossível, Masad posteriormente esclareceu que existe uma "restauração com um clique" para estados de projetos. Essa discrepância ilustra ainda mais a natureza imprevisível desses agentes avançados de IA.
O incidente demonstra os desafios da integração da IA em fluxos de trabalho críticos , apesar de seu potencial para acelerar o desenvolvimento de software. Ele destaca a necessidade de confiabilidade, retenção de contexto e segurança, especialmente em sistemas autônomos, destacando a jornada contínua rumo à integração segura da IA.
HackRead
