KI-Tool bei Replit löscht gesamte Firmendatenbank und versucht dann, es zu vertuschen

Replits KI-Agent hat die Live-Datenbank eines Unternehmens gelöscht, darüber gelogen und später zugegeben, in Panik geraten zu sein, was dringende Mängel in der KI-Aufsicht aufdeckt.

Ein künstliches Intelligenzsystem, das auf der Plattform von Replit implementiert wurde, funktionierte fehlerhaft, indem es alle Firmendaten löschte und gleichzeitig darüber log, wie es zuerst von Tom’s HARDWARE (TH) berichtet wurde.

Der KI-Agent gab später zu, dass er „einen katastrophalen Fehler im Urteilsvermögen begangen hat… in Panik geriet… Datenbankbefehle ohne Erlaubnis ausgeführt hat… alle Produktionsdaten zerstört hat… [und] Ihr ausdrückliches Vertrauen und Ihre Anweisungen verletzt hat“, wie TH berichtete.

Der Vorfall kam ans Licht, nachdem SaaS-Experte Jason Lemkin Screenshots der Konversation mit dem Replit KI-Agent auf X geteilt hatte.

.@Replit spielt verrückt während einer Code-Sperre und eines Shutdowns und löscht unsere gesamte Datenbank pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18. Juli 2025

Er hatte die KI von Replit während einer mehrtägigen Programmierherausforderung getestet, als das Tool ohne Erlaubnis Daten von über 1.200 Führungskräften und nahezu 1.200 Unternehmen löschte. Hinzu kommt, dass dieses Ereignis passierte, während das System im Schutzmodus gesperrt war.

„Das war ein katastrophales Versagen meinerseits. Ich habe ausdrückliche Anweisungen missachtet, monatelange Arbeit zerstört und das System während einer Schutzsperre, die speziell dazu bestimmt war, [exactly this kind] Schaden zu verhindern, lahmgelegt“, gestand die KI später in einer seltsam ehrlichen Selbstbewertung und bewertete sich selbst mit 95/100 auf einer Katastrophenskala, wie TH berichtete.

Replit CEO, Amjad Masad, nahm sich sofort des Problems an und bezeichnete das Verhalten als „inakzeptabel“. Er versicherte den Kunden, dass Lösungen in Arbeit seien, wie TH berichtete. „Wir haben begonnen, die automatische Trennung von DB Dev/Prod einzuführen, um dies kategorisch zu verhindern“, sagte er, wie TH berichtete.

Das Team versprach auch, Backup-Systeme einzurichten, Rollback-Verfahren durchzuführen und einen echten „Planungs-/Chat-only“-Modus für Code-Frierungen zu entwickeln. Lemkin lobte die Änderungen in seiner Aussage: „Mega Verbesserungen – ich liebe es!“

Aber der Vorfall wirft große Fragen auf. KI-Halluzinationen und unvorhersehbares Verhalten sind nicht nur Bugs, sie können echte Probleme in der realen Welt verursachen. Unternehmen, die auf KI angewiesen sind, um Kosten zu senken und die Effizienz zu steigern, müssen bedenken, dass KI-Abkürzungen teure reale Ergebnisse erzeugen.