Vom Xerox-Bug zum KI-Agenten: Wie Maschinen still und leise Daten verändern
KI-generiert mit Sora
KI-Agenten verändern Daten in Dateisystemen, Datenbanken und Code-Repositories, ohne dass Nutzer es sofort bemerken. Dieses Muster deckte der Informatiker David Kriesel bereits 2013 bei Xerox-Kopierern auf. Der Science-Fiction-Autor Ted Chiang übertrug das Prinzip 2023 auf Sprachmodelle. Drei Jahre später zeigt sich: Das Problem ist nicht gelöst. Es ist eskaliert.
- Wie fälschte ein Kopierer acht Jahre lang Dokumente?
- Warum beschreibt ein Sci-Fi-Autor ChatGPT als unscharfes JPEG?
- Was passiert, wenn die Unschärfe Schreibzugriff bekommt?
- Wie löschte ein KI-Assistent eine Produktionsdatenbank?
- Wie vernichtete Gemini CLI Nutzerdateien?
- Was ist halluzinierter Fortschritt?
- Warum entdeckt niemand die Veränderungen rechtzeitig?
- Gibt es einen Patch für KI-Agenten?
- Was verbindet den Xerox-Bug, ChatGPT und KI-Agenten?
- Häufige Fragen
- Was ist verlustbehaftete Kompression bei KI-Agenten?
- Welche dokumentierten Vorfälle gibt es mit KI-Agenten und Datenverlust?
- Wie können Unternehmen sich vor stiller Datenveränderung durch KI-Agenten schützen?
David Kriesel deckte 2013 auf, dass Xerox-Kopierer jahrelang Zahlen in Dokumenten fälschten. Ted Chiang übertrug das Prinzip auf Sprachmodelle und beschrieb sie als verlustbehaftete Kompression. 2026 operieren KI-Agenten mit Schreibzugriff auf die Infrastruktur – 91 % der Unternehmen entdecken erst nachträglich, was ein Agent getan hat.
Wie fälschte ein Kopierer acht Jahre lang Dokumente?
2013 bemerkten Mitarbeiter einer deutschen Baufirma einen Fehler in kopierten Bauplänen. Drei Räume waren im Original mit unterschiedlichen Flächen beschriftet: 14,13 m² sowie 21,11 m² und 17,42 m². Auf der Kopie stand bei allen drei Räumen dieselbe Zahl: 14,13 m². Die Firma kontaktierte den Bonner Informatiker David Kriesel.
Kriesel fand die Ursache in der Bildkompression des Xerox-Kopierers. Das Gerät verwendete das Format JBIG2, eine verlustbehaftete Kompression für Schwarzweißbilder. Der Algorithmus zerlegte gescannte Seiten in kleine Bildsegmente und gruppierte ähnlich aussehende Bereiche. Für jede Gruppe speicherte JBIG2 nur einen Repräsentanten und setzte diesen beim Drucken für alle Gruppenmitglieder ein. Die Ziffern 6 und 8 sahen in kleiner Schrift ähnlich genug aus, dass der Algorithmus sie als identisch einstufte. Aus einer 6 wurde eine 8. Aus drei verschiedenen Flächenangaben wurde dreimal dieselbe.
Digitale Dateien lassen sich auf zwei Arten komprimieren. Bei verlustfreier Kompression bleibt jedes Bit erhalten. Die Originaldatei lässt sich exakt wiederherstellen. Bei verlustbehafteter Kompression gehen Informationen unwiederbringlich verloren. Das spart Speicherplatz, erzeugt aber Ungenauigkeiten. JPEG-Fotos nutzen dieses Verfahren: Bei starkem Zoom werden die verlorenen Details als Artefakte sichtbar. Solange die Abweichungen klein genug sind, fällt der Unterschied zum Original nicht auf.
Das war kein theoretisches Risiko. Kriesel dokumentierte den Bug auf Xerox-Geräten der WorkCentre- und ColorQube-Serien. Weltweit waren potenziell hunderttausende Geräte betroffen. Der Fehler existierte seit acht Jahren. Rechnungen, Baupläne und medizinische Dokumente waren potenziell betroffen. Die Kopien sahen korrekt aus. Nur wer die Zahlen las und mit dem Original verglich, konnte die Fälschung erkennen.
Xerox bestätigte das Problem erst nach öffentlichem Druck. In der ersten Stellungnahme behauptete der Konzern, der Fehler trete nur bei veränderten Kompressionseinstellungen auf. Kriesel widerlegte das: Er reproduzierte die Zahlenverfälschung auch mit den empfohlenen Werkseinstellungen. Xerox bestätigte daraufhin seine Ergebnisse und veröffentlichte 2014 einen Patch. Das Bundesamt für Sicherheit in der Informationstechnik riet im März 2015 von der Nutzung von JBIG2 für Archivierungszwecke ab.
Server, KI-Modelle und Recherche kosten Geld. ClawNews ist unabhängig — hilf mit, dass das so bleibt.
