Gericht entdeckt versteckte KI-Anweisungen in Akten

Ein Kläger in Connecticut hat in Gerichtsdokumenten nahezu unsichtbare Anweisungen für mögliche KI-Systeme versteckt. Das Gericht entdeckte die Texte wegen ungewöhnlicher Leerflächen und entzog ihm daraufhin das Recht zur elektronischen Einreichung.

Der selbstvertretende Kläger Matthew Elliott hatte die Inhalte in einer Schriftgröße von drei Punkt und in Weiß auf weißem Hintergrund platziert. Die Texte waren damit für menschliche Leser kaum wahrnehmbar, konnten aber im maschinenlesbaren Dokumenttext enthalten bleiben.

Nach Angaben zum Fall sollten mögliche KI-Systeme die eingereichten Argumente günstig behandeln. Eine frühere Ablehnung durch die Geschäftsstelle sollte demnach als Fehler bewertet werden. Richter Walter Spader Jr. stellte in einer 14-seitigen Entscheidung klar, dass die Gerichte in Connecticut keine KI zur Prüfung oder Entscheidung über Eingaben nutzen. Die versteckten Anweisungen hatten daher keinen Einfluss auf das Verfahren.

Der Richter bewertete den Versuch dennoch als unzulässige verdeckte Einflussnahme auf ein möglicherweise eingesetztes Hilfsmittel. Er verglich ihn mit dem Versuch, über einen automatisierten Vermittler heimlich mit Geschworenen zu kommunizieren.

Das Gericht hatte Elliott zuvor vor verstecktem Text gewarnt. In späteren Einreichungen fand sich laut Berichten erneut unsichtbarer Inhalt, darunter ein YouTube-Link und spöttische Kommentare. Elliott erklärte gegenüber 404 Media, die erste Einfügung sei ein Test auf eine mögliche KI-Auswertung gewesen; die späteren Inhalte bezeichnete er als unsichtbare Scherze.

Als Sanktion entzog das Gericht ihm die Möglichkeit, Unterlagen elektronisch einzureichen. Schriftsätze und Anlagen muss er nun persönlich und auf Papier bei der Geschäftsstelle abgeben. Elliott kritisierte die Maßnahme dem Bericht zufolge mit dem Hinweis, auch gescannte Papierdokumente könnten versteckten Text enthalten.

Spader betonte zugleich, dass KI beim Erstellen von Schriftsätzen hilfreich sein könne, besonders für Menschen ohne anwaltliche Vertretung. Problematisch sei die verdeckte Manipulation möglicher Verarbeitungssysteme. Außerdem warnte er, Sprachmodelle könnten fehlerhafte rechtliche Argumentationen überzeugend ausbauen, statt sie kritisch zu prüfen.

Der Richter verwies auf einen ähnlichen Fall in Brasilien. Dort sollen zwei Anwälte ebenfalls winzige weiße Schrift auf weißem Hintergrund eingesetzt haben. Das System des Gerichts erkannte und blockierte den versteckten Text vor der Verarbeitung.

Versteckte Prompt-Injection-Texte wurden auch außerhalb der Justiz bekannt. In wissenschaftlichen Vorabveröffentlichungen fanden sich nach früheren Recherchen unsichtbare Aufforderungen, etwa nur positive Bewertungen abzugeben. Der Fall in Connecticut zeigt, dass dieselbe Methode auch in formalen Verfahrensdokumenten auftauchen kann.