Ki-fehler mit fatalen folgen: frau fünf monate ins gefängnis – weil algorithmus sie verdächtigte

Ein algorithmus hat in den USA eine Frau fälschlicherweise für Bankbetrug verurteilt und zu fünf Monaten Haft verurteilt. Die Geschichte ist ein Albtraum – und ein deutliches Warnsignal für die zunehmende Abhängigkeit von künstlicher Intelligenz im Justizsystem.

Falsche verdächtigung: ki-system verurteilt frau zu haftstrafe

Angela Lipps aus Tennessee wurde von der Polizei wegen vier Bankbetrügereien in North Dakota verhaftet und inhaftiert. Der Auslöser: Ein Gesichtserkennungsalgorithmus.

Die Polizei analysierte Überwachungsaufnahmen von Banken mit einer Software, die Lipps mit dem mutmaßlichen Täter identifizierte. Ein Ermittler verglich dann das Führerscheinbild und Social-Media-Profile mit den Überwachungsbildern und kam zu dem Schluss, dass Lipps die Täterin sei.

Das Problem? Lipps war nie in North Dakota gewesen und hatte auch keinen Flug genommen. Die KI hatte sie fälschlicherweise als Verdächtige identifiziert. Die Behörden handelten, anstatt die Angaben der KI zu hinterfragen.

Die Folgen für Lipps waren verheerend. Sie verlor ihren Job, ihre Wohnung und ihren Hund. Die fünf Monate im Gefängnis haben ihr Leben zerstört. Sie befindet sich nun in einem Rechtsstreit, der das Potenzial hat, die Verantwortung von KI-Systemen und ihren Betreibern im Justizwesen neu zu definieren.

Dies ist nicht der Einzelfall. In den letzten fünf Jahren wurden in den USA bereits neun Menschen fälschlicherweise aufgrund von KI-Systemen inhaftiert. Die Technologie ist noch lange nicht ausgereift, und die Folgen von Fehlentscheidungen können dramatisch sein. Der Fall Lipps ist ein schmerzhafter Beweis dafür.

Die Technologie verspricht Effizienz, doch die menschliche Überprüfung ist unerlässlich. Sonst werden Algorithmen zur Instrumentalisierung von Menschen missbraucht.

Die Frage ist nicht, ob KI Fehler macht – sie macht sie. Die Frage ist, wer die Verantwortung trägt.