In Berlin und Mannheim nutzt die Polizei künstliche Intelligenz zur Analyse von Verhalten im öffentlichen Raum. Aufgrund mangelnder echter Gewaltbeispiele werden die Systeme mit inszenierten Kämpfen und KI-generierten Videos trainiert, was zu Erkennungsfehlern und Diskriminierung führen kann.
Auf dem Kottbusser Tor in Berlin sind 30 Kameras installiert, die menschliches Verhalten mit Hilfe von künstlicher Intelligenz analysieren. Das System soll potenzielle Verbrechen automatisch erkennen. Zur Schulung der Software nutzen Entwickler Videoaufnahmen, in denen gekennzeichnet ist, welches Verhalten als normal gilt und welches Alarm auslösen soll. Hauptproblem bei der Schulung des Systems: An öffentlichen Orten gibt es nicht genug echte Beispiele von Gewalt. Deshalb hat die Polizei in Mannheim bereits 2000 inszenierte Kämpfe zur Softwareschulung durchgeführt und plant weitere 8000. Diese Videos sind als "Verschlusssachen" (Verschlusssachen) klassifiziert und unterliegen der Geheimhaltung. Berlin hat einen anderen Weg gewählt: Statt inszenierter Kämpfe werden von künstlicher Intelligenz generierte Videos verwendet. Das Softwareunternehmen Staige behauptet, dass dies den Trainingsdatensatz erweitern kann, ohne lokale Daten zu nutzen und Datenschutzanforderungen zu erfüllen. Der Informatikprofessor Heiko Paulheim aus Mannheim weist auf die Risiken dieses Ansatzes hin. Wenn die Trainingsdaten nicht authentisch sind, sinkt die Qualität des Systems. Software, die auf generierten Videos trainiert wurde, kann Verzerrungen reproduzieren: Überfluss an dynamischen Szenen, Bevorzugung junger Menschen, Stereotype. Dies führt zu zwei Arten von Fehlern: Das System erkennt echte Probleme nicht (zum Beispiel einen Handtaschenraub bei einer älteren Frau) oder löst falsch Alarm bei harmlosem Verhalten aus (eine Person in einer Kapuze joggt einfach). Darüber hinaus wird das Berliner System ständig anhand der Bewegungen von Menschen auf dem Kottbusser Tor trainiert. Polizisten kennzeichnen, ob jeder Alarm berechtigt war, und diese Daten werden zur weiteren Optimierung verwendet. Menschliche Bewegungen sind so einzigartig wie ein Fingerabdruck. Im Dezember 2024 genehmigte die Berliner Regierung das Training von Verhaltensanalysesoftware mit persönlichen Daten und die Weitergabe dieser Daten an Softwarehersteller. Quelle: https://netzpolitik.org/2026/trainingsvideos-fuer-verhaltensanalyse-fuer-die-ueberwachungs-ki-gibt-es-nie-genug-gewalt/