Londoner U-Bahn testet KI-Überwachung im Kampf gegen Schwarzfahrer

Tickets are purchased by people taking part in the annual ‘No Trousers On The Tube Day’ (No Pants Subway Ride) on the London Underground in central London on January 8, 2023. – 2023 sees the 12th annual No Trousers Tube Ride in London. The day is now marked in over 60 cities around the world. The idea behind ‘No Pants’ is that random passengers board a subway car at separate stops in the middle of winter, without wearing trousers. (Photo by JUSTIN TALLIS / AFP)

Das Verhalten tausender Menschen in einer Station der Londoner Metro wurde überwacht, um zu überprüfen, ob diese ein Verbrechen begehen oder sich in einer gefährlichen Situation befinden, wie aus Dokumenten hervorgeht, die dem Fachmedium “Wired” vorliegen. Zu diesem Zweck wurde Live-Videomaterial aus Überwachungskameras mit Machine-Learning-Technologien kombiniert. Analysiert wurde, ob Menschen aggressives Verhalten zeigen, Waffen tragen, auf die Gleise fallen – oder sich als Schwarzfahrer versuchen.

44.000 Warnmeldungen

Im Zeitraum von Oktober 2022 bis September 2023 sollen elf unterschiedliche Algorithmen zur Überwachung von Menschen in der Station Willesden Green, im Nordwesten der Stadt, eingesetzt worden sein. Erstmals wurde somit künstliche Intelligenz (KI) in London in Kombination mit Live-Videomaterial geschickt, um Hinweise an das Sicherheitspersonal zu schicken. Über 44.000 derartige Warnungen wurden in dem Zeitraum generiert, davon 19.000 in Echtzeit.

Die KI soll es ermöglicht haben, das Material der 20 Jahre alten Überwachungskameras in der Frequenz einer Zehntelsekunde zu überwachen und zu analysieren, wenn eine von elf als problematisch definierte Verhaltensweisen erkannt wird. Die Warnungen wurden anschließend auf iPads oder PCs ausgespielt. In 19.000 Fällen sei das Personal zum sofortigen Handeln aufgefordert worden, die restlichen 25.000 Fälle wurden den Dokumenten zufolge für analytische Zwecke aufgehoben.

Kritik von Datenschützern

Das Medium hat die zugespielten Dokumente Datenschützern vorgelegt, welche sich naturgemäß besorgt zeigen. Sie stellen die Genauigkeit der eingesetzten Systeme infrage und betonen, dass nicht klar sei, ob die Menschen ausreichend über diese Maßnahme informiert wurden. Kritik gibt es auch an den Trainingsdaten: Wie bringt man einer KI bei, aggressives Verhalten zu erkennen? Da entsprechendes Material rar ist, seien Menschen auch als aggressiv gekennzeichnet worden, wenn sie die Hände hoben.

In Zukunft könnten solche Systeme leicht weiter ausgebaut und zum Beispiel um Gesichtserkennung erweitert werden, um bestimmte Personen zu identifizieren, so die weitere Kritik. Im vorliegen Fall ist ursprünglich noch keine Gesichtserkennung zum Einsatz kommen, Gesichter wurden anonymisiert und die Daten nach 14 Tagen gelöscht. Nach sechs Monaten hat sich der Betreiber dem Medienbericht zufolge jedoch entschieden, die Anonymisierung aufzuheben und die Daten länger aufzubewahren.

Schwarzfahrer erfolgreich analysiert

Auf Anfrage auf Basis des britischen Informationsfreiheitsgesetzes heißt es vom Betreiber der Londoner Metro, dass man existierendes Material aus Überwachungskameras und KI-Algorithmen nutze, um das Personal mit Einblicken zu versorgen, sodass die Mitarbeiter schneller auf gefährliche Situationen reagieren können.

Auch Informationen über das Verhalten von Schwarzfahrern habe man erfolgreich analysieren können, dies sei in Einklang mit den eigenen Datenschutzbestimmungen. Schwarzfahren kostet den Betreiber der Londoner Metro bis zu 130 Millionen Pfund pro Jahr. Untersucht wurde hier, ob Menschen sich etwa unter geschlossenen Türen durchquetschen oder durch offene Tore gehen, ohne zu zahlen. Rund 26.000 der 44.000 Warnungen sollen sich auf Schwarzfahrer bezogen haben. (red, 9.2.2024)