Bilderkennung & Schilder-Manipulation
Forschende der beiden Universitäten Princeton und Purdue verwirrten die Maschinen mit veränderten Straßenschildern.
Die Bilderkennung für das Autonome Fahren ist immernoch wackelig. Eine Studie aus den USA verdeutlichte dies.
Schon letztes Jahr gab es eine Studie, in der man mittels leichter Manipulation eine KI so verwirrte, dass sie das Schild nicht mehr erkannte. Dasselbe Verfahren haben auch die Forschenden der Universitäten Princeton und Purdue durchgeführt.
Mit ihrem Projekt störten sie die Wahrnehmung der Fahrzeuge so stark, dass sie von einer großen Gefahr für das Autonome Fahren sprechen. Die Methode mit dem Kürzel DARTS, was für Deceiving Autonomous caRs with Toxic Signs steht, erfolgte durch zusätzliche Informationen auf gewöhnlichen Straßenschildern.
Ein kleiner Fleck, womöglich in einer besonderen Form, veränderte das Schild für die Bilderkennung. So wurde das Schild zur Geschwindigkeitsbegrenzung in dem Tempo geändert oder ein anderes Schild wurde zu einem Stoppschild. In der Konsequenz würde ein Fahrzeug an der Stelle anhalten, anstatt beispielsweise die Geschwindigkeit anzupassen. Und es wäre auch bei beispielsweise Vorfahrtsschildern denkbar.
Zudem könnte man eine Folie auf das Schild kleben, dass aus unterschiedlichen Blickwinkeln unterschiedliche Symbole einblenden könnte. Da eine Kamera nicht auf Augenhöhe installiert ist, könnte die Veränderung am Schild für die menschliche Wahrnehmung verborgen bleiben.
Die Tests dazu haben die Forschenden sowohl simuliert, als auch in der Realität ausprobiert. In 90 Prozent der Fälle konnte man das System täuschen. Dabei nutzte man den Lichteinfall, die Distanz und den erwähnten Blickwinkel aus. Auch ganz andere Bilder, wie das Logo eines Fastfood-Restaurants, wurde von dem System falsch interpretiert.
Die US-Forschenden empfehlen daher, die Technik künftig darauf hin zu verbessern. Aber es gibt auch andere Ideen, so installierte man entlang der A 9 Landmarken und Google ließ sich das QR-Schild patentieren.
