Forschende der Universität Tübingen und des Max-Planck-Instituts können die KI beim Autonomen Fahren mit Mustern durcheinanderbringen.
Das Autonome Fahren gelingt vor allem durch eine KI, die die Umwelt wahrnimmt und die Wegführung vornimmt. Doch diese KIs können manipuliert werden. Dies gelang schon des Öfteren. So haben Forschende der Universitäten Princeton und Purdue mit veränderten Schilder Verwirrung gestiftet.
Einen sehr ähnlichen Ansatz verfolgten die Forschenden der Universität Tübingen und des Max-Planck-Instituts. Schon kleinste Veränderungen, wie ein Sticker auf einem Straßenschild, führten dazu, dass die KI falsch lag und es fortan keine verlässliche Objekterkennung mehr gab. So soll sich die Fahrtrichtung von Bussen oder Fahrrädern plötzlich geändert haben.
Die KIs erkennen, anders als Menschen, kleinste Veränderungen und dennoch reagieren sie nur auf das Gelernte. Sie wissen aber nicht um deren Bedeutung und so können kleinste Muster, eine gewaltige Wirkung auf die Wahrnehmung der KI haben.
Die Forschenden positionierten die kleinen Aufkleber irgendwo am Straßenrand und konnten den Effekt reproduzieren. Das angebrachte Muster machte sogar nur ein Prozent des sichtbaren Felds aus und dennoch führte es dazu, dass Verkehrsszenarien falsch eingeschätzt wurden. Wurde das Muster an der Heckscheibe eines anderen Autos angebracht, verursachte das eine längere Irritation der KI.
Die Erkennung von Straßenschildern gibt es schon in vielen Fahrzeugen und hilft dem Menschen bei der Vielzahl an Hinweisen den Durchblick zu behalten. Doch für das Autonome Fahren braucht es wohl eine andere Hilfestellung. Schon vor Jahren hat Google dafür den QR-Code ins Auge gefasst und entlang der A 9 gibt es ebenfalls spezielle Landmarken.
Außerdem sollten die Daten in einer Karte hinterlegt werden, sodass eine derartige Manipulation nicht vorkommen kann. Dafür hat Inrix die AV Road Rules entwickelt, wo Verkehrsregeln auf den Streckenabschnitten eingestellt sind.
Allerdings gibt es auch bei der KI-Analyse robustere Vorgehensweisen. Dazu zählt beispielsweise die Spatial-Pyramid-Architektur, die verschiedene Auflösungsraten für die Interpretation vornehmen. Aber auch diese Variation könnte in Zukunft manipuliert werden.
Das Start-up Neurocat aus Berlin hat sich dieser KI-Störung gewidmet und sieht noch ein großes Verbesserungspotenzial.