Mitarbeitende des IT-Sicherheitsunternehmens McAfee haben einen Tesla mit einem Stück Klebeband manipuliert.
Die Tesla-Fahrzeuge verfügen über eine nach vorne gerichtete Kamera von Mobileye, welche auch die Verkehrszeichen ausmacht. Eine Künstliche Intelligenz wertet die Daten aus und erkennt, dass ein Schild eine Geschwindigkeitsbegrenzung von beispielsweise 50 Stundenkilometern angibt.
Tesla Fahrzeug
Das durch das Antiviren-Programm bekannte Unternehmen McAfee hat diese Technologie mit einfachen Mitteln manipuliert. Damit wollte man potenzielle Sicherheitsprobleme und -mängel aufzeigen. Das Experiment mit Namen “Model Hacking” nutzt die Schwachstellen im Algorithmus aus.
Derart hat man in den USA ein Schild mit einem Klebeband und mit selbstklebenden Aufklebern bearbeitet und ein Geschwindigkeitsbegrenzungsschild mit 35 Meilen pro Stunde so verändert, dass man andere Zahlen erkennen konnte. Das Experiment wurde mit verschiedenen Winkeln, unterschiedlicher Beleuchtung und Reflexionen wiederholt, um den Fehler zu reproduzieren.
Konkret veränderte man das Schild so, dass das Auto von Tesla statt 35 die Zahl 85 erkannte. Tatsächlich beschleunigte der Wagen anschließend. Den Fehler konnte man auch öfter feststellen. Dann versuchte man, die Zahl der Klebestreifen zu reduzieren, um die Schwelle auszumachen, ab wann sich das Auto verwirren ließe.
Tesla und Mobileye wurden 90 Tage vor Veröffentlichung der Ergebnisse informiert, sodass sie den Fehler beheben konnten. Tesla gab an, dass man die Problematik in moderneren Modellen behoben hätte. Letztlich, so der Hersteller, müsste der Mensch das System überwachen. Mobileye sieht keinen Handlungsbedarf. Das israelische Unternehmen, das zu Intel gehört, wies den Fehler dem Assistenzsystem zu.
Die EyeQ3-Kamera von Mobileye nutzen beispielsweise auch die Hersteller Audi, BMW, General Motors, Nissan und Volvo.
Es ist nicht das erste Mal, dass jemand die Tesla-Technik verwirren konnte. Zu Beginn des Monats gelang dies Forschenden aus Israel.