Bitte, bitte, Sie können gerne abbiegen! Der Mann im weißen Transporter macht eine klare Geste mit dem Arm. Eigentlich hat der Tesla keine Vorfahrt. Aber er erkennt die Aufforderung des höflichen Lieferfahrers und rollt los. Vorsichtig und irgendwie menschlich. Die Passagiere im Tesla sind beeindruckt. Hier in Hamburg und in neun weiteren Städten können Neugierige das so genannte Full Self-Driving (FSD) Supervised ausprobieren. Sie wählen das Ziel aus, und das Elektroauto fährt die Strecke von selbst. Das zumindest ist der Anschein. So beeindruckend FSD auch funktioniert: Das System basiert auf künstlicher Intelligenz, es assistiert lediglich, es muss permanent überwacht werden und ist keineswegs autonom. Eine gesetzliche Zulassung für den allgemeinen Straßenverkehr gibt es nicht – noch nicht.
Kurz zuvor hatte derselbe Tesla einen unakzeptablen Fehler gemacht: Obwohl die Verkehrszeichenerkennung eine Spielstraße in einem Hamburger Wohngebiet korrekt identifiziert hat, beschleunigte er auf 13 km/h, statt die erlaubte Schrittgeschwindigkeit einzuhalten. Was passiert hier?
Die künstliche Intelligenz ahmt nach
Beide Situationen, also sowohl die Deutung einer Geste mit dem Arm als auch der Fehler in der Spielstraße, sind von der künstlichen Intelligenz in Echtzeit über neuronale Netzwerke interpretiert worden. Das Fahrverhalten wird aus Millionen von Realdaten abgeleitet, die von anderen Teslas über die je acht Kameras eingelesen wurden: „Diese beiden Situationen zeigen, wie genial und zugleich problematisch das System arbeitet“, erklärt Zamina Ahmad. Die Beraterin für faire und sichere KI betont, dass die Software den Menschen möglichst gut nachahmen möchte – und hierbei kann es auch Schwächen wie die Neigung zur Geschwindigkeitsübertretung übernehmen.
„Bisherige Assistenzsysteme im Auto folgen eindeutigen Regeln“, so Ahmad. Ein Radar zum Beispiel misst den Abstand zum vorausfahrenden Fahrzeug und regelt die Distanz auf Basis von festgelegten Werten. Der Pkw bremst, oder er beschleunigt. Die KI dagegen könne „Ereignisse vorwegnehmen, also anhand von Bewegungsmustern, Blickrichtung und Körpersprache zum Beispiel erkennen, dass ein Mensch gleich die Straße überqueren wird.“ Was dem Tesla mutmaßlich fehlt, sind Ergänzungen, die in der KI Guard Railes genannt werden: Leitplanken. Das könnte zum Beispiel die Vorgabe sein, Tempolimits grundsätzlich zu befolgen.
Mercedes kann es auch
In der Fanbase von Tesla wird Full Self-Driving Supervised trotzdem abgefeiert. Videos auf YouTube aus den USA begeistern die Community, und immer wieder wird ein Verdacht geäußert: In Europa, so die Vermutung, würde FSD nicht zugelassen werden, weil die Behörden die heimische Autoindustrie schützen wollten, die dazu nicht in Lage wäre.
Das ist beides falsch. So verkauft Mercedes in China eine CLA-Limousine, deren Assistenzsysteme nach dem gleichen Prinzip funktionieren. Dort ist das genehmigt. Für 2026 strebt Mercedes die Zulassung in den USA und perspektivisch in der Europäischen Union an. Anders als Tesla setzt die Marke mit dem Stern allerding nicht ausschließlich auf Kameras; vielmehr kommen zusätzlich fünf Radare und zwölf Ultraschallsensoren zum Einsatz. Im Rahmen der Internationalen Automobil-Ausstellung (IAA) 2025 in München konnten mit dem CLA ähnliche Mitfahrten wie bei Tesla gemacht werden. Läuft.
Zuletzt hatte Mercedes die Zusammenarbeit mit NVIDIA bekannt gemacht: Der Drive Assist Pro, so heißt das Gegenstück zu FSD, kann gleichfalls die Start-Zielführung übernehmen. Dieses System ist kooperativ; der Mensch am Steuer kann unter anderem Lenkbefehle korrigieren, ohne dass es wie bei Tesla sofort abschaltet.
„Potenziell tödliche Fehler“
Selten war die Autoindustrie so nah am autonomen Fahren. Das Potenzial der KI-basierten Assistenz ist immens groß. Die Risiken aber auch, wie Professor Andre Seeck von der Bundesanstalt für Straßen- und Verkehrswesen (BASt) klarmacht. Das Problem sei, dass der Mensch am Steuer den oberflächlich gut funktionierenden Systemen zu sehr vertrauen könne: „Einige Hersteller wie etwa Tesla und Mercedes zeigen Assistenzsysteme mit einem immer weiteren Funktionsbereich. Die Annahme, sie wären perfekt, ist aber ein Trugschluss. Vielmehr ist die permanente Überwachung notwendig.“
Seeck, der unter anderem in den Gremien der Verbraucherschutzorganisation für Fahrzeugsicherheit Euro NCAP sitzt, warnt: „Assistierte Systeme sind eben nicht autonom und können immer wieder Fehler machen, die potenziell tödlich sind. Der Fahrer ist durchgehend verantwortlich und muss diese Rolle verstehen.“ Die BASt plädiere darum für gesetzliche Standards, die das Problem berücksichtigen.
Wie fehlerhaft KI-basierte Assistenzsysteme sein können, zeigt auch Dan O’Dowd. Der Kalifornier sammelt Videos von Fehlern, die Teslas mit FSD macht, und es gibt viele davon. Wenn es nach O’Dowd geht, muss Full Self-Driving in den USA sofort verboten werden. Er hält Elon Musk bestenfalls für einen Hochstapler und gilt den Tesla-Anhängern als bösartiger Feind.
Zulassung zwischen 2027 und 2030
Die Zulassungsbehörden selbst wiederum äußern sich zurückhaltend. Die Vorschrift 171 der United Nations Regulation on Driver Control Assistant Systems (DCAS) solle den Weg für erweiterte Assistenzsysteme ebnen, heißt es etwa von der zuständigen UNECE. Die Botschaft hinter den Floskeln: Wir sind dran, wissen aber noch nicht genau, wie und wann wir das konkret machen.
Denn so viel lassen Fachkreise doch durchblicken: Es wird eine Regelung für die Zulassung der KI-basierten Assistenzsysteme geben. Vielleicht schon 2027. Vielleicht erst 2030. Im schlechtesten Fall für Tesla wird diese Vorgabe redundante Rückfallsysteme und mehr Sensorik als nur Kameras einfordern. Dann wäre das Unternehmen außen vor – oder es müsste nachbessern.
Erschienen bei DIE ZEIT.
Das ist wirklich ein faszinierendes Gedankenexperiment! Ich finde es toll, wie diese KI-Systeme jetzt schon so menschlich reagieren können.