Robotaxi-Rückrufe: Software-Fehler bremsen Marktreife autonomer Fahrzeuge

Zwei Rückrufe innerhalb weniger Tage zeigen, wie anfällig die Softwaresysteme kommerzieller Robotaxi-Flotten noch sind. Amazons Tochter Zoox ruft 105 fahrerlose Fahrzeuge zurück, nachdem eines der Autos am 20. Juni in die Rauchschwaden einer aktiven Brandstelle in Las Vegas gefahren war. Nur wenige Tage zuvor, am 27. Juni, hatte Waymo einen Rückruf von 3.871 Fahrzeugen der fünften Generation angekündigt, weil diese trotz erlaubter Geschwindigkeit in gesperrte Autobahnbaustellen einfuhren.

Muster erkennbarer Schwachstellen

Die beiden Vorfälle stehen exemplarisch für ein grundsätzliches Problem: Die Umgebungserkennung bleibt die Achillesferse autonomer Systeme. Bei Zoox konnte die Software Rauch offenbar nicht korrekt als Gefahrenzone einordnen. Bei Waymo lag der Fehler in der Erkennung von Baustellensperrungen. Nach Angaben zur Fehleranalyse erkannten die Fahrzeuge Sperrschilder an Auffahrten nicht oder priorisierten andere Ausweichmanöver. Allein zwischen April und Mai 2026 registrierte Waymo 13 solcher Vorfälle in Baustellen-Sperrungen.

Der Zoox-Zwischenfall ist bereits der vierte freiwillige Rückruf des Unternehmens seit März 2025, während Waymo mit dem aktuellen Fall bereits den sechsten Rückruf seiner Firmengeschichte verzeichnet, den zweiten innerhalb eines Monats. Das Unternehmen selbst verweist auf seine Sicherheitsbilanz: Bis März 2026 legte die Flotte 354 Millionen Kilometer zurück, mit einer laut eigenen Angaben um 94 Prozent geringeren Rate schwerer oder tödlicher Unfälle im Vergleich zu menschlichen Fahrern. Die Häufung der Rückrufe zeigt jedoch, dass Größe und Kilometerleistung einer Flotte nicht automatisch vor Edge-Case-Fehlern schützen.

Regulierung zieht nach

Die US-Aufsichtsbehörde NHTSA reagiert zunehmend deutlich. Administrator Jonathan Morrison warnte Entwickler vor einem wiederkehrenden Muster, bei dem autonome Fahrzeuge Rettungskräfte bei Einsätzen behindern, ein klarer Muster fahrerloser AVs, die mit Polizeibehörden und anderen Rettungskräften interferieren, wie er es formulierte. Die Behörde arbeitet an verbindlichen Kompetenzstandards für autonome Fahrzeugsysteme, die bis Ende 2026 vorliegen sollen.

Auch außerhalb der USA sorgen Softwareprobleme für Aufsehen: In Wuhan blieben am 31. März 2026 mehr als 100 Robotaxis des Baidu-Dienstes Apollo Go mitten im Verkehr stehen, mit eingeschlossenen Passagieren an Bord. Die Häufung solcher Vorfälle verdeutlicht, dass die Branche insgesamt mit denselben grundsätzlichen Herausforderungen kämpft, unabhängig vom jeweiligen Anbieter oder Markt.

Haftung und offene Fragen

Juristisch verschärft sich die Lage zusätzlich: Ab Dezember 2026 gilt in der EU eine neue Produkthaftungsrichtlinie, nach der Software, KI-Komponenten und fehlende Updates als haftungsrelevante Produktfehler gewertet werden können. Das erhöht den Druck auf Entwickler, ihre Over-the-Air-Update-Strategien rechtlich wie technisch abzusichern. Grundlagenforschung, etwa an der Universität Magdeburg, unterstreicht dabei einen zentralen Punkt: Autonomes Fahren wird nur dann akzeptiert, wenn Systeme ihre eigenen Grenzen erkennen, etwa bei eingeschränkter Sensorik durch Regen oder Nebel, und in solchen Fällen selbstständig bremsen. Wie zuverlässig KI-Systeme ihre eigenen Unsicherheiten tatsächlich erkennen und offenlegen, ist auch außerhalb der Automobilbranche ein zentrales Forschungsfeld, wie etwa Untersuchungen zu Täuschungsverhalten bei Sprachmodellen zeigen.

Offen bleibt, wie viele weitere Rückrufe die Branche und Regulierer noch als Teil einer normalen Entwicklungsphase akzeptieren, bevor Genehmigungen für den kommerziellen Betrieb verweigert werden. Ebenso ungeklärt ist, ob Software-Updates allein ausreichen, um sämtliche Kategorien von Edge Cases abzudecken, oder ob tiefere Flottenmodernisierungen nötig werden. Zoox betreibt seinen kommerziellen Dienst mit fahrerlosen Fahrzeugen ohne Lenkrad und Pedale bereits in Las Vegas, San Francisco, Miami und Austin, was die Frage nach zuverlässiger Software noch dringlicher macht.