Am Dienstag legte ein massiver Systemausfall Baidus autonome Robotaxi-Flotte in Wuhan lahm – über 100 fahrerlose Fahrzeuge blieben mitten im Stadtverkehr stehen. Der Vorfall wirft grundlegende Fragen zur Resilienz KI-gesteuerter Systeme auf.
Baidus Robotaxis fallen massenhaft aus – mindestens 100 Fahrzeuge blockieren Wuhan
Mehrere hundert fahrerlose Taxis des chinesischen Technologiekonzerns Baidu sind am Dienstag in der Millionenstadt Wuhan gleichzeitig ausgefallen. Die Fahrzeuge blieben mitten im fließenden Verkehr stehen, Fahrgäste saßen zeitweise eingeschlossen, und mindestens ein Unfall wurde durch den blockierten Verkehrsfluss verursacht.
Systemausfall auf breiter Front
Die Polizei Wuhan bestätigte den Eingang mehrerer Meldungen über stehende Apollo-Go-Fahrzeuge, die sich nicht mehr aus eigener Kraft bewegen konnten. Nach bisherigem Ermittlungsstand liegt ein nicht näher spezifizierter „Systemfehler” vor. Verletzte wurden nach Polizeiangaben nicht gemeldet. Berichte lokaler Medien, auf die Reuters sich beruft, sprechen von mindestens 100 betroffenen Fahrzeugen. Baidu hat sich bislang nicht zu dem Vorfall geäußert.
Wuhan gilt als einer der wichtigsten Testmärkte für Baidus Robotaxi-Programm. Der Konzern hat dort nach eigenen Angaben mehr als 500 fahrerlose Fahrzeuge im Einsatz. Insgesamt betreibt Baidu Apollo-Go-Dienste in 26 Städten weltweit – darunter in London und Dubai in Kooperation mit Uber.
Sicherheitsdebatte neu entfacht
Der Vorfall befeuert eine in China seit längerem schwelende Diskussion über die Zuverlässigkeit autonomer Fahrsysteme. Das Land gehört weltweit zu den aktivsten Märkten für selbstfahrende Fahrzeuge – sowohl hinsichtlich der regulatorischen Offenheit als auch der tatsächlichen Flottengröße.
Ein einzelnes Fahrzeug versagte nicht – eine signifikante Anzahl versagte gleichzeitig. Das deutet auf ein zentralisiertes Steuerungs- oder Update-Problem hin.
Ob ein fehlerhaftes Software-Update, ein Verbindungsausfall zu einem Backend-System oder ein Fehler in der Dateninfrastruktur ursächlich war, ist noch unklar. Das spezifische Risikoprofil des Ausfalls legt jedoch nahe, dass die Gleichzeitigkeit kein Zufall war.
Relevanz für KI in kritischen Systemen
Dieser Vorfall illustriert ein strukturelles Problem beim Einsatz KI-gesteuerter Systeme in sicherheitskritischen Umgebungen:
Ein einzelner Fehlerpunkt – sei es in der Modellinferenz, der Systemkommunikation oder der Datenpipeline – kann in vernetzten Flotten kaskadenartige Ausfälle auslösen.
Im Fall der Robotaxis fehlte offenbar eine zuverlässige Absicherung, die betroffene Fahrzeuge in einen sicheren Zustand überführt hätte, statt sie im Verkehr einfrieren zu lassen. Für Unternehmen, die KI-Systeme in operativen Prozessen einsetzen, stellt sich damit eine grundlegende Architekturfrage: Wie resilient sind die Fallback-Mechanismen, wenn das KI-System versagt?
Einordnung für deutsche Unternehmen
Für Unternehmen hierzulande, die KI-gestützte Automatisierung in Logistik, Produktion oder Infrastruktur evaluieren, liefert der Wuhan-Vorfall konkrete Hinweise auf notwendige Due-Diligence-Kriterien:
- Systemausfälle müssen von vornherein als Szenario eingeplant werden
- Definierte Fallback-Verhalten und manuelle Übernahmeoptionen sind unverzichtbar
- Klare Haftungsregelungen müssen vertraglich verankert sein
Die EU-KI-Verordnung klassifiziert autonome Fahrsysteme als Hochrisiko-KI. Ähnliche Sorgfaltspflichten dürften zunehmend auch für andere kritische Anwendungsbereiche relevant werden, sobald die Regulierung vollständig greift.
Quelle: The Verge AI
