Tesla hat in seinen Fahrzeugen neue Meldungen eingeführt, die Fahrern bei Müdigkeit oder Fahrspurabweichungen die Nutzung des „Full Self-Driving“ (FSD)-Systems vorschlagen. Diese Empfehlungen stehen im Widerspruch zu den Sicherheitshinweisen im Handbuch und lösen bei Experten Bedenken aus, da sie das Risiko von Unfällen erhöhen könnten.
Wichtige Punkte
- Tesla schlägt FSD-Nutzung bei Müdigkeit oder Fahrspurabweichungen vor.
- Experten sehen hierin einen Widerspruch zu den Sicherheitshinweisen.
- Das FSD-System erfordert ständige Aufmerksamkeit des Fahrers.
- Forschung zeigt, dass Menschen schlechte passive Überwacher von Systemen sind.
- Tesla sieht sich rechtlichen Herausforderungen und einer strategischen Neuausrichtung gegenüber.
Widersprüchliche Anweisungen im Fahrzeug
Seit der Einführung der Beta-Version von Teslas „Full Self-Driving“ (FSD) im Jahr 2020 betont das Unternehmen in seinem Handbuch, dass das System trotz seines Namens keine vollständige Autonomie bietet. Es ist ein Fahrerassistenzsystem, das zwar zahlreiche Fahrsituationen wie Anhalten an Ampeln, Spurwechsel und Lenken beherrscht, jedoch die ständige Aufmerksamkeit des Fahrers erfordert.
Das Handbuch warnt ausdrücklich: „Full Self-Driving (Überwacht) erfordert, dass Sie auf die Straße achten und jederzeit bereit sind, die Kontrolle zu übernehmen.“ Es fügt hinzu: „Die Nichtbeachtung dieser Anweisungen kann zu Schäden, schweren Verletzungen oder zum Tod führen.“
Faktencheck FSD
- Einführung: Beta-Version 2020
- Funktionen: Anhalten, Spurwechsel, Lenken, Bremsen
- Wesentliche Anforderung: Ständige Fahrerüberwachung
- Aktueller Status: Level 2 Fahrerassistenzsystem
Neue Meldungen im Fahrzeug
Jüngste Software-Updates haben jedoch neue Nachrichten auf den Bildschirmen der Tesla-Fahrzeuge eingeführt. Diese fordern Fahrer auf, FSD zu aktivieren, wenn sie Anzeichen von Müdigkeit zeigen oder unabsichtlich die Fahrspur verlassen. Ein Hacker entdeckte Anfang des Monats die Meldung „Fahrspurabweichung erkannt. Lassen Sie sich von FSD unterstützen, damit Sie konzentriert bleiben.“
Eine weitere Meldung lautet: „Müdigkeit erkannt. Bleiben Sie mit FSD konzentriert.“ Mehrere Fahrer haben online berichtet, ähnliche Nachrichten in ihren Fahrzeugen gesehen zu haben. Tesla hat Anfragen bezüglich dieser Meldungen nicht beantwortet.
Experten warnen vor Sicherheitsrisiken
Forschungsexperten sehen diese neuen Meldungen kritisch. Sie argumentieren, dass Momente der Unaufmerksamkeit oder Müdigkeit des Fahrers genau die Situationen sind, in denen sicherheitsorientierte Fahrerassistenzsysteme den Fahrer zur maximalen Konzentration auf die Straße auffordern sollten, anstatt ihn auf ein sich noch in der Entwicklung befindendes System zu verweisen.
„Diese Botschaft bringt die Fahrer in eine sehr schwierige Situation“, erklärt Alexandra Mueller, eine leitende Wissenschaftlerin am Insurance Institute for Highway Safety, die Fahrerassistenztechnologien untersucht. Sie ist der Ansicht, dass „Tesla im Grunde eine Reihe widersprüchlicher Anweisungen gibt.“
Das Problem der passiven Überwachung
Zahlreiche Studien zur Mensch-Computer-Interaktion zeigen, dass Menschen dazu neigen, schlechte passive Überwacher von Systemen zu sein, die größtenteils gut funktionieren, aber nicht perfekt sind. Menschen benötigen aktive Beteiligung, um engagiert zu bleiben.
In der Luftfahrt wird dies als „Out-of-the-Loop Performance Problem“ bezeichnet. Piloten, die sich auf vollständig automatisierte Systeme verlassen, können aufgrund von Selbstzufriedenheit nach längeren Betriebszeiten Fehlfunktionen nicht ausreichend überwachen. Dieser Mangel an aktiver Beteiligung, auch als Vigilance Decrement bekannt, kann die Fähigkeit beeinträchtigen, ein fehlerhaftes automatisiertes System zu verstehen und die Kontrolle wiederzuerlangen.
„Wenn man vermutet, dass der Fahrer müde wird, ihm noch mehr seiner physischen Beteiligung zu entziehen – das scheint extrem kontraproduktiv zu sein“, sagt Mueller.
Hintergrund: Überwachung und Engagement
Die menschliche Psychologie spielt eine entscheidende Rolle bei der Interaktion mit automatisierten Systemen. Wenn Systeme zu zuverlässig erscheinen, neigen Menschen dazu, weniger aufmerksam zu sein. Dies kann in kritischen Momenten zu Verzögerungen bei der Reaktion führen, wenn das System die Kontrolle an den Fahrer zurückgeben muss. Die Herausforderung besteht darin, ein Gleichgewicht zwischen Unterstützung und der Aufrechterhaltung der Fahreraufmerksamkeit zu finden.
Entwicklungen und Herausforderungen bei Tesla FSD
In den letzten Jahren hat Tesla Änderungen an seiner FSD-Technologie vorgenommen, um die Nutzung durch unaufmerksame Fahrer zu erschweren. Ab 2021 setzte der Automobilhersteller fahrzeuginterne Fahrerüberwachungskameras ein, um festzustellen, ob Fahrer während der FSD-Nutzung ausreichend aufmerksam waren. Eine Reihe von Warnungen informiert die Fahrer, wenn sie nicht auf die Straße schauen.
Tesla verwendet auch ein „Strike-System“, das einen Fahrer für eine Woche von der Nutzung des Fahrerassistenzsystems ausschließen kann, wenn er wiederholt nicht auf die Aufforderungen reagiert. Bryan Reimer, ein Wissenschaftler, der Fahrerassistenztechnologie am MIT's AgeLab erforscht, schreibt, dass Tesla „seine gesamten Fahrerunterstützungsfunktionen durch Software-Updates weiterentwickelt hat, um Probleme im Zusammenhang mit Unaufmerksamkeit und Ablenkung zu mildern.“ Er sieht die neuesten Meldungen jedoch als Rückschritt.
Rechtliche Auseinandersetzungen und Unternehmensstrategie
Die neuen FSD-Meldungen kommen zu einem kritischen Zeitpunkt für Tesla. Das Unternehmen wurde in den letzten Jahren wiederholt für angeblich defekte Produkte kritisiert. Im August befand eine Jury in Florida das Unternehmen teilweise verantwortlich für einen Unfall im Jahr 2019, bei dem eine 22-jährige Frau ums Leben kam. Der Unfall ereignete sich, als ein Tesla Model S-Fahrer eine ältere Version der Fahrerassistenzsoftware des Unternehmens, genannt Autopilot, nutzte. Die Jury sprach Tesla 243 Millionen Dollar an Gesamtschäden zu; das Unternehmen hat Berufung eingelegt.
Tesla erwartet zudem das Ergebnis einer Anhörung vor einem Verwaltungsgericht in Kalifornien, nachdem das staatliche Kraftfahrzeugamt dem Automobilhersteller vorgeworfen hatte, Kunden über seine beworbene Selbstfahrfähigkeit in die Irre geführt zu haben. Sollte der Richter gegen Tesla entscheiden, könnte das Unternehmen für 30 Tage das Recht verlieren, seine Elektrofahrzeuge in Kalifornien zu verkaufen und herzustellen – dem größten Markt und der produktivsten US-Montageanlage.
FSD und Elon Musks Vision
- Aktueller Preis: 8.000 USD oder 99 USD/Monat
- Musks Ziel: FSD (Unüberwacht) bis Ende des Jahres
- Robotaxi-Dienst: Kleiner, nur auf Einladung in Austin, Texas
- Langfristige Strategie: Dominanz in Robotik und autonomen Fahrzeugen
Gleichzeitig haben CEO Elon Musk und der Vorstand des Unternehmens FSD in den Mittelpunkt der Unternehmensstrategie gestellt. Diese Strategie setzt zunehmend auf die Dominanz in der Robotik und letztendlich auf autonome Fahrzeuge. Ein vorgeschlagenes Vergütungspaket für Musk in Höhe von einer Billion Dollar – über das die Aktionäre noch in diesem Jahr abstimmen werden – hängt unter anderem davon ab, dass der CEO über drei aufeinanderfolgende Monate durchschnittlich 10 Millionen FSD-Abonnements verkauft.
Musk hat versprochen, dass die Funktion bis Ende dieses Jahres zu einem wirklich autonomen System, dem FSD (Unüberwacht), werden wird. Auf einer Telefonkonferenz im April sagte er, dass die Funktion wahrscheinlich bis 2026 Abonnenten in „mehreren Städten“ zur Verfügung stehen würde, damit Fahrer „im Auto einschlafen und am Zielort aufwachen können.“ Musk ist jedoch dafür bekannt, solche Versprechen nicht immer einzuhalten.
Der Weg zur vollständigen Autonomie
Monate später startete Tesla einen kleinen Robotaxi-Dienst nur auf Einladung in Austin, Texas, mit Sicherheitsmonitoren auf den Beifahrersitzen. Der Dienst scheint nicht so schnell skaliert zu sein, wie Musk versprochen hatte. Im April sagte Musk, Tesla werde „vorsichtig mit der Einführung sein.“ Er betonte: „Bei Tesla sind wir absolut hartnäckig in Bezug auf die Sicherheit.“
Die Navigation zwischen echter Autonomie und fahrerüberwachten automatisierten Funktionen wird eine komplexe Aufgabe bleiben, sagt Greg Brannon, der die Automobiltechnik und Branchenbeziehungen für AAA leitet. Dies gelte nicht nur für Tesla: Die meisten Automobilhersteller bieten derzeit eine Form der „Level 2“-Fahrerassistenz an, die Lenkung und Geschwindigkeit eines Fahrzeugs steuern kann, aber vom Fahrer sorgfältig überwacht werden muss.
Level 2 Fahrerassistenz
Level 2 Systeme bieten teilautomatisierte Fahrfunktionen, die sowohl die Lenkung als auch die Geschwindigkeit des Fahrzeugs steuern können. Der Fahrer muss jedoch jederzeit bereit sein, die Kontrolle zu übernehmen und das System zu überwachen. Es ist kein autonomes Fahren.
„Die Herausforderung für Automobilhersteller besteht darin, dass, je besser die Level-2-Systeme werden, desto wahrscheinlicher ist es, dass Fahrer sich mit sekundären Aufgaben beschäftigen oder abgelenkt werden“, sagt Brannon. Es ist ein Balanceakt, und Menschen neigen leider dazu, „immer riskantere Verhaltensweisen an den Tag zu legen, in der Annahme, dass das Fahrzeug sie retten wird.“ In Wirklichkeit müssen die Automobilhersteller dies sicherstellen.