Waymos Innen‑KI im Robotaxi entdeckt 3‑D‑gedrucktes Sturmgewehr, hält Fahrzeug an und führt zu Verhaftungen von Teenagern in San Francisco

Am 3. September 2024 gegen 04:00 Uhr erkannte ein Waymo‑Robotaxi, das in San Francisco unterwegs war, ein geladenes 3‑D‑gedrucktes Sturmgewehr im Fahrzeuginneren und brachte das Auto zum Anhalten am Straßenrand. Das Innenkamerasystem, das Waymo zur Compliance‑Überwachung einsetzt, meldete die Waffe als Verstoß gegen die Nutzungsbedingungen, alarmierte automatisch die Polizei und die beiden jugendlichen Passagiere wurden kurz darauf verhaftet.^heise

Zeitlinie des Vorfalls und Fakten

Die KI‑gesteuerten Innenkameras des Fahrzeugs identifizierten die Waffe, klassifizierten sie als illegales „Ghost“-Sturmgewehr – eine mit einem 3‑D‑Drucker hergestellte Feuerwaffe ohne Seriennummer – und lösten das Sicherheitsprotokoll des Robotaxis aus. Das Auto fuhr auf den Seitenstreifen, und ein Polizeibeamter führte einen Verkehrskontrollstopp durch, den das San Francisco Police Department als „high‑risk traffic control“ (hochriskante Verkehrssteuerung) bezeichnete.^heise Die Beamten beschlagnahmten das geladene Gewehr sowie während der Durchsuchung gefundene Marihuana und Pfefferspray.^heise Beide Passagiere, im Bericht als männlicher und weiblicher Teenager identifiziert, wurden in Gewahrsam genommen.

Waymos Innenüberwachungssystem

Waymo‑Robotaxis sind mit Innenkameras ausgestattet, die zwei Zwecke erfüllen: die Sicherheit der Passagiere und die Einhaltung der Unternehmens‑Nutzungsrichtlinien. Das System betreibt KI‑Modelle, die verbotene Gegenstände, einschließlich Feuerwaffen, in Echtzeit erkennen können. Wird ein Verstoß festgestellt, ist das Fahrzeug programmiert, anzuhalten und die Behörden zu alarmieren.^heise In diesem Fall identifizierte die KI korrekt ein 3‑D‑gedrucktes Sturmgewehr – eine Waffenart, die die US‑Regierung seit 2022 ins Visier nimmt, weil sie nicht über Seriennummern nachverfolgbar ist.^heise

Waymo bestätigte, dass das Anhalten durch eine „Verletzung unserer Nutzungsbedingungen im Zusammenhang mit einer Feuerwaffe“ verursacht wurde und dass die Innenkamera‑KI den Alarm ausgelöst hat.^heise Das Unternehmen hat zuvor erklärt, dass die Innenüberwachung dazu dient, Passagiere, Mitarbeitende und die Öffentlichkeit zu schützen, hat jedoch keine detaillierten Leistungskennzahlen für das Waffen‑Erkennungs‑Modell veröffentlicht.

Auswirkungen auf Sicherheit, Regulierung und Datenschutz

Der Vorfall zeigt das praktische Sicherheitspotenzial von KI‑gestützter Überwachung in autonomen Flotten. Durch das automatische Erkennen eines gefährlichen Gegenstands und die Einbindung der Strafverfolgungsbehörden kann Waymos System Vorfälle verhindern, die sonst auf menschliche Beobachtung angewiesen wären. Für Regulierungsbehörden liefert der Fall einen konkreten Datenpunkt, während sie Anforderungen an die Onboard‑Überwachung in fahrerlosen Fahrzeugen prüfen.

Gleichzeitig wirft der Einsatz von Innenkameras Datenschutzbedenken auf. Die Kameras zeichnen den Passagierbereich kontinuierlich auf, und die KI analysiert die Bilddaten in Echtzeit. Während Waymos Richtlinie besagt, dass Aufnahmen nur für Sicherheitsuntersuchungen aufbewahrt werden, zeigt der Vorfall, dass die Technologie zur Durchsetzung gesetzlicher Vorgaben über die Verkehrssicherheit hinaus eingesetzt werden kann. Das Gleichgewicht zwischen öffentlicher Sicherheit und Passagier‑Privatsphäre wird voraussichtlich ein zentraler Punkt zukünftiger Politikdiskussionen werden.

Waymos Flotte expandiert rasch – das Unternehmen hat kürzlich Dienste in Las Vegas gestartet und Pläne angekündigt, 2027 in München mit dem Betrieb zu beginnen.^Wikidata Das Unternehmen beschäftigt etwa 2.500 Mitarbeitende und hat seinen Hauptsitz in Mountain View, Kalifornien.^Wikidata Mit dem Wachstum der Flotte könnte die Häufigkeit von Innenkamera‑Warnungen zunehmen, was sowohl betriebliche Verfeinerungen als auch regulatorische Prüfungen nach sich ziehen wird.

Unbekannt bleibt die Fehlalarm‑Rate des Waffen‑Erkennungs‑Modells und wie oft Innenkameras harmlose Gegenstände markieren. Waymo hat keine Statistiken über die seit dem Rollout des Systems erzeugten Warnungen veröffentlicht, noch über den Anteil, der zu Polizeieinsätzen führt. Die öffentlichen Aussagen des Unternehmens bestätigen, dass die Technologie in diesem Fall funktioniert, doch weitere Daten wären nötig, um ihre Gesamtzuverlässigkeit und den Einfluss auf das Passagiererlebnis zu bewerten.

Vorerst bleibt der Vorfall in San Francisco ein seltenes, verifiziertes Beispiel dafür, dass das KI‑System eines autonomen Fahrzeugs bei einem potenziellen Waffenverstoß eingreift. Er unterstreicht die doppelte Rolle dieser Technologie – die Sicherheit zu erhöhen, während sie neue Dimensionen in die Debatte über Überwachung in öffentlich zugänglichen KI‑Systemen einführt.