La IA interior del robotaxi de Waymo detecta rifle de asalto impreso en 3‑D, detiene el vehículo y conduce a la detención de adolescentes en San Francisco

El 3 de septiembre de 2024, alrededor de las 04:00 h, un robotaxi de Waymo que operaba en San Francisco detectó un rifle de asalto cargado e impreso en 3 D dentro del vehículo y detuvo el coche al costado de la carretera. El sistema de cámaras interiores, que Waymo utiliza para el monitoreo de cumplimiento, señaló el arma de fuego como una violación de sus términos de uso, notificó automáticamente a la policía y los dos pasajeros adolescentes fueron arrestados poco después.^heise

Cronología del incidente y hechos

Las cámaras interiores impulsadas por IA del vehículo identificaron el arma, la clasificaron como un rifle de asalto ilegal ‘fantasma’ — un arma fabricada con una impresora 3 D y sin número de serie — y activaron el protocolo de seguridad del robotaxi. El coche se detuvo en el arcén, y un oficial de policía realizó una detención de tráfico descrita por el Departamento de Policía de San Francisco como un "control de tráfico de alto riesgo".^heise Los agentes incautaron el rifle cargado, así como marihuana y spray de pimienta encontrados durante la inspección.^heise Ambos pasajeros, identificados en el informe como un adolescente masculino y una adolescente femenina, fueron puestos bajo custodia.

Sistema de monitoreo interior de Waymo

Los robotaxis de Waymo están equipados con cámaras interiores que cumplen dos propósitos: la seguridad de los pasajeros y el cumplimiento de las políticas de uso de la empresa. El sistema ejecuta modelos de IA que pueden reconocer objetos prohibidos, incluidas armas de fuego, en tiempo real. Cuando se detecta una violación, el vehículo está programado para detenerse y alertar a las autoridades.^heise En este caso, la IA identificó correctamente un rifle de asalto impreso en 3 D — una categoría de arma que el gobierno de EE. UU. ha estado persiguiendo desde 2022 porque no puede rastrearse mediante números de serie.^heise

Waymo confirmó que la detención se debió a una "violación de nuestros términos de uso relacionada con un arma de fuego" y que la IA de la cámara interior fue el desencadenante de la alerta.^heise La empresa ha declarado anteriormente que el monitoreo interior está destinado a proteger a los pasajeros, al personal y al público, pero no ha divulgado métricas de rendimiento detalladas para el modelo de detección de armas.

Implicaciones para la seguridad, la regulación y la privacidad

El incidente demuestra el potencial práctico de seguridad de la vigilancia habilitada por IA en flotas autónomas. Al detectar automáticamente un objeto peligroso e involucrar a las fuerzas del orden, el sistema de Waymo puede prevenir incidentes que de otro modo dependerían de la observación humana. Para los reguladores, el caso ofrece un dato concreto mientras consideran requisitos para el monitoreo a bordo en vehículos sin conductor.

Al mismo tiempo, el uso de cámaras interiores genera preocupaciones de privacidad. Las cámaras registran continuamente el compartimento de pasajeros, y la IA analiza los datos visuales en tiempo real. Aunque la política de Waymo indica que el material se conserva solo para investigaciones de seguridad, el incidente muestra que la tecnología puede emplearse para hacer cumplir la normativa legal más allá de la seguridad vial. El equilibrio entre la seguridad pública y la privacidad de los pasajeros probablemente se convierta en un punto central de los debates políticos futuros.

La flota de Waymo se está expandiendo rápidamente: la empresa lanzó recientemente servicios en Las Vegas y ha anunciado planes para iniciar operaciones en Múnich en 2027.^Wikidata La compañía emplea aproximadamente a 2 500 personas y tiene su sede en Mountain View, California.^Wikidata A medida que la flota crece, la frecuencia de alertas de las cámaras interiores podría aumentar, lo que provocará tanto refinamientos operativos como un mayor escrutinio regulatorio.

Lo que sigue sin saber es la tasa de falsos positivos del modelo de detección de armas y con qué frecuencia las cámaras interiores señalan objetos que no representan una amenaza. Waymo no ha publicado estadísticas sobre la cantidad de alertas generadas desde el despliegue del sistema, ni sobre la proporción que resulta en la intervención policial. Las declaraciones públicas de la empresa confirman que la tecnología funciona en este caso, pero se necesitarían más datos para evaluar su fiabilidad general y su impacto en la experiencia de los pasajeros.

Por ahora, el incidente en San Francisco constituye un ejemplo raro y verificado de un sistema de IA de un vehículo autónomo interviniendo en una posible violación de armas de fuego. Subraya el doble papel de dicha tecnología — mejorar la seguridad mientras introduce nuevas dimensiones al debate sobre la vigilancia en sistemas de IA de cara al público.