Tesla FSD v14: Dio un volantazo e intentó llevarme a una zanja sin motivo alguno.

El sistema de conducción totalmente autónoma de Tesla, versión v14.3.6, intentó tomar una salida en la autopista que mi coche ya había pasado, a una velocidad de 110 km/h (68 mph), y casi nos empujó directamente a una zanja.

Estaba preparado para tomar el control del coche, y lo hice, pero la situación era aterradora. Mi amigo, que iba sentado en el asiento del copiloto, gritó de miedo.

Lo que muestra la cámara del salpicadero

Este incidente ocurrió el domingo por la noche en la Autoroute 55 en la región de Mauricie, Quebec, mientras el sistema FSD (Supervisado) v14.3.6 estaba en funcionamiento, la última y mejor versión del sistema FSD de Tesla en el hardware más reciente.

El coche circulaba a 110 km/h por el carril derecho. El pavimento estaba seco, no había tráfico en ninguna dirección, la señalización vial era moderna y clara, y los letreros luminosos eran reflectantes. Las condiciones eran perfectas para el sistema de conducción autónoma. Al pasar por debajo del paso elevado de la salida 217, se activó el intermitente derecho y el coche empezó a desviarse hacia el arcén, mientras el mensaje «Conducción autónoma» seguía visible en la pantalla.

El problema era que la pendiente ya había empezado a separarse detrás de nosotros. Tomar esa curva tardía a esa velocidad nos habría empujado directamente al hoyo.

La lectura de velocidad bajó a 110, 109, 107 y 104 mientras el coche realizaba la maniobra. En ese momento, agarré el volante con fuerza. Las palabras "Conducción autónoma" desaparecieron de la pantalla a 102 km/h.

No se trató de una inestabilidad en la trayectoria ni de un momento de vacilación. El coche decidió activar el intermitente y tomar una salida que no debía.

Estas eran las condiciones ideales para el sistema FSD.

Si tuvieras que diseñar el escenario más sencillo posible para Tesla, sería este.

Autopista dividida. De noche, permite distinguir fácilmente las luces de los vehículos que vienen de frente y los reflectores de carril. Tráfico nulo que no requiere análisis. Marcas de carril claras. Señales grandes y bien iluminadas.

Por lo que he visto en la versión 14, conducir de noche por autopistas y en carreteras despejadas es, sin duda, la mejor característica del sistema . He recorrido miles de kilómetros así sin tener que tocar nada. Por eso tengo tanta confianza. Y esa confianza es precisamente la trampa.

Escribí sobre este peligro en concreto en junio.

Hace dos meses y medio publiqué un artículo en el que afirmaba que el sistema FSD v14 era tan bueno que me había vuelto peligrosamente confiado. En aquel entonces escribí que «un sistema que funciona casi a la perfección crea una trampa: los conductores confían lo suficiente en él como para dejar de prestar atención, pero aun así falla inesperadamente y, a veces, de forma crítica».

Mantengo todo lo que dije, y la noche del domingo lo demostró. Recorrer miles de kilómetros entre intervenciones críticas es una proeza de ingeniería realmente impresionante. Pero también es el intervalo que le enseña al cerebro a dejar de buscar información y prestar atención, lo que te hace pensarlo dos veces antes de comprar un Tesla.

Las notas de la versión 14.3.6 de Tesla indican que la compañía "desarrolló una fase de aprendizaje por refuerzo (RL) para entrenar la red neuronal del sistema FSD", reescribió el intérprete de IA usando MLIR para lograr "tiempos de respuesta un 20 % más rápidos" y mejoró la respuesta del vehículo a la degradación del sistema, "reduciendo incidentes innecesarios de desconexión del conductor". Los incidentes de desconexión del conductor disminuyen cuando el software mejora, y también cuando el conductor deja de interferir. Tesla no publica ninguna información que permita a terceros distinguir entre estos dos factores.

Las cifras públicas disponibles no son alentadoras. Tesla reportó un récord de 207 accidentes con Autopilot y FSD a la NHTSA en un solo mes, y la información se omite en el 99.9% de los 3,763 informes de accidentes con sistemas de asistencia al conductor desde 2019. Musk sigue asegurando a los inversores que el FSD sin supervisión se implementará ampliamente en EE. UU. para finales de año, mientras que el codirector ejecutivo de Waymo continúa explicando por qué la conducción autónoma basada únicamente en cámaras no cumple con los requisitos de un sistema de conducción verdaderamente autónomo.

Opinión de DzTecnium

Un incidente que casi ocurrió es solo una anécdota y no un dato concreto, pero creo que es un recordatorio importante de la necesidad de permanecer alerta.

Como he mencionado repetidamente, el sistema FSD v14 de Tesla es un producto realmente impresionante. Sin embargo, no cumple con lo que se prometió originalmente: la conducción autónoma sin supervisión. Está muy lejos de eso, y quizás nunca lo esté. Esto seguirá siendo un problema y, tal vez, el peor error que Tesla haya cometido jamás.

Pero si dejamos eso de lado y consideramos el FSD como un sistema de asistencia al conductor punto a punto, es realmente asombroso.

Sin embargo, este deslumbrante despliegue genera complacencia (indiferencia). Tesla no ayuda en absoluto, especialmente con declaraciones del CEO Elon Musk como: "Ahora puedes mirar tu teléfono mientras lo usas".

Esto es claramente una imprudencia. A medida que el sistema mejora, Tesla debe ser más eficaz a la hora de convencer a los conductores de que presten atención a este problema de autocomplacencia, y no al revés.