Aunque su nombre pueda dar lugar a engaño, la funcionalidad Autopilot de Tesla no ofrece (por lo menos no todavía) la conducción autónoma completa (de nivel 4 o 5), si no que se trata de una ayuda que permite quitar las manos y los pies de los controles (manteniendo, eso sí, el control visual), manteniendo las distancias con los vehículos que circulan en la misma vía, y pudiendo incluso cambiar de carril si se le concede el permiso.
El Autopilot, una funcionalidad de última generación que se va actualizando progresivamente, podría ser el culpable de un par de accidentes mortales acaecidos el año pasado en los Estados Unidos y que actualmente están siendo investigados. Y precisamente, la clave podría residir en una actualización de este componente de última generación.
Días antes de matarse en cerca de Mountain View, en la autopista de Silicon Valley, Walter Huang se quejó de que una actualización del Autopilot de su SUV Tesla Model X era la probable responsable de que el vehículo se desviara peligrosamente hacia una barrera separadora de carriles de hormigón. Huang no era un usuario cualquiera de un vehículo que posee herramientas de conducción inteligentes, sino que era ingeniero de software en Apple, una de las compañías tecnológicas más disruptivas del mundo.
Por lo tanto, a Huang podemos considerarlo como alguien que tenía un conocimiento profundo en el ámbito tecnológico y, aunque no conociera con detalle las entrañas del sistema Autopilot de Tesla, era capaz de entrever de dónde venían los problemas, teniendo un alto porcentaje de posibilidades de acertar con su origen.
Quien ha dado testimonio de estas declaraciones de Huang ha sido su viuda, en el marco de la investigación que está llevando a cabo la National Transportation Safety Board norteamericana, y en la que también se incluye otro accidente mortal acaecido bajo circunstancias similares en Florida un año más tarde.
Varios problemas
Los investigadores han logrado saber que el smartphone de Huang (un iPhone) realizó una conexión de datos un minuto aproximadamente antes de que sucediera el accidente, aunque no han logrado aclarar a qué se conectaba y porqué. ¿Desvió su atención el conductor (algo que no está recomendado) de los controles y no vió el peligroso acercamiento a la barrera de hormigón? ¿Era una conexión de datos en segundo plano, tal vez que disparó una notificación que distrajo al conductor? Por ahora, sigue siendo un enigma.
En cualquier caso, el malfuncionamiento del Autopilot genera la pregunta de qué pasa con la responsabilidad de la compañía fabricante del vehículo y/o del sistema de inteligencia artificial.
Este es un dilema ético que se presenta con la génesis misma de los vehículos autoconducidos. Hasta ahora, un fallo mecánico no se ha venido considerando un problema achacable al fabricante, con la excepción de defectos de serie. ¿Qué va a pasar con el software que guía los autos?
