El 19 de marzo, nuestro Bryan Chaffin publicó un artículo sobre cómo un “accidente fatal lleva a Uber a detener las pruebas de autos autónomos”. La esencia de la historia es que un auto de prueba de Uber, en modo autónomo, mató accidentalmente a un peatón. (Un humano supervisor estaba en el auto).
Eso es lo que la gente recordará. Lo que la mayoría de la gente podría pasar por alto es que el peatón no estaba en un cruce de peatones y que el accidente ocurrió de noche. También podríamos suponer que alguien que cruza la calle de noche, no en una intersección, tomaría por sorpresa incluso a un conductor humano.
Pero en lo que quiero centrarme aquí es en los informes del El Correo de Washington, ese: “Partidarios [of autonomous car technology] dicen que las muertes son una parte inevitable del proceso de aprendizaje “. Cuestiono ese punto de vista.
Las cuestiones profundas y emocionales
Se ha escrito mucho sobre la tecnología de los vehículos autónomos (AV). Escribimos sobre esto aquí debido a la participación de Apple, a pesar de que el alcance total de ese esfuerzo, el Proyecto Titán, parece haber cambiado, realineado y caído en la oscuridad últimamente. Obsesionados como todos estamos con la perspectiva de que la tecnología algún día pueda proporcionar un automóvil totalmente autónomo, quedan muchos problemas por resolver.
Accidentes notables en los que automóviles en modo autónomo, ya sea en la fase de prueba o en la fase de producción, matan a un ser humano bien podrían crear un resentimiento público y un rechazo a la tecnología. Eso podría ralentizar las ventas hasta un punto en el que la tecnología se vuelva inviable.
En segundo lugar, los fabricantes de automóviles quieren hacernos creer que, en aras del avance técnico, habrá algunas muertes. Un punto de vista contrastante, uno que yo soy partidario, es que este es uno de esos famosos eventos de “baja probabilidad / alta consecuencia” que se han estudiado últimamente. Estos son eventos como grandes derrames de petróleo, derrumbes de puentes y diques, reacciones en cadena descontroladas de reactores nucleares o colapsos de bancos para los cuales incluso una probabilidad de falla muy pequeña, incluso minúscula, es inaceptable.
Sin duda, los humanos mueren de manera indirecta, causada por humanos. Fallos mecánicos. El puente se derrumba. Conductores borrachos o enviando mensajes de texto. Pero el espectro de una entidad robótica semiinteligente que mata a un humano lleva consigo tal bagaje emocional que lo que está en juego cambia.
Recuerdo un articulo de Científico americano hace mucho tiempo, que ya no puedo encontrar, que describió eventos de tal magnitud catastrófica que la ingeniería debe llevar la probabilidad de falla a, esencialmente, cero. En otras palabras, no es una opción intercambiar vidas humanas por compromisos de ingeniería. Los resultados de Chernobyl y Fukushima muestran lo que sucede cuando el diseño de ingeniería no alcanza la probabilidad de falla cercana a cero.
Finalmente, los desarrolladores de autos autónomos han estimado que esta tecnología salvará vidas a largo plazo. No tengo ninguna duda de que así será. Pero debido a que estas empresas están en el negocio de vender un producto, tengo la sensación de que a medida que aumenten los trágicos accidentes de prueba y producción, las estimaciones corporativas de las eventuales vidas salvadas comenzarán a ser manipuladas y mejoradas. Sólo mira.
Casi será como, si puedo parafrasear, “cuanto más altas sean nuestras estimaciones de vidas salvadas a largo plazo, más aceptable será la pérdida de vidas en los primeros estados de la tecnología”.
Sugiero que eso no va a funcionar con personas que creen que las estelas en el cielo del escape condensado del motor a reacción de los aviones son una conspiración del gobierno para enfriar el planeta.
Entendiéndolo
En mi opinión, el umbral público de tolerancia a la muerte accidental es mucho más bajo de lo que les gustaría creer a los desarrolladores de vehículos autónomos. Por ejemplo, pensamos que ir a Marte en el siglo XX era una propuesta factible. Cuanto más aprendimos, más inteligentes nos volvemos sobre los desafíos y la tecnología requerida. Hoy, pensamos en que los robots vayan primero, construyan hábitats, encuentren agua y brinden asistencia a los humanos cuando lleguen. Se están trabajando nuevas técnicas para protegerse contra las erupciones solares en tránsito y en la superficie marciana.
Hoy en día, nos reímos de las técnicas de fuerza bruta propuestas en el siglo pasado, y reflexionamos sobre lo peligroso que hubiera sido para los astronautas si hubiéramos seguido adelante ciegamente en ese entonces.
Del mismo modo, los coches autónomos se encuentran en una fase muy temprana. La tecnología parece genial, y es asombroso lo que los autos pueden hacer en 2018. Pero los primeros usuarios van a poner sus autos en servicio de maneras que son ilegales, desacertadas o simplemente inesperadas. Más humanos podrían morir, tanto dentro como fuera de estos AV.
Si hay suficiente protesta pública, resentimiento e incluso ciencia falsa, los fabricantes de estos sistemas tendrán que volver atrás y repensar la ingeniería para lograr básicamente eventos de falla cero o tendrán que cambiar sus proyecciones de mercado sobre cómo la tecnología se entregará al público. Como resultado, es posible que la tecnología no evolucione tan bien como se esperaba. O ser tan económico como se esperaba.
No creo que un poco de ajuste de sensores e inteligencia artificial, cruce de dedos y autoengaño sobre cómo la tecnología eventualmente salvará vidas vaya a lavarse con un público emocional que está al límite e hipersensible a cómo la tecnología los está fallando persistentemente. formas muy grandes y catastróficas.
