¡TenÃa que pasar! Ocurrió hace unos dÃas, cuando el Tesla Model S que circulaba con conducción automática a gran velocidad por una autopista de Florida acabó empotrado bajo el remolque de un camión. Ni se activaron los frenos ni tampoco se alteró la trayectoria del coche, y su propietario, entusiasta defensor de la conducción automática, falleció en el acto.
Se habÃa producido la primera vÃctima mortal con el piloto automático activado y ni el montón de sensores ni cámaras que tienen estos sistemas detectaron a tiempo el giro del camión. No se sabe si el sistema funcionó correctamente pero el fabricante se esconde tras el dato que señala un muerto por cada 209 millones de kilómetros con autopilot frente a los 96 millones de km de media en todo el mundo cuando conduce un humano. La estadÃstica no juega a favor cuando pilotan los hombres.
Aunque los automatismos se desactivan cuando consideran que es necesaria la atención del conductor y nunca se recomienda el uso en zonas urbanas, hay un instante en que el conductor quita las manos del volante para entregárselo al vehÃculo. Toma la decisión de delegar la conducción –y desde el pasado mayo la vida también- en el piloto automático. Y aunque no tengo idea de leyes, se me antoja que existe un vacÃo legal a la hora de depurar culpabilidades. También con implicaciones éticas sobre toma de decisiones y responsabilidad.
La carrera por el coche autónomo tiene como protagonistas a Google y Tesla, y estoy convencido que cuando sus prototipos invadan las carreteras en un futuro, estas serán más seguras. Pero si ocurriese algún accidente -como va a seguir ocurriendo-, el vacÃo legal plantea dudas. ¿Quién es el responsable? ¿Conductor, fabricante, diseñador? Es casi seguro que las máquinas tendrán conocimientos suficientes para tomar decisiones morales. Pero imaginemos el escenario de un pinchazo a alta velocidad que obliga a la Inteligencia Artificial (AI) a tener que decidir entre sacrificar a su conductor, provocar un accidente multitudinario o acabar, por ejemplo, con un motorista. ¿Salvar varias personas a cambio de otra? ¿Quién cifra qué vida vale más? Dilemas éticos que aún están por llegar.
De momento y a dÃa de hoy, incorporar un piloto automático en un vehÃculo por la M-30 madrileña me parecerÃa igual de temerario que ver correr un robot por la calle Estafeta en San FermÃn. ¡Pobre de mi, pobre de mi…!
