A mediados del pasado diciembre, un usuario del taxi autónomo de Waymo en Arizona, un trabajador tecnológico que fue recogido por uno de los vehículos para llegar al aeropuerto y volver a su casa en Los Angeles, se encontró de repente con que el automóvil empezaba a dar vueltas en círculo sin parar en un parking y no podía salir de él, porque al estar constantemente en movimiento, no podía tampoco abrir las puertas.
Tras más de cinco penosos minutos dando vueltas, logró contactar con Waymo para tratar de solucionar el problema y terminó llegando a su vuelo, aunque no quedó demasiado satisfecho con el trato que recibió de la compañía, que simplemente se limitó a no cobrarle el viaje, pero aparentemente no ofreció ni siquiera una disculpa.
A medida que más y más de las operaciones habituales que llevamos a cabo en nuestra vida cotidiana van siendo tomadas por algoritmos de diversos tipos, nos vamos a ir encontrando de manera más rutinaria con situaciones como esta o similares, con momentos de «rebelión de los electrodomésticos». Según un artículo publicado en IEEE Spectrum, resulta sorprendentemente fácil manipular de manera maliciosa robots desarrollados mediante modelos masivos de lenguaje, sin prácticamente necesidad de saber programar. Esto genera toda una amplia gama de posibilidades de manipulación que van desde la mera travesura, hasta cuestiones potencialmente mucho más serias, que nos llevan a un escenario en el que este tipo de comportamientos no van simplemente a ocurrir por accidente.
¿Es esto parte del precio que hay que pagar por acceder a determinadas prestaciones? Frente a la primera respuesta simplista de tipo «puedo vivir sin esas cosas y voy a prescindir de utilizarlas», está el riesgo inherente a mantenerse al margen de avances cada vez más implantados en el común de la sociedad, hasta convertirse simplemente en un viejo gruñón que maldice todo progreso. Obviamente, habrá que requerir más salvaguardas a las compañías que desarrollan la tecnología, pero creo que hablamos también de una cuestión de actitud por ambas partes: por un lado, entender que toda tecnología suficientemente nueva es, por su propia esencia, experimental, y por tanto sujeta a posibles fallos con respecto a los cuales debemos ajustar nuestras actitudes; y por otro, comprender que esos fallos pueden resultar no solo muy incómodos, sino en ocasiones, potencialmente severos, y precisar de una actitud muy comprensiva y con ánimo constructivo y reparador cuando esos fallos tienen lugar.
¿Queremos vehículos que conducen solos? Sí, sin duda: se trata del germen que va a conseguir muchos menos accidentes y fallecimientos en la carretera, además de un transporte eventualmente más barato, conveniente y al alcance de todos. Pero una tecnología así, durante cierto tiempo, estará sujeta a errores que, por el momento, no han ocasionado problemas realmente serios salvo en un par de ocasiones, y por situaciones muy aisladas en las que la responsabilidad no correspondía en absoluto a la tecnología. Conseguir sobrepasar una frontera tan impresionante como que un vehículo se maneje solo por el tráfico de una gran ciudad, y que eso no haya supuesto fallos verdaderamente importantes es algo que deberíamos valorar en su correspondiente medida, aunque tendamos a convertirlo rápidamente en parte de nuestra rutina y a incorporarlo dentro de la normalidad.
Para las compañías que la desarrollan, por su parte, es fundamental reconocer la importancia de la retroalimentación en todos sus sabores y posibilidades, la necesidad de una actitud siempre constructiva – nuestros usuarios, durante mucho tiempo, no van a ser «personas normales», sino en cierto sentido, «pioneros», y necesitamos esa actitud de querer probar cosas nuevas para que los productos superen una fase de popularización. Y sobre todo, una preocupación obsesiva por la seguridad a ciertos niveles: hay fallos razonablemente aceptables y otros que, evidentemente, nunca lo van a ser.
Obviamente, más fácil decirlo que ponerlo en práctica. Pero así se mueve la tecnología y su adopción. Ya veremos cuántas veces la usamos y cuántas la maldecimos…
This article is also available in English on my Medium page, «Sometimes, new technology can feel like going round in circles«
A menos que alguien argumente que el Gepeto no sabe lo que dice:
”Los vehículos con sistemas de conducción autónoma han estado involucrados en varios accidentes mortales en los últimos años. Según datos de la Administración Nacional de Seguridad del Tráfico en las Carreteras de Estados Unidos (NHTSA), hasta junio de 2023, los vehículos de Tesla que operaban con su sistema de asistencia al conductor, conocido como Autopilot, estuvieron implicados en al menos 17 accidentes mortales, 11 de ellos ocurridos desde mayo de 2022.
Infobae
En un período de 10 meses, la NHTSA registró 392 accidentes que involucraron vehículos autónomos, resultando en seis muertes y cinco heridos graves. Tesla fue responsable de una gran parte de estos incidentes, con 273 choques, cinco de ellos mortales, en los que estuvieron involucrados vehículos equipados con su programa de asistencia al conductor Autopilot.”
corenalaw
La pregunta es:
¿Cuál es el numero aceptable de víctimas para “validar” la conducción autonoma?
Yo no digo “NO” a la tecnología. Digo que no se aplique sin estar seguros del 100%.
Esto no es un juego ni cosa de risa. Hay vidas humanas en riesgo, por más que a muchos les gustaría vivir en el mundo de los Jetsons.
Habrá menos accidentes con los coches autónomos que con los conducidos por humanos.
Los coches autónomos no beben alcohol, no consumen droga, no se distraen con el móvil, y no discuten con el copiloto
Sería interesante si hay una estadística del % de accidentes en modo autónomo VS parque total de Tesla, y del % de vehículos en modo no autónomo VS total. No da el dato real final pero evitaría discusiones eternas
Tesla no da esos datos…
Leer los enlaces…
Por eso lo pregunto….
«Habrá»
Pero por el momento «hay»
Esto es como decir que el mes que viene sere millonario porque me tocara la loteria…
Cierto, un coche autonomo no consume alcohol ni drogas. Pero por el momento, los accidentes en los «semi-autonomos» (nivel 1/2 como Tesla), son porque la gente se confia del coche y no presta atencion (y no pone las manos en el volante), al margen de los errores «autonomos».
– «El nivel de autonomía afecta directamente a las tasas de accidentes. Se espera que los coches totalmente autónomos, como los de Waymo en ciudades como Phoenix y San Francisco, reduzcan los accidentes. Sin embargo, estos vehículos de nivel 4 aún tienen una disponibilidad limitada. A medida que avance la tecnología, se espera que los niveles más altos de automatización reduzcan aún más el número de accidentes.»
(«A medida que avance la tecnología, se espera…» lo que estoy diciendo… aun esta verde)
– «Un Causa común de accidentes Se trata de un fallo mecánico en la tecnología de conducción autónoma. Un sensor o una cámara que no funcionan correctamente pueden no detectar un peligro, lo que puede provocar situaciones en las que el vehículo puede desviarse hacia el carril contrario y provocar una colisión. Estos sistemas requieren un funcionamiento impecable, e incluso un pequeño fallo puede tener consecuencias graves.»
–«Otro factor importante es la autocomplacencia del conductor. Los conductores pueden confiar demasiado en las funciones de asistencia del automóvil, lo que genera una falsa sensación de seguridad. Sin embargo, el conductor debe permanecer alerta y estar listo para tomar el control del vehículo si es necesario. Si el tiempo de reacción del conductor es demasiado lento, puede ocurrir un accidente, especialmente en situaciones inesperadas.»
– «Los conductores de vehículos con funciones autónomas aún deben poder tomar el control del automóvil cuando sea necesario. Si un conductor está distraído, somnoliento o bajo los efectos del alcohol o las drogas, puede ser considerado responsable de los accidentes. En un caso conocido que involucraba a Lyft y la asociación Waymo de Google, un conductor de un vehículo autónomo El conductor de seguridad fue encontrado negligente por estar mirando la televisión en lugar de la carretera cuando el vehículo atropelló y mató a un peatón.»
–“NHTSA le recuerda al público que todos los sistemas avanzados de asistencia al conductor requieren que el conductor humano tenga el control y esté completamente involucrado en la tarea de conducir en todo momento. En consecuencia, todas las leyes estatales responsabilizan al conductor humano por la operación de sus vehículos”.
de mis enlaces… a ver si leemos…
Después de 25,3 millones de millas, según datos estudiados por una compañía de seguros global, los automóviles de Waymo han causado un 88% menos de daños a la propiedad y un 92% menos de lesiones corporales que los conductores humanos que conducen un número similar de millas. Pero según tú, la tecnología no está madura…
Esto es absurdo, la adopción de nuevas tecnologías no funciona (ni tiene sentido que funcione) así. Seguros al 100% nunca estaremos de nada. Si es por ti veo que los trenes, aviones y coches por ejemplo tampoco existirían. Lo dicho, absurdo.
Esfuerzate mas…
Riesgos siempre los hay. Los hay en los ya mencionados ascensores, los hay en ensayos clinicos y los hay en todo aquello que quieras buscar (toda la wikipedia).
La cuestion no es buscar un riesgo 0.
La cuestion es minimizar el riesgo en lo posible.
Y 0 es lo que teneis en comprension lectora si no sois capaces de distinguir, entre:
– No apoyo la tecnologia
y
– todavia no esta madura a mi juicio.
Ahora vas a todas esas victimas y sus familias, y les cuentas lo maravilloso de lo autonomo y de paso les vendes unos bitcoins.
No sé si será mi compresión lectora o tu capacidad de expresión.
Los datos que proporcionas por sí mismos no pueden llevarte a concluir nada (números absolutos… ¿de verdad?).
Y menos demagogia con las víctimas, cuando la inmensa mayoría de los accidentes son por errores humanos.
Yo aporto datos. Tu solo tu opinión.
Tomate la molestia de leer los enlaces y verás las causas y luego si quieres, hablamos de demagogia.
No puedo luchar contra la falta de escrúpulos y no voy a bajar a la arena.
Fin.
Respondiendo a Lua y mi opinión a Enrique
@Lua: Yo creo que estas estadísticas hay que compararlas con conductores humanos en la misma proporción para sacar %. Si las máquinas ganan, ya son aceptables para mí. Si pierden, entonces no.
@Enrique: En toda gasolinera hay «parada de emergencia» y pulsadores que te sacan del problema. Pero en ascensores (elevadores autónomos, no olvidemos) no es posible pararlos aquí en España, ni salir por el techo como los americanos.
Mi pregunta es si un coche de waymo confunde un lago de hielo y se mete como si fuera una carretera, ¿qué botón pulso para bajarme? Incluso los autobuses tienen el martillito (siempre robado) para romper los cristales de emergencia.
Debe existir alguna «redundancia» o «escapatoria» para un humano. En los coches autónomos es complicado porque imagina que una pareja lo usa para tener relaciones… sobre la vía de un tren (cosas peores han pasado). No entiendo aquí en España que los ascensores no tienen salidas verticales, solo horizontales.
Es posible que sea necesario que haya un pulsador de emergencia que te ponga en contacto con humanos en menos de 3 segundos para circunstancias extremas.
O no te subes al waymo y te vuelves gruñón :-)
Me acabo de acordar: Incluso los trenes en españa tienen una «parada de emergencia», también en el metro de Barcelona recuerdo haberlo visto.
Benji, estoy de acuerdo contigo. El problema, no es la comparación entre número de accidentes. Evidentemente si la proporción de vehículos autónomos es de 1/1.000.000 respecto a los vehículos “normales”, la estadística te dirá que los “normales” se llevan la palma.
Si te lees los artículos enlazados, veras que conforme aumenta el número de vehículos autónomos, también lo hace el de accidentes de los mismos.
Ya hace algún tiempo (casi un año si no recuerdo mal) dije en estas líneas que para que la conducción autónoma sea realmente eficaz, todos los vehículos deberían estar regidos por las mismas reglas, grandes centros de proceso de datos en tiempo real y una IA capaz de manejarlos. Puedes tener un vehículo autónomo y sufrir un accidente porque un loco te ha embestido (culpa de este último). O puedes tener ese accidente porque sus sensores se han pasado por el forro las señales o han confundido una sombra.
Si querer cebarme en Tesla, mientras las demás compañías aumentan el numero de sensores, Elon decidió que había que anular radares en los que “ya los llevaban incorporados”, y quitarlos de los vehículos en fabricación. Cuando la realidad, es que deberían ser equipos redundantes, por si uno la caga, que el otro le corrija.
Un botón del pánico en los Waymos (y similares) se me antoja necesario, pero a la vez, inútil. Si el vehículo decide lanzarse a 80Km/h contra otro, poco hará ese botón (tiempo de reacción del humano + tiempo de reacción mecánico)
Sinceramente, opino que hace falta mucha más investigación y tecnología en circuito cerrado antes de soltar una bestia de 2500Kg en las calles. O 15.000 de ellos.
Lo de tener claro que el nivel de seguridad anti-Hackeo debe ser inauditamente mejorable, queda fuera de ninguna duda. No quiero pensar que un psicópata se hiciera con el control de los vehículos.
Dos apuntes al hilo de BENJI…
¿Cuánto tardamos en considerar «natural» el automatismo del ascensor, como eliminar su «conductor»… aún considerando que es un recorrido muy simple?
¿Cuánto tardará en aparecer la primera demanda (abogados haylos), de una pareja que fue arrollada por un tren automático (o no) mientras hacían «cositas» (sexuales o no), aparcados en la vía del tren de alta velocidad?
Y es que los instrumentos tecnológicos son de una mediocridad manifiesta… pobriños de nosotros, tan tan inteligentes! Que ni somos capaces de buscar una buena redundancia, cuando somos sus usuarios… otro apunte interesante del BENJI, resaltando algo básico en un laboratorio experimental.
Los ascensores pueden dejarte parado entre dos pisos, y tardan en sacarte. Pero el ultimo accidente mortal que recuerdo fue el de el Hotel Malia de Cuba al que al parecer se le partieron los cables y el sistema de frenos de emergencia no función debido a un mal mantenimiento.
Lo cierto es que con cada accidente se han ido mejorando los sistemas de seguridad. Timbre de alarma, doble puertas,.. y lo último un teléfono de emergencia 24/7/365.
Supongo que en los coche autónomos ocurrirá algo parecido. A cada accidente, seguirá un estudio de la causa y una nueva medida de seguridad. Yo creo que ya hoy son mas seguros que un conductor humano y pienso que a medio plazo se impondrán, pese a los accidentes que originen
A lo largo de mi vida, 5 veces me quede encerrado en un ascensor (soy gafe).
Las dos primeras, dado que eran muy antiguos, escapé por el (falso) techo. Las otras, me quede encerrado entre 1 y 4 horas, siendo esta última, la más jodida (no tenía tabaco para pasar el rato) y me temo, la causante de mi claustrofobia. Ni tan siquiera “descolgaron” la cabina. Me sacaron los bomberos entre dos plantas.
Ha habido accidentes de ascensores? Si. En cualquier caso y si hacemos una comparación macabra, el incidente mas usual es quedar atrapado entre dos pisos, sea por problema mecánico o corte de luz. Si vamos a comparar ambos tipos de accidentes, igual habría que centrarse igualmente en las magnitudes de los mismos…
Cuantos millones de ascensores hay instalados en el mundo vs cuantos accidentes mortales ha habido con ellos. (con y sin ascensorista)
El mecanismo de un ascensor, es sensiblemente mas sencillo que el de una clepsidra… ya no digo de un coche semi o autonomo total.
Como he dicho antes, hasta que los autos autonomos no hayan sido testeados plenamente en Lima y Bombay (y tal vez Milan), no se podra confiar en ellos.
Queremos un 100% de seguridad, cuando en el resto de nuestras vidas aceptamos un porcentaje de errores o riesgos.
Las medicinas son 100% seguras? Las intervenciones quirúrgicas? La comida procesada? Etc etc etc por no hablar de armas.
De hecho, queremos ser muy cool porque tenemos cosas innovadoras, pero nos pasamos un tiempo poniéndolas a parir porque no las entendemos o nos parecen una chorrada, y cuando finalmente las probamos, no estamos dispuestos a aceptar ni un pequeño fallo, aunque provenga de nuestra escasa familiaridad con ellas. Si quieres tener cosas innovadoras, tendrás que aceptar algunos fallos, es así como funciona esto…
Y lo mismo para los reguladores: si no están dispuestos a aceptar ningún error, que se resignen a no progresar o a progresar por debajo de otras regiones que sí aceptan que el desarrollo tecnológico siempre los tiene.
«Lo bueno es enemigo de lo perfecto»… o al revés, «lo perfecto es enemigo de lo bueno».
Frase muy utilizada en ingenieria y que viene muy bien recordar en este hilo.
Estoy convencido que cuando se exige un 100% de seguridad, lo que hay detrás son intereses de que no se avance y borreguismo.
Según diversos Estudios, entre los que hay que destacar, el publicado por Insurance Institute for Highway Safety (IIHS) o el de Nature Communications, el vehículo autónomo podría reducir en un 90% los accidentes de tráfico, ahorrando cerca de 10.000 millones de € anuales en España.
Quien va a saber con mas seguridad lo seguros que son los vehiculos autónomos son evidentemente las compañías de seguros, por la cuenta que les trae.
Es la diferencia entre primas de seguro la que nos lo dirá, contando siempre por kilometros recorridos obviamente, por que el coche autónomo de flota recorrerá de media bastantes mas que el particular