Un par de noticias recientes y las reacciones que han generado me llevan a considerar un tipo de falacia que me encuentro habitualmente en mis clases y discusiones relacionadas con el desarrollo tecnológico: la de la pendiente resbaladiza. En ella, un suceso es presentado como detonante seguro de una cadena de eventos que sin duda de ningún tipo darán la razón a quien lo propone, aunque no exista ninguna evidencia relevante de esa supuesta cadena de eventos.
El primer caso es el reciente incidente sufrido por un vehículo autónomo de Google: un Lexus autónomo que, para evitar unos sacos de arena situados en torno a una alcantarilla, decide invadir el carril contrario circulando a unos tres kilómetros por hora, para encontrarse con que un autobús, circulando a unos 25 km/h en sentido contrario, decide no cederle el paso. Nada preocupante: la inteligencia autónoma del vehículo asumió que, dado lo excepcional de la situación, el autobús le dejaría pasar, y el conductor del autobús decidió que no era el momento de ser cortés. La situación se salda con unos leves desperfectos, una asunción de responsabilidad, y una corrección introducida en el algoritmo de conducción automática para prevenir que los conductores de vehículos grandes pueden tener menos tendencia a ceder el paso por cortesía en situaciones excepcionales.
Con respecto a la alternativa de que el accidente lo hubiese producido un conductor humano, situación que vemos centenares de veces todos los días con total normalidad, la gran diferencia es que el error del algoritmo genera automáticamente un aprendizaje que lo realimenta para evitar futuros accidentes similares. El incidente no refleja nada: decididamente, no que la conducción autónoma sea más insegura que la humana (los números cantan), no que los humanos sean más hábiles en determinadas situaciones, y mucho menos que el futuro de la conducción autónoma se complique. Absolutamente nada de eso. Que ningún vehículo de conducción autónoma tuviese jamás un accidente no es algo que entre dentro de la lógica, y ante la eventualidad de uno, se aplica la inteligencia adecuada para tratar de evitar otro similar. Eso es todo. Cualquiera que pretenda implicar que «ya decía yo que eso de que el coche condujese solo no podía ser buena cosa» o «si hubiese ido conduciendo yo, el incidente no habría ocurrido» está siendo simplemente falaz, utilizando un argumento lógicamente erróneo y sin sentido, por «intuitivo» que le pueda parecer. Que las tareas de conducción terminarán siendo llevadas a cabo por robots de manera completamente mayoritaria es algo que ya resulta absurdo dudar, por mucho que haya habido un incidente.
Segundo caso: Daimler comenta que en la fabricación de su Mercedes Clase S, caracterizado por un elevadísimo número de extras que convierten cada vehículo en una combinación de muchísimas posibilidades, están sustituyendo algunos robots de la cadena de montaje de su factoría de Sindelfingen por trabajadores humanos, porque la tarea de reprogramar los robots para cada vehículo se prueba menos eficiente que la de poner a un humano a hacerlo. Automáticamente, muchos ven en esta noticia algún tipo de aceite con el que engrasar una lógica defectuosa, y pasan a afirmar que los robots nunca sustituirán al hombre, que las empresas se dan cuenta de que es mejor el trabajo humano, y que poco menos que la tendencia era errónea y ya se ha revertido. Por supuesto, nada de esto es real. La decisión de Daimler es puramente temporal, hasta que los algoritmos de programación de los robots se simplifiquen hasta el punto de convertir su reprogramación en una tarea trivial y sencilla, o incluso hasta el punto de que se reprogramen a sí mismos al ver la lista de extras del modelo que van a montar. Bajo ningún concepto esto quiere decir que el futuro sean trabajadores humanos en cadenas de montaje: si alguien lo cree, que vaya olvidándose, y mucho menos, que Daimler haya dejado de invertir en robotización: si lo hiciera, quedaría rápidamente obsoleta y sus costes no serían competitivos. En su lugar, Daimler está investigando activamente en como compatibilizar hombres con robots en un mismo entorno de trabajo, convirtiendo a los robots en inteligencias sensibles capaces de evitar accidentes. Quien quiera ver en la coyuntural decisión de Daimler una tendencia, una progresión que nos lleva a desechar a los robots, lo va a tener complicado para justificar su argumentación. Que los humanos quedarán mayoritariamente apartados de las cadenas de montaje es algo que sigue una argumentación lógica infinitamente más consistente.
Razonamientos tan absurdos como estos los vemos todos los días en todas las compañías. La mente humana siente la dificultad de tratar con argumentos complejos, y opta por el camino fácil: el del tópico o la generalización gratuita. Una frase rápida, discusión cerrada, y preocupación eliminada. El problema, claro está, es que no es así: la frase rápida no es más que un placebo mental, y ni la discusión se cierra, ni la preocupación debería eliminarse, porque cuando abra los ojos, como aquel dinosaurio del microrrelato, aún seguirá ahí. Y si la decisión de recurrir a placebos mentales resulta ya de por sí absurda en personas maduras, la de hacerlo en entornos corporativos es directamente irresponsable.
This article was also published in English at Forbes, “Machines will never replace men (danger: slippery slope ahead)«
Un gran artículo, el ser humano siempre ha tenido cierta dificultad ante los cambios de paradigma y le cuesta moverse. Pero igual que nadie paro la Revolución Industrial cuando las primera máquinas llegaban a las fábricas. Aunque al hombre no le gustaran, y por ello primero intentó evitarlo, la realidad es que a la larga sencillamente la solución fue otra, no eliminar a las máquinas, sino que ahora hay más gente trabajando en el sector terciario, nos desplazamos dentro del ámbito laboral. Deberíamos ver las ventajas de dejar de hacer algunos trabajos tediosos y poder enfocarnos en otros ámbitos.
No me preocupa el tema de la seguridad o eficiencia en el uso de robots; creo que la inteligencia humana es suficiente para casi igualar sus potencialidades. Me preocupa el hecho de que no hayamos encontrado todavía un paradigma que asuma estos modelos en armonía con nuestras necesidades humanas, sin trauma para las sociedades civilizadas y las consecuencias en cadena, de carácter económico, social, político que este desajuste pudiera traer.
Que traigan esos vehículos autónomos a Lima, si sobrevive una semana es que el algoritmo ya esta listo para el mundo.
Trabajé en Corning el mayor fabricante de vidrio del mundo. En Francia tenían fábricas que procesaban de forma automática el vidrio desde la salida del horno al tensionado final. Eran tres cadenas en paralelo de unos 100 metros de longitud, una para piezas sopladas, y dos cadenas de cristal prensado, que hacían todo tipo de objetos como tubos de ensayo o fuentes de canelones.
Todo el procceso era automático sin intervencion humana, en la larga fábrica solo se movian personal de control de calidad tomando muestras de la producción. Algo comprensible y conveniente, porque a la monotonía del trabajo en cadena, se añadía el riesgo y la fatiga de trabajar próximo a vidrio fundido.
Curiosamente al final de la cadena, unas personas recogían las piezas ya frías y las embalaban en cajas de cartón. A mi me llamó la atención y pregunté como era que aquel trabajo se hacia a mano y me dijeron algo que me dió que pensar, «Cuesta menos tener un peon embalando piezas que programar un robot que lo haga».
De manera que Enrique no contempla el caso de que un humano pueda hacer ninguna labor mejor que la máquina. En todos los casos la máquina lo hará mejor que el hombre. Si no es hoy, será mañana.
Además, Enrique piensa que se debe prescindir de los humanos a toda costa. Si puede prescindirse del hombre, prescíndase,.
No hace falta tener dotes adivinatorias para ver adónde conduce esta filosofía. Aunque lo disfracen de utopía en la que todos viviremos sin dar un palo al agua o dedicados nuestros hobbies.
No hay un humano que para hacer un trabajo, no precise de alguna herramienta. Existen muchas herramientas que para hacer su trabajo, no precisan de un humano.
El problema, Julio, es que creas que lo que te cuento es algo «que yo pienso» o «que yo opino». No es así. Es, simplemente, lo que va a ocurrir, y no es mi opinión, es fruto de un análisis. Coincide además con la de Erik Brynjolfsson y Andrew McAfee, profesores del MIT, expuesta en sus libros «Race against the machine» y «The second machine age», que te recomiendo enfáticamente.
Como decía Luis Eduardo Aute hace algún tiempo, «nunca es triste la verdad, lo que no tiene es remedio». Yo no tengo NADA que decir en si se prescinde le los humanos o no, yo solo soy un simple profesor que lo analiza y te lo cuenta :-)
Un futuro en el que todos los trabajos los hagan las máquinas, ¿será una utopía en la que dedicaremos todo el tiempo a disfrutar de la vida o una distopía en la que la mayoría de gente morirá de hambre y solo unos pocos ricachones sobrevivirán rodeados de lujos?
Hay deterministas que te dicen que la utopía es inevitable, y otros que afirman que lo inevitable es la distopía.
Lo que yo digo es que el futuro depende de nosotros, que tanto la utopía como la distopía son posibles, será una cosa o la otra dependiendo de nuestras propias decisiones. Lo inevitable es el hecho de que cada vez más trabajos los pueden hacer las máquinas.
Negar la realidad no ayuda a construir un futuro mejor. O bien se cae en el ludismo (evitemos que el humano sea sustituido por la máquina, a pesar de ser posible), o bien se cae en la política del avestruz, escondiendo la cabeza en la arena bajo la falsa creencia de que el riesgo desaparecerá si nos negamos a verlo.
En realidad las dos han llegado ya. Tenemos la distopía futurista del control de los Estados hacia sus ciudadanos y tenemos la utopía de no tener que dedicar el 100% de tu día a sobrevivir sino que con menos, vivimos mejor.
No se lo que ocurrirá en el futuro. Enrique lo ve muy claro, pero en realidad lo único que hace es dejar constancia de que en el futuro ocurrirá lo mismo que está ocurriendo ahora y que ha ocurrido en el pasado: la tecnología ayuda a hacer mas productivo el trabajo de las personas y la tecnología desplaza a las personas de los,puestos de trabajo.
Ambas cosas ocurren, han ocurrido y, según deja constancia Enrique, ocurrirán.
La otra parte de la ecuación, es que habiendo ocurrido, aún así, hay mas personas ocupadas que hace cientos de años.
No se entonces que es lo que cambia para que pensemos que ahora si, por fin, las personas van a pasar a quedarse definitivamente en el paro por las maquinas. No veo el hecho diferencial que justifique el cambio en la ecuación.
Lleguemos a un sano punto medio, el futuro estará lleno de … cyborgs, y todos contentos, lo mejor de 2 mundos.
Bastante de acuerdo en la crítica. El problema es que, al buscar argumentos, es frecuente que se incurra en lo mismo que se crítica. La argumentación me ha recordado a una utilizada por Rodney Brooks, al que sin duda conoces, en el M.I.T.:
Según Brooks, los «esencialistas» (llamémosles así) se han pasado la vida dibujando una raya que señalaba cuál era el límite que nunca pasaría la tecnología y ésta les ha obligado a cambiar la raya una y otra vez de sitio. Brooks tiene razón pero incurre en el mismo error que critica cuando, de ahí, concluye que no existe tal raya y que nunca habrá un límite a la tecnología…yo no sé si lo hay pero me declaro agnóstico sobre ese tema y, desde luego, no quiero denunciar un error para, a continuación, caer en el mismo.
Para concluir, algo muy parecido a lo que señalas en Mercedes ocurre en los aviones muy automatizados donde un cambio de pista a última hora obliga a trajes cambios de programación en un tiempo limitado que es mejor llevar el avión a mano. No sé si a la tecnología de la información tendremos que aplicarle una conocida y jocosa definición de un banquero: Es un señor que te presta un paraguas y, en el momento en que empieza a llover, te pide que se lo devuelvas.
Me hace gracia cuando oigo en los medios eso de fabricar con costes competitivos. Sobre todo cuando se refieren a artículos de lujo. Es como si los costes competitivos fueran buenos para la sociedad y no se limitaran a aumentar el margen de beneficio de un puñado de personas. Al mismo tiempo que jode al resto de la sociedad. Usted, mucho hablar de progreso, pero predica solo progreso para una minoría. La minoría más improductiva precisamente a pesar de tener la mala costumbre de abusar de la teta del estado, devuelve poco a la sociedad que le brinda su sangre.
Me alegro de conocer a alguien que le apetece comprar productos no fabricados «con costes competitivos».
No confundamos coste con precio. El que busquen costes competitivos nunca va a conducir a bajada de los precios (salvo excepciones como el abaratamiento de los componentes electrónicos). Lo que buscan es aumentar el margen de beneficios, amigo. Y yo estoy pensando en un modelo en el que las personas importen más que los beneficios. No me opongo a que alguien se gane la vida honradamente, pero lo que está pasando no es eso, sino que unos cuantos están podridos de dinero a base de joder a los demás. Mi opinión es que hay que tener más altura de miras y contemplar la sociedad en su conjunto. Claro, alguno pensará que somos gentuza provinciana e improductiva.
No se por qué te picas. Considero que debe haber de todo tipo de personas para llenar la Campana de Gauss. Me preocupaba solo conocer personas como yo, que miramos con cuidado los precios y a igual calidad, nos decidimos por los más baratos, con lo que obligamos a los fabricantes y comerciantes a cuidar excesivamente sus costes, no para aumentar sino simplemente para conservar sus márgenes. .
Me alegro haber conocido a alguien, que no considera importante que se fabriquen productos “con costes competitivos”, que de todo ha de haber en la Campana de Gauss.
¿Quién predica para una minoría? ¿Le estás diciendo eso precisamente al profesor que, trabajando para una de las mejores escuelas de negocios del mundo, es el que de manera más entusiasta predica la idea de sacar las cosas de su clase y contarlas en abierto en una página para que todo el mundo, pague o no pague, las pueda leer, consultar sus fuentes, analizar y comentar? Como ejemplo de «predicar progreso para una minoría» creo modestamente que estás apuntando un poco mal… :-)
Me ha entendido mal. Me refiero a algunas de sus opiniones. Por ejemplo, desde aquí parece que usted no sólo cree que la robotización del trabajo es inevitable, sino que además da la impresión de que disfruta con ello. Que le gusta que el futuro sea así. ¿Me equivoco?
Para que vea por donde voy: si el día de mañana alguien tiene éxito en crear una flota, digamos a nivel nacional de un país, de taxis sin conductor; los taxistas se quedarán en el paro y, aunque es verdad que habrá otro tipo de trabajos relacionados con el mantenimiento, el nuevo coste no podrá compararse con el coste en sueldos de todos los taxistas del país. Lo que ocurrirá será que el dueño se hará de oro más aún. La sociedad lo tendrá más difícil. Porque reciclar taxistas en programadores lo veo complicado. Además tendría un coste público y privado. Las empresas precisamente no colaboran mucho pagando impuestos (las gordas). Y digo más, ¿piensa usted que el precio del viaje bajaría en ese supuesto? Ya le digo que no. Porque durante un tiempo convivirán taxis tradicionales con los nuevos sin conductor. La empresa venderá a bombo y platillo la novedad, la seguridad extra, la calidad de la conducción o lo que ellos quieran. Los usuarios estarán encantados de pagar más. Por mucho que una empresa de esas características se gaste en los sueldos de los informáticos y los mecánicos, «racionalizará» los procesos y en cualquier caso no serán tantos sueldos como los que percibían los antiguos taxistas.
Ya sé que soy un pesado, pero permítame otro ejemplo. Hace poco, en mi pueblo han quitado la línea de autobuses que salía a las 8 de la mañana para Madrid. El otro día hablaba con un amigo de esto y su comentario fue: «seguramente tenían pérdidas». Lo que sé es que entre mi pueblo y Aranjuez subía mucha gente y raro era el día que no se llenaba. Hace años iban en el autobús dos trabajadores: el conductor y el cobrador. Te subías y ya en marcha el cobrador se pasaba y cobraba. También andaba pendiente de que se apeara una viejecita y de que no hubiera vandalismo. Había más líneas que ahora y puesto que los dueños no eran antes más tontos que ahora, imagino que había beneficios. Quizá se conformaban con menos. Ahora cobra el propio conductor y tienes que hacer cola haga frío, llueva o nieve. Hay vandalismo que el conductor se ve impedido para evitar, pues debe ir pendiente de la carretera. Si antes la compañía tenía limpiadoras, ahora limpia el propio conductor cuando puede. Aparte de que le obligan a echar horas, muchas veces en contra de la ley. Porque no descansan lo que deberían. En resumen, incrementar el margen de beneficios para unos pocos suele acarrear perjuicios para el resto de la sociedad.
A este tipo de cosas me refería cuando le dije que buscaba el bien de una minoría. Le agradezco que escriba todos los días en este blog. Sé que debe de costarle mucho tiempo. Lo leo muy a gusto. No me pierdo uno.
Espero disculpe mis modos. Ayer estaba bastante ofuscado.
No te preocupes, no necesitas disculparte :-) Sobre si disfruto con ello… es complicado. Obviamente no me gusta ver a gente que se queda sin trabajo o que ve su negocio desaparecer o redefinirse de maneras tan drásticas que no son capaces de adaptarse, si a alguien le gusta eso es que tiene un problema de sadismo. Pero como investigador, como profesor o como académico, me encanta tener la oportunidad de estudiarlo de cerca en lugar de leerlo en los libros de historia. Y en el fondo, considero que es completamente imparable, que quien intenta detener la innovación acaba inevitablemente mal – hasta el punto de que creo firmemente que es mejor no intentarlo. que siempre sale más a cuenta posicionarse a favor – y que el hecho de que me guste o me deje de gustar no resulta relevante en absoluto.
Sobre el reparto del margen… eso que describes no es así, me temo. En efecto se crean oportunidades para generar un margen más elevado, pero esas oportunidades duran solo hasta que un competidor entiende que puede cambiar margen por volumen y lanza un producto que compite contigo. La presión competitiva siempre termina por devolver las cosas al equilibrio que los consumidores demandan. Puro determinismo económico.
El determinismo económico funciona cuando no hay un monopolio de facto. En España sobran los ejemplos, por desgracia: las eléctricas, las operadoras de telefonía e Internet (el grande se come al chico y los que quedan acuerdan los precios), etc. Si quiere volvemos a lo rural. El año pasado poco antes de la temporada del azafrán, se reunieron en Alcázar de San Juan todos los «tratantes» en un hotel. ¿Por qué? Para fijar el precio de la libra. Jejeje.
Todo el mundo dice que el neoliberalismo es cojonudo, pero a los gordos dales proteccionismo.
Lo de las barreras de entrada a determinados negocios lo dejamos para otro día.
Gracias profesor.
Cuidado con eso de los determinismos :-)
En el 90% de los casos la competencia reducirá el margen, pero en el 10% restante igual resulta que no hay competencia digna de mención.
Por citar un ejemplo tecnológico, el PC sigue teniendo una gran importancia económica, pero Windows sigue siendo un monopolio de facto en el PC, y el margen que se lleva MS sigue siendo tremendo.
Esta claro que en los procesos industriales las máquinas irán poco a poco desplazándo a los trabajadores, y con la evolución de la tecnología cada vez las máquinas podrán realizar acciones más comprometidas, y no solo acciones repetitivas, sino que las máquinas tendrán capacidad de decisión. Yo no creo que esto tenga vuelta atrás, y mucho menos creo que sea algo negativo, algo que nos va a quitar el tan preciado trabajo, simplemente que el hombre no tendrá que realizar muchas acciones actualmente penosas, repetitivas, que requieran esfuerzo físico…
No he podido evitar la tentación. En realidad, el vídeo no es sobre robots (Ni tampoco el debate en este post).
https://www.youtube.com/watch?v=qgJs7uluwlU
Sobre la singularidad:
Top Ten Singularity Personalities
Questioning the Hype About Artificial Intelligence
Creo que es una idea sobre la IA o la economía algo estereotipada.
Antes de que llegue el día en que los humanos recobren sus puestos de trabajo en detrimento de las máquinas, llegará el día en que las máquinas sean capaces de organizarse de forma espontánea para crear su propio sindicato.
100% de razón, pero por lo que leo e interpreto sobre robotica y lo «poco» que se de programación lo que a mi me da la impresión es que en lo que realmente los humanos somos excepcionales es en adaptarnos y actuar respecto a nuestro entorno(llevamos milenios de evolución y selección natural que nos han llevado a sobrevivir gracias a ello) y en ese aspecto a los robots aún le queda mucho. Pero para todo aquello mínimamente repetible o parametrizable(y muchos trabajos lo son) van a ser herramientas excepcionales y disruptivas.
Para la conducción, como creo ya dijiste tu y otros hace tiempo, el principal problema de la conducción autonoma efectivamente son el resto de conductores no autonomos que son muy dificilmente parametrizables, pero eso no hace sino dar merito a que actualmente no tengamos 10 veces más de accidentes con humanos al volante.
Yo, que soy motero y he competido a diferentes niveles(no muy altos) veo con interés un robot de conducir moto de yamaha, y no hace mucho anunciaban que ese robot en breve sería más rapido que Valentino Rossi, yo, lo dudo, lo dudo mucho, podrá acercarse mucho, ganarle algunas veces o en algunos puntos concretos, pero no a nivel global.
Así tenemos 2 cosas curiosas a favor del humano:
a) Adaptación
b) Funcionamiento en situaciones límite(por ejemplo competición)
¿son la misma?