El pasado 6 de junio tuve la oportunidad de asistir a un pase privado de la coproducción hispano-portuguesa «Justicia Artificial«, un thriller de ciencia-ficción política dirigido por Simón Casal e interpretado por Verónica Echegui, Tamar Novas, Alba Galocha y Alberto Ammann.
La película se estrena el próximo 13 de septiembre, y me ha gustado un montón: un planteamiento en el que una hipotética presidenta de un gobierno de España plantea un referéndum para aprobar el uso de un algoritmo para la administración de justicia, con el ánimo de reducir el colapso del sistema judicial y de tratar de impartir una justicia dotada de una mayor objetividad y despolitizada, sustituyendo, en la práctica, a los jueces y juezas en todos los tribunales del país.
Además de una fotografía muy buena de Diego Cabezas en escenarios de mi querida Coruña, la película plantea el dilema del uso de algoritmos para la toma de decisiones en la administración de justicia tratando de poner todos los elementos encima de la mesa, sin tomar partido de una manera clara, y permitiendo que sea el espectador el que lleve a cabo el proceso de reflexión, sin prescindir de los tópicos, pero dejándolos en eso, en tópicos de distinto signo que son durante la trama esgrimidos por ambas partes: la compañía que desarrolla el algoritmo, las asociaciones de jueces, etc.
No todo es perfecto, por supuesto: la conceptualización en torno a los vehículos autónomos, que son representados como supuestos tomadores de decisiones sobre la vida y la muerte de sus ocupantes (algo que sabemos que nunca va a ocurrir y que no corresponde más que a la creencia de que los dilemas éticos como el del tranvía pueden ser supuestamente trasladados al mundo real), supone un error desde el punto de vista del planteamiento tecnológico. Pero objetivamente, puede ser un error razonablemente excusable en un consenso social como el actual, en el que efectivamente la mayoría de la población sigue creyendo erróneamente que los vehículos autónomos toman realmente decisiones sobre la vida de sus ocupantes o de los peatones (decisiones que, por supuesto, nunca son dicotómicas y jamás tendrán que ser programadas por nadie).
Pero más allá del uso de un vehículo autónomo para cerrar una de las tramas, el desarrollo de la historia es el de un thriller muy bien llevado, la construcción de personajes me pareció muy lograda, y la película tiene, por encima de todo, el mérito de favorecer la reflexión, haciendo un planteamiento muy bueno, muy abierto y razonablemente ecuánime, que deja al espectador en buena posición para pensar sobre el tema.
No soy crítico de cine ni pretendo serlo, pero dado que la justicia algorítmica fue uno de los temas que me tocó discutir con cierta amplitud en la época en la que formé parte del Consejo Asesor para la Innovación en la Justicia en el año 2018, la película me resultó muy interesante (y más aún la oportunidad de discutir algunos temas con su productora, Chelo Loureiro, tras la proyección), y me sorprendió muy positivamente la sensibilidad con la que trataba un tema que creo sinceramente que acabará estando encima de la mesa y siendo objeto de un muy interesante (y necesario) debate en nuestras sociedades.
This article is also available in English on my Medium page, «Artificial Justice, a provocative look at how AI may impact our lives«
Aun cláramente es ciencia ficción, pero que un «algoritmo» tome decisiones trascendentes en un futuro es seguro, en áreas como justicia, como plantea esta película, en medicina, en genética, en estrategia, tanto de empresas, como del ejército… será una realidad que se introducirá poco a poco y no creará ningún trama, porque nos iremos acostumbrando a ello.
¿Alguien protesta cuando el «algoritmo» del ascensor decide moverse en una dirección y pararse en determinadas plantas? ¿Alguien protesta porque el «algoritmo» que regula los semáforos,»favorece» a determinados sentidos de circulación en detrimento de otros? ¿Alguien protesta por que un «algoritmo» decida cuando da la salida a los autobuses urbanos en la cabecera de línea? ¿Alguien protesta porque el «algoritmo» del Cajero Automático, se niega a darnos el dinero de nuestra cuenta corriente, porque duda de si somos nosotros?
Poco a poco nos acostumbraremos a que los «algoritmos», tomen decisiones cada vez mas trascendentes, porque no lo harán de golpe, sino pasito a pasito como ya esta sucediendo sin que nos demos cuenta. ·
Creo que desafortunadamente tienes razón. Y digo desafortunadamente porque no es lo mismo usar algoritmos para automatizar y optimizar tareas (tus ejemplos) que usarlos para decidir el futuro de una persona. Los ejemplos que pones te pueden conducir a un cabreo puntual, pero lo que plantea la película decide sobre el resto de tu vida.
No hay algoritmo, IA ni ML sin los sesgos de sus creaodres y de los datos con los
Hoy hay mismo, un algoritmo que decide si tienes cáncer de pulmón, o no, viendo una radiografía. De quien te fias mas, ¿De un un aparato que revisa radiografías sistemáticamente buscando nódulos cancerosos, o de un médico aburrido de ver radiografías un hora tras otra?.
Eres especialista en poner ejemplos falaces. Una radiografía son datos incontestables. Esto es lo que hay con tus pulmones, por ejemplo.
En un juicio las cosas no son así, testimonios más o menos fiables, defensas y acusaciones más o menos efectivas. Y pruebas que pueden ser determinates o no.
Un juicio no es como mirar un dato incontestable como es tu radiografía.
En serio, puedes pasar de mi.
Y si tú te crees que los datos que arrojan una radiografía son incontestables, vas dado de cojo***es. (Por eso pasa lo que pasa muchas veces en medicina últimamente…)
sigo….
…con los datos con los que las alimentan.
No obstante, y vistos los sesgos de la administración de justicia en España, impartida por humanos, quizá hasta fuera conveniente.
Espero ansioso al primero que mencione Minority Report… XDDD
No quiero ser catastrofista pero con el actual panorama del sistema judicial en España no estamos tan lejos de llegar a situaciones de insumisión y de que algunos desesperados, visto todo perdido injustamente se tomen la justicia por su mano. Empezando por los jueces.
Los jueces en este país, hace mucho, mucho, pero mucho tiempo que se han tomado la justicia (venganza), por su mano, pero mucho. Pero hay también mucha gente que no se han enterado, -ni quiere-, y otros, muchísimos, que les parece de lo más natural del mundo.
Por lo pronto, juegas con ventaja… nos hablas de una película que ninguno hemos visto (y tardaremos) así que no podemos opinar.
Aun así, ya que nos abres el debate:
– Podría la justicia ser mas “justa”, siendo manejada por un algoritmo?
Meeeck, error. Sera “justa” en la medida, que quien esté detrás de ese algoritmo y lo programe, lo sea… Sesgo al canto.
– Podría darse el caso del dilema del tranvía?
Si 20 peatones deciden (por su cuenta, claro), atravesar la Gran Vía, 19 por un lado y uno por el opuesto, todos ellos con semáforo en rojo…
Que haría el vehículo? Se clavaria al instante provocando un accidente con el vehículo que le precede?
Si el vehículo “calcula” que la catástrofe es inminente, arrollaría a solo uno?
Pasaría por medio llevándose al uno de la izquierda y a 8/10 de la derecha?
De nuevo… Meeeeck… Estaría el algoritmo preparado para una situación así? Lo dudo.
Veo claro, que en determinados casos (hablo de justicia) el algoritmo podría resolver ciertas situaciones: Te han pillado con 0,80 de alcohol en sangre en un control, no hay excusa.
Como se resolvería algo “tan fácil” como un caso de divorcio?
Como se resolvería algo “tan fácil”, como una agresión?
Solo por citar dos que me vienen a la cabeza…
En el primer caso, el algoritmo tendría en cuenta quien le puso los cuernos a quien?
Quien gana mas para ser equitativos en el reparto?
Que quieren hacer los hijos para decantarse por un progenitor u otro?
En el segundo, tendría en cuenta que la agresión, pudo haber sido provocada después de muchos intentos de evitar la pelea?
No nos flipemos. Asimov (y otros muchos) nos han regalado momentos preciosos con su literatura… pero muchos casos, casi la mayoría, van a precisar de esa “interpretación humana” de la ley, que todo sea dicho de paso, por humana, no siempre suele ser… “justa”.
El algoritmo no tendría en cuenta el tema de los cuernos de la misma manera que no lo tendría el juez.
Igual me equivoco, es posible… pero algo me dice que pocos procesos de divorcio has vivido «judicialmente hablando»… sin acritud…
En cualquier caso, intentaba dar a entender, que no todo es blanco o negro en la judicatura y que para bien o para mal, el factor humano, existe. Pero que siempre sera preferible, a algo automatizado que solo va a ver, esos «blancos y negros» y actuara en consecuencia…
En los tiempos que corren que la justicia está manejada y secuestrada por un partido político para no aplicar la democracía que los ciudadanos con nuestros votos decidimos en un sentido, el confiar en un algoritmo se me hace harto dificil pensar que empeoraría. ¿o no?
Si ahora no cumplir la Constitución en lo relativo a la justicia es tan sencillo como decir «no me pongo de acuerdo,» que sería en el caso de que una caja negra, programada por empresas afines a «alguien» y con algoritmos que basan su inferencia en la obscuridad más absoluta… ¿que futuro nos esperaría? Pues el mismo que cuando chatgpt le atribuye esposas e hijos worldwide !! :ALUCINANTE, en el sentido IA de la palabra.
A veces tengo envidia de sus enchufes, me gustaría ver ya esa película
Pues prefiero ser juzgado por un juez que sea una persona medio normal que por un algoritmo por bueno que sea.
Una persona puede reflexionar sobre sus errores, un algoritmo no, es como esos vigilantes del campo de concentración de Mathausen que «sólo hacían lo que les mandaban».
Paaaammm +1000
Pues una IA juez sería infinitamente mas neutral y objetiva que un juez humano.
Solo tienes que ver a los jueces del Tribunal Supremo de Estados Unidos que se supone que deberían ser el paradigma de la objetividad.
Te lo repito….
«Meeeck, error. Sera “justa” en la medida, que quien esté detrás de ese algoritmo y lo programe, lo sea… Sesgo al canto.»
Si ya esta pasando ahora con el GPT…
¿Pero usted aún cree en eso de que los EEUU son el ejemplo de alguna cosa, o sea, de nada? Dios mío…
Define eso de un juez «medio normal». Que es un juez » medio normal»? según tu.
Que es medio anormal, ni más ni menos.
Ciencia ficción habemus… y mucha mecánica cuántica.
Lo de Hal en 2001 tiene su pega, pero parece ya entendible hoy en día (parte por intuición)… no solo la mente humana se disloca/delocaliza de cuando en vez… la cantidad de entropía mental necesaria, para un disloque de circuitos neuronales es lo que podemos llamar cantidad crítica… y cada cerebro la tiene en niveles muy diferentes. Y ahí puede más el ADN que el ambiente/ecosistema (salvo tras maltrato físico y mental).
Los alienígenas que son solo energía, si es que los hay (mucho más que las meigas), pueden materializarse «a gusto». Ya no tiene tanto de ciencia ficción, si entendemos la íntima unión de materia y energía, que existe a nivel cuántico. No es madera que arde!!!
Aunque, como siempre, hay que tener mucho cuidado ya que no se trasmuta tan fácil como una partícula energética/material cuántica, lo que es un montón de ellas, organizas en modo proteína. Y mucho menos en modo molécula. Ya no digamos un órgano… y menos aún un aparato… el cuerpo humano, con mente incluida, ya lo dejo aparte . Y por eso mismo, el teletransporte de Star Trek no tiene ni pies ni cabeza (científicos).
Así que, si el coco de un juez (no español, porque «esos» ya se sabe) no está libre de marear la perdiz, cuando trata de sacar una conclusión macroscópica, a partir del funcionamiento cuántico de su mente, (o de la suma de un jurado), entonces pensar que un algoritmo lo tiene mejor… pues, en fin. El algoritmo ni tiene la cara del juez o del jurado, para ponerse colorado por razonas como un puto pato. Él es todo microscópico. Más bien una jodida virtualidad, por mucho que llegue a decisiones que una mente macroscópica (la segunda, después del siliconado programador) vaya a hacer «su» interpretación, de lo que interprete, a su vez, e el algoritmo. Vamos que ni Hollywood!!!
Pero sobre todo, porque la naturaleza (sea lo que eso s a) tuvo millones de años para ir seleccionando el mejor material, para dar un edificio macroscópico, y altamente complejo. Todo a partir de meras partículas de materia/energía totalmente microscópicas. Casi virtuales!!!
Hasta el gran invento de El Mulo asimovniano, resulta que chirría precisamente por ese carácter microscópico (casi virtual) del funcionamiento interno de la mente humana. Sea mutante o no. Que no va ser más listo El Mulo que la Naturaleza (sean lo que ambos sean). Y por eso precisamente ese mutante no pudo evitar que su mente fuera por libre, al enjuiciar la peligrosidad de una mujer que acabó con él. Nada más optimista que un algoritmo o quien lo programe. Todos tiene algo en común : desprecian el trabajo mutante de la naturaleza (sea lo que…). No hay laboratorio humano que se le parezca a esa obra genial de la naturaleza… ni en purita ciencia ficción!!!
No he entendido una sola frase de tu comentario
Chupito… XDDD
Es un thriller político, no ningún ensayo social. Parte del planteamiento de que la Justicia está politizada y hay que ponerle remedio, lo que ya de por sí desvirtúa cualquier otra cuestión.
Comienza desde sesgo del papel de los jueces, en la justicia ordinaria, y los sitúa como actores políticos. Ese argumento en si mismo, es un discurso político que podemos ver tanto en la ultra-derecha como en el populismo de izquierda. (Pepsi y Coca-cola)
Cuando se cuestiona un contrapoder y su independencia, ya se está intentando menoscabar el papel de la igualdad de las leyes y el rol de protección de las instituciones como contrapoder de las posiciones políticas. Un planteamiento de base de muchas distopías autoritarias.
El cine a veces es una vulgarización de debates sociales, en este caso, tanto del papel de la Justicia como de la Inteligencia artificial, que cae en los clichés políticos de moda. Lo que nos están proponiendo aquí, es una justicia subordinada a las bajas pasiones ideológicas.
Y la inteligencia artificial, es un Montesquieu venido a menos, un macguffin.
Desacreditar tanto la independencia de la Justicia, atribuyéndole una clase social o una motivación política, como a los intereses económicos que supuestamente guían a la Inteligencia artificial, es un discurso bastante chusco.
¿Tiene la justicia un rol social, una política? si claro, la de hacer frente a la actuación de otros poderes de forma independiente y de garantías fundamentales. Es un contrapeso de independencia política.
Hay una frase que es tremenda, la de que «el algoritmo es capaz de gestionar un juicio más rápido de lo que un juez tarda en gestionar una baja por depresión» si hago alguna broma sobre la rapidez de algunos políticos y la inteligencia artificial de sus teléfonos, la liamos.
No hay un debate real sobre la inteligencia artificial y su papel en la narración o capacidad de emitir juicios, porque con estos mimbres, debe estar bebiéndose la bodega del Robby el Robot.
Es una inteligencia artificial moldeada a un ‘deus ex machina’ subyugado al poder económico, un cliché que apenas enfrenta ningún dilema social.
No es The Handmaid de la IA. Nos podemos divertir más con políticos elegidos por Inteligencias artificiales, como candidatos. Cualquiera puede ser el próximo presidente. O un «Source Code» sobre el 11 de marzo.
–
«How difficult it is to move or inflect the great machine of society, how impossible to advance the notions of a whole people suddenly to ideal right»
Infumable tu discurso y su presuntuosidad, a la que nos tienes acostumbrados, ser de luz.
Pretendes que no se pueda cuestionar la imparcialidad de la justicia porque «ya de por sí desvirtúa cualquier otra cuestión». Claro, es una cuestión de fé. ¿No te jode?
A otro perro con ese hueso.
«Desacreditar tanto la independencia de la Justicia, atribuyéndole una clase social o una motivación política, como a los intereses económicos que supuestamente guían a la Inteligencia artificial, es un discurso bastante chusco.»
Seguramente con bastante chusco te refieres a que es bastante contrario a tus intereses, porque hacer esa crítica no sólo es muy sano sino que es fundamental en un sistema democrático. Y ni la justicia se libra de eso. Por sanidad y calidad de la democracia.
+1000 xd
Y sin poner enlaces absurdos a youtube, ni usar latinismos, ni anglicismos, ni hostias. En serio, mírate eso. Aquí entendemos bien el español.
Puedo refutarte con un par de noticias de ayer, tanto de abc como elpais (presuntamente centro-derecha y centro-izquierda), ambos acusando de lawfare al contrario, nada de populistas ni ultraderecha (términos que por otra parte ya te categorizan). Pero paso
Y a mí qué me cuentas.
–
En España el algoritmo de administración de justicia tendría en su interfaz un apartado llamado «settings». Con varias opciones y su correspondiente casilla de verificación.
( ) Gobierno del PP
( ) Gobierno del PSOE
( ) Gobierno de VOX
( ) Gobierno de rojos (usar con precaución)
Usar con precaución? En fin, me ahorraré insultos porque luego el culpable no es el que ataca, sino el que se defiende….
Y por supuesto: de acuerdo a la constitución, el poder de las instituciones EMANA DEL PUEBLO SOBERANO. Y como los jueces del supremo y del constitucional sientan jurisprudencia, ES DECIR CREAN NUEVA LEGISLACIÓN, sus componentes deben elegirse por el pueblo. Entiendo que es la primera vez que escuchas este argumento, sobre todo por cierta campaña ideológica de cierta gente que quiere hacerte creer que los jueces y LOS JUECES es lo mismo. Vamos, que te la han colado
Sin haber visto la película, ya tengo ganas.
¿No es que en estados unidos ya hay unas IAs para calcular las penas y el dilema era que castigaba más a los afroamericanos por sus supuestas altas tasas de reincidencia?
En diablo está en los detalles. Quien programe el algoritmo no será imparcial. Además, con cada nueva ley (como el «sí es sí») obligará a rehacer una buena parte del código sobre las condenas.
Y creo que todos apelarían hasta tener un juez humano, igual que todos en el contestador robótico pedimos al «operador» o «humano»
Pues no es «justicia», pero por ahi van los tiros…
Una IA ha creado el guión de una película que precisamente habla de la creatividad en el cine. Una sala se niega a estrenarla
No soy precisamente un entusiasta de la IA … pero cualquier cosa antes que un juez español.
Eso sí, sin nuestros queridos jueces y sus creativos autos para perseguir a sus rivales políticos, la ciencia ficción perdería mucho.
Y hoy mismo, hemos vivido un buen espectaculo de ello… con ese tal Aguirre… que igual esta buscando «el Dorado»…
No podemos dar mas pena internacionalmente… y aun dicen de dejarlo en manos de una IA… hecha por quien??? XDDDD
¿Has visto salir a alguien a la calle por todo eso? ¿Lo has visto? ¿Siquiera a un abogaducho típico españoliense? ¿Verdad que no? Pues toma nota y ponte a pensar.
ojalá no se demore demasiado en empezar a aplicarse la justicia al algorítmica.
cada día que pasa tengo la sensación de estar en manos de ganapanes con toda.
iré a ver la película si tengo oportunidad, muchas gracias
No caerá es breva.
Una Justicia-IA en vez de la «justicia» constitucional española sería como el paraíso inicial del la película Legend de Ridley Scott. Seguro que esa Justicia-IA hubiese reprimido las corruptelas de juan carlos, los GAL, los 8.500 casos de tortura en Euskadi, el 23-F, la «gestión» de las cajas de ahorro y el BdE, los invitados de la boda de la hija de Aznar…. en fin…
Desde luego que la película trata un tema interesante. Sabemos la enorme utilidad de la IA en medicina, seguridad ciudadano, y tantos otros campos, que como no, debe de ser así para la justicia.
Creo que una buena manera de introducirla sería en control de calidad de los jueces. Se introducen los datos de todas las leyes, todas las sentencias (aranzadi) y todas las diligencias judiciales desde 1980, y se pide a la IA una sentencia sobre un caso, con todas las diligencias y sentencia hecha por el «juez» español. Se podría hacer un scoring de la «sentencia» del «juez» español comparándola con la sentencia de la IA. Podríamos así puntuar y evaluar a los jueces.
Busque, compare y si encuentra algo mejor, cómprelo!
Pues no entiendo el interés y las ganas de aplicar AI al papel del juez, cuando la verdadera utilidad vendría de aplicarla a todo el papeleo administrativo que rodea los juzgados, liberando tiempo para que las personas puedan tomar decisiones de forma más pausada. Aplíquese esto al resto de Admin públicas
Eso es. Ahí hay una ganancia brutal en tiempos y costes. Lo mismo para tus abogados. Y bueno, en general para todos los procesos administrativos
La administración de justicia es, en un porcentaje abrumador de su volumen de trabajo, mero papeleo administrativo. Burocracia pura.
Esto provoca retrasos injustificados, que en muchos casos suponen de por si una injusticia flagrante.
No, el verdadero problema de la justicia no es la falta de imparcialidad, por mucho que pueda llamar la atención en determinados casos mediaticos, es su exasperante lentitud.
Y es ahí donde la IA puede, sin duda, ayudar de verdad sin necesidad de esperar a que evolucione mucho más.
Porque la justicia, para ser justa, debe poder aplicarse en un plazo razonable (sin hablar de las costas)
Pues con el facherío judicial español y su ejército de jueces con dientes amariilos y fascistas no me queda otra que rezar por la imposición de justicia por algoritmos, algo que en nuestro país supondría un avance democrático de consecuencias incalculables!