Hoy publico un artículo en inglés en LawAhead, la página de la Law School de IE University, en el que hablo sobre el futuro de la justicia, el uso de algoritmos para algunas de las fases procesales de una buena cantidad de los procedimientos que hoy en día colapsan los juzgados, y lo que deberemos plantearnos de cara a la educación de ese futuro profesional de la ley.
El artículo se titula «Algorithmic justice, education, and the lawyer of the future« (pdf), y es, básicamente, un artículo sobre innovación, sobre cómo una actividad como la administración de justicia se adapta a un contexto nuevo y pasa a reinterpretar el uso de herramientas para ser capaz de automatizar con criterio y sensibilidad una buena parte del trabajo que desempeña, al menos en sus partes más repetitivas, mediante algoritmos capaces no solo de ejecutar condiciones simples de manera burda, sino de aprender de los datos con los que los alimentamos. La idea de justicia algorítmica no tiene que implicar una percepción de justicia menos elaborada o «de segunda», sino que puede realmente convertirse en una muy buena y muy lógica solución para muchos casos, con la sensibilidad adecuada como para captar todos sus matices, plantear las decisiones adecuadas en cada momento, y evitar la triste realidad del «justice delayed is justice denied«.
Un fragmento del artículo en español:
Durante toda la historia de las tecnologías de información, un ordenador ha sido visto como una máquina para automatizar tareas repetitivas. En el caso del profesional jurídico, un ordenador suele ser, básicamente, una herramienta ofimática, una máquina capaz de procesar textos, operar números, hacer presentaciones o servir de interfaz para consultar bases de datos. Sin embargo, el machine learning está logrando sublimar este principio: sin ánimo de entrar en la hipérbole y de terminar ilustrando esta pieza con la imagen de un robot Terminator, como ocurre aún en la mayor parte de los medios de comunicación generalistas, la idea de pasar de utilizar un ordenador como una máquina de escribir o una calculadora glorificadas y empezar a verlo como algo capaz de aprender de unos datos y llevar a cabo tareas complejas es algo que va a ser preciso fijar como concepto en la formación de todo profesional jurídico.»
This post is also available in English in my Medium page, “Algorithmic justice, education and the next generation of lawyers»
«…. , sobre cómo una actividad como la administración de justicia se adapta a un contexto nuevo y pasa a reinterpretar el uso de herramientas para ser capaz de automatizar con criterio y sensibilidad una buena parte del trabajo que desempeña, al menos en sus partes más repetitivas, mediante algoritmos capaces no solo de ejecutar condiciones simples de manera burda, sino de aprender de los datos con los que los alimentamos. …»
Lo que a mi me gustaría saber, es si el artículo habla de ciencia/ficcion o de realidad. Es decir, si en algún país se ha procedido ya a sustituir en alguna parte del proceso judicial. a los jueces o auxiliares de justicia, (secretarios judiciales, adinistrativos, etc), por «algoritmos» que realizan ya algunas funciones que antes la judicatura tenían encomendada, (por ejemplo, conceder la libertad provisional, o calcular las indemnizaciones pecuniarias), o se habla de algo, que alguna vez, se hará en las administraciones de justicia..
Lo digo, porque en todas estas cosas relacionadas con la IA y la robótica, se riende a mezclar mucho los, (razonables y probables), sueños de progreso, con la prosaica realidad.
Sí, varios estados de los Estados Unidos, por ejemplo, es un algoritmo, COMPAS, el que asesora al juez sobre la probabilidad de reincidencia de un delincuente, y el juez utiliza esa información para tomar decisiones sobre la sentencia…
Algo es algo
Segun he podido deducir, COMPAS poco o nada tiene que ver con un «algoritmo que utilizando IA» decida que probabilidad de riesgo de reincidencia tienes,
COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), es un cuestionario que se da a las personas cuando son arrestadas. Le preguntan un montón de cosas en un test preimpreso, que «termina» el riesgo de que esa persona en el futuro pueda cometer un crimen.
Las preguntas incluyen aspectos como:
«tu historia criminal, si algún miembro de tu familia ha cometido un crimen o ha sido arrestado, si vives en un barrio peligroso, si tienes amigos que pertenecen a una pandilla, tu historial laboral y académico».
A eso le suman preguntas que podíamos denominar pensamiento criminal, que son algo así como: ‘¿está de acuerdo o en desacuerdo con esta afirmación: está bien para una persona hambrienta robar comida?'».
Cada respuesta recibe una puntuación de 1 a 10. El valor promedio decide si alguien puede salir bajo fianza, debe ser enviado a prisión o recibir otro castigo. Cuando la persona ya está encarcelada, el algoritmo determina si merece el beneficio de la libertad condicional.
Si COMPAS es tal como yo entiendo, nada tiene que ver con «algoritmos controlados por IA» o algo parecido, COMPAS no es mas que un test sicológico, donde la puntuación que consigues, «ayuda a decidir» al juez si te manda a a casa en libertad provisional o a la trena.
Sinceramente, el sistema muy «tecnológico y moderno» no parece, o al menos no lo es mas que someter al preso, a unos test propuestos por algún psicólogo tradicional..
Parece más una coartada cutrona para mandar a negros pobres a la cárcel con más agilidad y descargar la conciencia del juez, ahora ya no serán racistas porque «la ciencia» ha hablado.
Algoritmo e IA, no son sinónimos.
En el caso de COMPAS es evidente, se utiliza un algoritmo determinista, aparentemente muy simple que ofrece un resultado.
La inteligencia se aplicaría si ese mismo algoritmo es modificado por los resultados de su aplicación.
Si esa aplicación que modifica el algoritmo, en función de resultados, no la hace un ser biológico sino una maquina, ya entramos en el campo de la IA.
Se me olvidaba. Mi fuente «¿Cómo en Estados Unidos las matemáticas te pueden meter en prisión?»
https://www.bbc.com/mundo/noticias-37679463
Estoy leyendo el libro Life 3.0 de Max Tegmark y hay una parte relacionada con el tema. Desde luego que la tecnología ayudaria a desatascar parte de la burocracia del sistema judicial.
También en Brasil y Colombia ya existen una infinidad de desarrollos y herramientas que apoyan el proceso legal. Este tipo de tecnologías se conocen como law-tech.
A quien le pueda interesar el enlace muestra el cuestionario:
https://www.documentcloud.org/documents/2702103-Sample-Risk-Assessment-COMPAS-CORE.html
Mucha IA no parece que tenga. Al final es lo mismo que un cuestionario que haces en la revista PRONTO, contesta a unas preguntas, y sobre las respuestas obtienes una puntuación.
Los jueces tendrán algún protocolo parecido, al final, sobre una serie de cuestiones (antecedentes, compañias, estabilidad social,…) deciden si vas a acompañar a Rato o no.
Si este «algoritmo» manual se incluye en un proceso estadístico( ya se que os gusta llamarle ML) se medirá si es efectivo o no. El problema es que si te mandan a chirona ¿Cómo vas a no delinquir y probar que no eras merecedor de una preventiva? In dubio pro reo, en el derecho anglosajón se lo pasan por el forro…
La IA no está, obviamente, en la captación de los datos, que por supuesto hay que hacer como se ha hecho toda la vida (¿Qué queréis? ¿Qué saque los datos por ciencia infusa o por telepatía??) sino en su tratamiento posterior, desarrollado en función del análisis de millones de casos procedentes de la jurisprudencia.
La administración de justicia es una de las funciones que mas facilmente se puede informatizar. La función de un juez es aplicar un conjunto de reglas, leyes, normas, etc a un conjunto de datos que son lo hechos a juzgar. Un programa de ordenador hace básicamente lo mismo.
El sistema sería mucho mas justo ya que no esta sujeto a la subjetividad del juzgador. La jurisprudencia se aplicaría de forma instantanea y desde luego los tiempos serían mucho mas cortos.
¿Podrían haber errores?, probablemente, pero también los hay ahora, solo que en este caso los errores se retroalimentarian de forma inmediata de forma que no se reprodujeran.
Creo que el artículo esboza unas ideas generales plausibles y loables, si bien su falta de concrección da origen a algunos comentarios de más arriba desenfocados. Efectivamente, como profesional, abogado, creo que cabe la AI para servicios de consultas e informes, (véase ya en marcha el proyecto WATSON) y, por lo que viene al caso del artículo, también sería ya posible la automatización de un montón de tareas que son las que de hecho colapsan la administración de justicia. En concreto, las tareas de agendar los señalamientos, emisión de citaciones, adjudicación de números de registro, reparto, dación de cuenta y diligencias de ordenación, y un largo etc., podrían perfectamente automatizarse o robotizarse y aún más si se lograran conectar con el sistema Lexnet. Otra cosa es las providencias, autos y sentencias. Ahí ya sería cuestión de ver donde puede llegar la idea del sistema Watson, pero lo anterior disminuiría la burocracia-carga de trabajo (y el empleo) en más de un 80% y posiblemente en la misma medida disminuiría el colapso actual.
Joan Marti (abogado, Gandia, por cierto, el otro día, después de estar inscrito, no pude ir a verte, al confundir la hora de la conferencia de las 9,30 con las 21,30 que tenía anotado en el google calendar; falló el humano, no la máquina). Un saludo y gracias por estos interesantes posts que tanto nos hacen reflexionar en el presente y en el futuro.