La inteligencia artificial y los sistemas predictivos de Justicia

Contratos, inteligencia artificial, informática jurídica, informática de ayuda a la decisión

La interpretación de los contratos y la IA.

Ya en la conferencia que dio el profesor Omri Ben Shahar, de la Escuela de Derecho de la Universidad de Chicago, en el Centro de Derecho y Tecnología de la Universidad de Hong Kong (HKU) el 9 de Noviembre de 2017 (1) se estaba comenzando a hablar de la informática jurídica decisoria y los algoritmos predictivos de resultados judiciales.

Al referirse a la cuestión del Big Data y el litigio en su exposición, el conferencista expresa que la disputa más común en el derecho contractual es la interpretación de los contratos, es decir, como interpretar el lenguaje de un contrato.

En nuestra opinión el problema que se vislumbra en el desarrollo de los sistemas para predecir decisiones judiciales radica en que los jueces manejan suposiciones mentales, información y experiencias diferentes a las de las partes.

La verdad de esta premisa se pueden verificar de manera empírica mediante el análisis de los casos contractuales que llegan a los tribunales y mediante estudios científicos interdisciplinarios acerca del pensamiento de los jueces y de las partes sobre distintas cuestiones.

La interpretación de un contrato depende de las funciones y estructura del lenguaje. El significado y los problemas como la ambigüedad y la vaguedad repercuten en la administración de justicia. Dado que la argumentación no es una demostración y no hay manera de determinar si un argumento es mejor que otro se hace necesario ponderar. Y dado que no hay una teoría de la argumentación que nos de herramientas para ponderar carecemos de un método objetivo y confiable para resolver controversias. Solo tenemos reglas razonables que desechan argumentos que no funcionan. Por lo tanto la ponderación es un resultado valorativo mental del juez para sopesar derechos de ambas partes. El juez termina el conflicto pero no lo resuelve.

Por otra parte, la inteligencia artificial permite el desarrollo de comportamientos basados en el aprendizaje y tiene la capacidad de generar relaciones entre conceptos y transferirlas a situaciones nuevas. Se puede manejar grandes cantidades de información con una visión integradora de la realidad que permite describir y comprender lo complejo y lograr de este modo una mayor eficacia en la acción. Las computadoras aprenden a resolver problemas observando cómo fueron resueltos problemas semejantes. También son capaces de advertir la semejanza entre cierto modelo que mantienen en su memoria y una realidad que se les presenta, teniendo cierta flexibilidad al apreciar la semejanza entre ambos términos de la comparación.

Cualquier sector de la realidad que nos interesa se puede examinar con un nuevo esquema de interpretación y ser estudiado con un tipo de razonamiento y de cálculo artificial multiplicador de la capacidad de razonamiento ideal del hombre.

Mediante la informática aplicada al derecho se pueden establecer modelos formales de razonamiento jurídico que la máquina puede comprender y manejar. Quizás este cambio importará una revolución científica que implica el paso de la visión cartesiana del mundo a un nuevo enfoque.

Muy probablemente se debería redefinir el lenguaje del derecho y concebir de otro modo el fenómeno jurídico. Tal vez mediante la informática jurídica decisoria se lo podría considerar como un sistema de criterios de decisión de situaciones y conflictos. El origen de estos criterios -una divinidad, etc- no importaría ya que lo importante es que se diga de manera clara cuáles son.

¿De qué factores ha de depender la mayor o menor plausibilidad del argumento?.

Respecto a la solución de utilizar encuestas a las partes típicas de diferentes contratos para interpretar el lenguaje en disputa y que los jueces tomen en cuenta lo que dijo la mayoría, la autora considera que la posición asumida por la mayoría gana porque no hay una verdad única. Esta idea se corresponde a una postura no descriptivista a la que adhiere.

Como los humanos tenemos grandes divergencias entre nuestros sistemas de preferencia llamados morales, la argumentación no contiene todos los elementos necesarios y la valoración depende de emociones psicológicas es que inventamos al Poder Judicial. El derecho da seguridad jurídica donde diferentes personas tienen distinta ética, metaética y opinión. Si bien es lo mejor que conseguimos tal vez con la inteligencia artificial se puede perfeccionar.

Mediante la inteligencia artificial se podría buscar una solución al problema de la predictibilidad de los juicios, lo que daría mucha claridad. Si existiera la posibilidad de pronosticar sobre un juicio podría ser que los ciudadanos comenzaran a confiar más en la administración de justicia. Muchas disputas se podrían arreglar en las oficinas de los abogados, llegarían menos controversias a juicio porque el abogado les anticiparía como van a concluir y habría menos personas que quisieran arriesgarse a un resultado porque se sabrían bien los criterios judiciales de antemano. Los juicios durarían menos y se ejecutarían más rápido.

Esta nueva metodología permitiría interpretar una gran variedad de sectores de la realidad, intercambiar conclusiones y manejar problemas dinámicos y complejos con una novedosa eficacia. Y dado que las ciencias sociales no son imparciales, que los conceptos que manejan repercuten en el campo afectivo y que emplean lenguajes con carga emotiva, la eliminación de tales características podría llevar a esas ciencias a un nivel de evolución y utilidad mayor al actual, abrir nuevos campos de tecnología y modificar nuestra vida cotidiana de un modo radical. Es muy probable que a un profesional del derecho le guste poder utilizar estos nuevos avances en su trabajo cotidiano y también se generarían investigaciones más profundas de estas cuestiones a nivel académico.

Al utilizar encuestas enormes hechas a las partes típicas de un tipo de contrato para interpretar el lenguaje en disputa habría que mostrarles los términos de dicho contrato y preguntarles que significado es para ellos el correcto.

Donde no hubiere un consenso claro entre quienes responden a la encuesta, los jueces deberían sostener que el lenguaje se considera ambiguo y tomar uno de dos caminos: aplicar presunciones según la carga de la prueba o ir a juicio.

Tomar en consideración la interpretación de las partes y no la de los jueces en este tipo de encuestas se condice con la autonomía de la voluntad que prima en los asuntos contractuales, más aún en el derecho anglosajón. En lo referido a los casos en que no se logra una clara mayoría y que el juez deberían sostener que el lenguaje se considera ambiguo y aplicar presunciones según la carga de la prueba o ir a juicio se pone en evidencia que de todos modos estos sistemas predictivos de justicia dependen de la discrecionalidad humana en cuanto esta estipula que casos quedan comprendidos y cuáles no y en qué circunstancias y el proceso sigue humanizado.

Al menos en la actualidad la utilidad de las computadoras se halla limitada por la forma en que el hombre les presenta la realidad, lo que también le da al hombre un control sobre la máquina. El tiempo y los avances tecnológicos nos darán más respuestas y nos presentarán nuevos desafíos. Los frutos de esta metodología dependerán de cómo se la aplique.

Esta solución, como todas, es imperfecta. Para llegar a la conclusión se acumulan razones, pero no se tienen todas las premisas. Es que si se quiere sostener una posición todas las razones a favor serán insuficientes.

Siempre puede haber contrargumentaciones. En este caso, podrían presentarse en la preocupación de que la informática jurídica decisoria llegue a cristalizar la legislación existente y reducir el progreso legal. Aunque esta crítica podría rechazarse sosteniendo que los modelos sistémicos cibernéticos como metodología científica se aplican a una realidad dinámica y cuando ésta cambia, cambian las soluciones.

Es determinante la necesidad de hacer pública la discusión y el análisis de los nuevos criterios tomados. Se debe avisar cuando se están modificando las condiciones y el modelo debe estar sujeto a modificación por el poder legislativo, los abogados y los jueces y expuesto al ojo público.

Se puede decir también, desde una postura descriptivista intuicionista, que la máquina no tiene la intuición necesaria para darse cuenta de cómo alcanzar el ideal de justicia. Pero, a diferencia de lo que sostiene esa postura, el concepto de justicia es inalcanzable dado que lo único alcanzable es la seguridad jurídica; es lo único que tiene el derecho para ofrecer y con esta nueva tecnología se lo puede perfeccionar.

Los elementos de la interpretación sistémica se describen en proposiciones que sólo pueden calificarse de verdaderas - o falsas- por referencia al esquema que las contiene. El esquema mismo no es en sí verdadero ni falso, lo que se condice con una postura no descriptivista a la que la autora adhiere.

Se puede sostener que las posturas metaéticas son éticas, no jurídicas y que no hay verdades éticas, hay valoraciones individuales que pueden explicar los motivos de por qué es más conveniente una cosa que otra al tener un sistema de preferencias morales. No hay un ideal de justicia asequible por la intuición por el cual unos están en lo cierto y otros equivocados. La evolución científica reciente muestra que este nuevo sistema funciona ya que lo útil que tiene es que anuncia lo que se va a decir y puede dejar espacio para las críticas.

Otro contrargumento en contra de la informática jurídica decisoria podría ser que la falta de emoción deshumaniza y que la eliminación de esta puede provocar una despersonalización del derecho y una tecnocracia de la inteligencia artificial. Pero se lo puede rechazar sosteniendo que esto es tan solo un temor psicológico, que el derecho aplicado por los seres humanos es bastante caótico y que el razonamiento humano real incluye virtudes y defectos extralógicos que podrían superarse con la inteligencia artificial.

Alguien puede decir que en estos sistemas predictivos puede haber arbitrariedad, entendida como la otra cara del margen de discrecionalidad, y que esta se puede llevar a cabo inventando problemas lingüísticos como la ambigüedad o dando curso a predictores prohibidos, como el tener en cuenta la raza de pertenencia cuando -aún en el caso de que el algoritmo desconozca la raza o etnia de una persona- se use predictores correlacionados a ella como el vivir en cierto vecindario.

Para rechazar este argumento se pueden citar algunos estudios realizados sobre liberación bajo fianza y machine learning (2). En este tipo de estudios se entrena al algoritmo basándose en casos precedentes sobre liberación bajo fianza. En los EEUU se hizo una predicción estadística sobre riesgo de reincidencia y riesgo de fuga. Los resultaron mostraron que el algoritmo probablemente encarcele a los acusados de alta peligrosidad que los jueces a veces liberan y que el algoritmo probablemente libere a los acusados de baja peligrosidad que las cortes generalmente mantienen en prisión. Al comparar las decisiones del algoritmo con las decisiones de los jueces, en casos reales, el algoritmo pudo disminuir la tasa de reincidencia de los condenados liberados bajo fianza en un 20%, es decir que mantuvo en prisión a los condenados más peligrosos. Además, el algoritmo mantuvo en prisión a menos de condenados que los jueces y se observó que el algoritmo liberaría muchos más acusados negros que los jueces. Si la fuente de este estudio y su modo de llevarse a cabo son verificables puede resultar bastante convincente para algunas personas.

El debate sigue siendo muy amplio y profundo, por ejemplo, si la decisión legal se trata enteramente de realizar una predicción, ¿qué hay acerca de otras decisiones judiciales como la determinación de condenas, daños y responsabilidades? ¿El algoritmo puede ser entrenado para predecir al juez? ¿Hay alguna tarea humana que la inteligencia artificial no pueda hacer mejor? ¿Quiénes contarían con la posibilidad técnica y presupuestaria necesarias para llevar esto a cabo?.

Creemos que el análisis de los sistemas predictivos de Justicia se encuadran dentro de un nuevo enfoque metodológico para las ciencias jurídicas que implica un cambio de paradigma.

Notas al pie:.

(*) Florencia Marina Daud es abogada por la Universidad de Buenos Aires. Actualmente cursa estudios doctorales en la Universidad Kennedy. Posee una maestría en Relaciones Internacionales de la Universidad de Bolonia y realizó especializaciones en la London School of Economics y la Universidad de Hong Kong. Fue stagiaire del Tribunal de Justicia de la Unión Europea y de The Law Society of England and Wales. Trabajó como asesora parlamentaria en Argentina. Dirige la Fundación BioJur orientada a la Bioética y colabora con el AsiaGlobal online Journal. Ejerce la abogacía en temas de Salud y litiga en el fuero federal. Publicó en La Prensa Médica y La Ley.

1)Big Data and the Law - Courts and Big Data. Professor Omri Bem Shahar (Leo & Eileen Herzel Professor of Law, University of Chicago Law School; Kearny Director of the Coase-Sandor, Institute for Law and Economics) Law and Technology Centre, The University of Hong Kong (HKU). 9 de Noviembre de 2017. Lugar: Academic Conference room, 11/F Cheng Yu Tung Tower, the University of Hong Kong. Traducción propia. Presentación PowerPoint en idioma inglés a disposición.

2)Cfr. Sánchez Vilanova, María "El uso de algoritmos predictivos en el Derecho penal. A propósito de la sentencia de la Corte de Justicia del distrito de La Haya (Países Bajos) sobre SyRI, de 5 de Febrero de 2020", Teoría y Derecho, Tirant lo Blanch, Valencia, 2022. DOI:https://doi.org/10.36151/TD.2022.059.