• 1 Cfr., a modo de ejemplo, Barrio Andrés 2019a.

2En esta línea se han emprendido múltiples esfuerzos encaminados a formular propuestas adecuadas para la necesaria regulación de esta nueva realidad. Así, en las diversas disciplinas jurídicas se ha comenzado a debatir acerca de cuestiones tales como la conveniencia o no de reconocer personalidad jurídica a los robots “inteligentes”, el régimen de responsabilidad que debería aplicarse a los daños que pudieran causar, las implicaciones jurídico-laborales de su introducción en las empresas o la posibilidad de sujetarles al pago de determinados impuestos, entre otras1. Y, al objeto de establecer un marco ético y jurídico que promueva el desarrollo de una inteligencia artificial respetuosa con los valores y principios democráticos, desde las instituciones europeas se viene publicando en los últimos años un creciente conjunto de normativas, declaraciones, directrices y estudios, entre los que se pueden destacar el Reglamento 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, de Protección de Datos; la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica; la Declaración sobre inteligencia artificial, robótica y “sistemas autónomos”, de 9 de marzo de 2018; el estudio Algorithms and Human Rights, publicado por el Consejo de Europa en marzo de 2018; la Comunicación de la Comisión Europea al Parlamento, al Consejo, al Comité Económico y Social y al Comité de las regiones titulada Generar confianza en la inteligencia artificial centrada en el ser humano, de 8 de abril de 2019; las Directrices éticas para una IA fiable, publicadas por la Comisión Europea en abril de 2019; y el Libro blanco sobre la inteligencia artificial de la Comisión Europea, de 19 de febrero de 2020. De este modo, en los últimos años se viene conformando un creciente corpus doctrinal y normativo sobre “inteligencia artificial y Derecho”, en el que aquella es tratada por el jurista como una nueva materia objeto de regulación. En este sentido, cabe hablar ya de la conformación de un incipiente “Derecho de la inteligencia artificial” como un nuevo sector jurídico, con una identidad específica.

• 2 Ante la pregunta “¿qué es la inteligencia artificial jurídica?”, Goodman (2016: 21) no duda en resp (...)

3Sin embargo, la relación entre Derecho e inteligencia artificial no es unidireccional. Al igual que ha sucedido en otros sectores profesionales, la actividad jurídica es también en buena medida susceptible de ser automatizada. Frente a los procesos de mecanización propiciados por anteriores revoluciones tecnológicas, una de las características más singulares de la denominada cuarta revolución industrial es precisamente que afecta también a tareas de carácter cognitivo o intelectual realizadas por profesionales “de cuello blanco”. Y el trabajo del jurista no escapa a esta nueva realidad. El desarrollo de las tecnologías de big data (capacidad de almacenamiento, procesamiento y análisis de ingentes volúmenes de datos no estructurados) y de ramas de la inteligencia artificial como el aprendizaje automático o machine learning (capacidad de las máquinas para aprender a realizar determinadas tareas a partir de la detección de patrones en la información mediante el análisis de datos masivos) y el procesamiento del lenguaje natural (capacidad de los sistemas para interactuar con el ser humano en un lenguaje no formal) permite hoy la creación de una serie de herramientas para automatizar diversas tareas jurídicas que hasta hace menos de una década era sencillamente inimaginable que pudieran dejar de ser realizadas por profesionales expertos2.

• 3 Cfr. las propuestas en este sentido, en relación a la administración de justicia española, de Nieva (...)
• 4 Esta introducción de los sistemas de resolución automática de disputas en línea en la administració (...)
• 5 Herramientas predictivas de inteligencia artificial ya están siendo utilizadas para esta función. E (...)
• 6 Hasta el momento, los proyectos de implantar sistemas inteligentes que sustituyan a los jueces no h (...)
• 7 También cabe mencionar en este ámbito la Directiva (UE) 2016/680 del Parlamento Europeo y del Conse (...)
• 8 Sobre los problemas que plantea la utilización de estos sistemas desde el punto de vista de las gar (...)
• 9 Cfr. Solar Cayón 2019 y Barrio Andrés 2019b.

5En este contexto, asistimos, en el ámbito de la administración de justicia, a un creciente debate en torno a las posibilidades de aplicar sistemas de inteligencia artificial para simplificar y automatizar distintas fases del proceso judicial3, para introducir en los tribunales procedimientos completamente automatizados de negociación y mediación4, para asistir a los jueces en la toma de decisiones5, e incluso para tomar directamente esas decisiones en sustitución de aquellos6. Cuestiones sumamente delicadas y con profundas implicaciones teóricas y prácticas, que han motivado la promulgación por parte de la Unión Europea, en diciembre de 2018, de la Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno7. Asimismo, cada vez es mayor el número de gobiernos que, en aras de la eficiencia y la reducción de costes, recurren a sistemas algorítmicos para la toma automatizada de ciertas decisiones administrativas (selección de beneficiarios de servicios sanitarios y asistenciales, determinación de los servicios a que tiene derecho cada uno de ellos, asignación de becas académicas, contratación y renovación de contratos de empleados públicos, concesión de visados, determinación de beneficios penitenciarios, etc.)8. Y el ámbito de la abogacía ya está experimentando importantes transformaciones como consecuencia del desarrollo de herramientas de inteligencia artificial capaces de automatizar tareas como la lectura y el análisis de contratos, la elaboración de todo tipo de documentos jurídicos, la selección del material electrónico relevante en el proceso, la gestión de riesgos legales, la elaboración de informes legales o la resolución de problemas jurídicos específicos mediante sistemas expertos, entre otras9.

• 10 Brynjolfsson & Mitchell 2017: 1532.
• 11 Para este proceso de aprendizaje del algoritmo se utilizan datos que asocian inputs y outputs relat (...)
• 12 Brynjolfsson & Mitchell (2017: 1531) mencionan precisamente el campo del Derecho -junto con la diag (...)
• 13 En este sentido es interesante apuntar cómo una de las vías ensayadas ya en los años 80 del siglo X (...)

6Este dominio de la aplicación de la inteligencia artificial al Derecho es en el que se ubica el presente trabajo, que pretende explorar algunos de los principales ángulos de interés de la inteligencia artificial jurídica para el jurista. El desarrollo de ese tipo de herramientas plantea una serie de dificultades singulares que tienen que ver, fundamentalmente, con las peculiares características de la argumentación jurídica. Por un lado, la resolución de problemas jurídicos de una cierta entidad normalmente precisa la realización de complejas cadenas de razonamientos interdependientes. Exigencia que choca con una de las principales dificultades de la inteligencia artificial. Como advierten Brynjolfsson & Mitchell10, los sistemas de aprendizaje automático son muy eficientes en el descubrimiento de asociaciones empíricas de datos, pero esta eficiencia disminuye a medida que las tareas implican largas cadenas de razonamientos que requieren diversos conocimientos de background o de sentido común. Por otro lado, es preciso tener en cuenta que, a la hora de establecer una tarea de aprendizaje a la que se pueda aplicar un algoritmo de aprendizaje automático, es muy importante no sólo la cantidad sino también la calidad de los datos suministrados al sistema. De hecho, la corrección de los resultados del aprendizaje automático depende fundamentalmente de la disponibilidad de ground-truth data, esto es, de datos con valor de “verdad” que puedan ser utilizados para entrenar el algoritmo y para testar su rendimiento11. Pero, como sabemos, en el ámbito jurídico es muy difícil obtener o establecer datos a los que se pueda asignar el valor de “verdad”12, debido fundamentalmente a la indeterminación inherente a la tarea de interpretación y aplicación del Derecho13. Una indeterminación que viene motivada no sólo por la incidencia de factores textuales sino también por el complejo proceso de continua interacción entre normas y hechos que implica la argumentación jurídica, especialmente en el ámbito judicial, lo que convierte a la noción de “relevancia jurídica” en un objetivo sumamente escurridizo, casi imposible de determinar apriorísticamente antes de iniciarse la investigación jurídica. Además, especialmente cuando nos movemos en el ámbito judicial, no debe olvidarse que las respuestas jurídicas no constituyen meras predicciones estadísticas sino decisiones que han de ser justificadas normativamente y cuya toma implica delicadas cuestiones institucionales sobre la competencia y legitimidad del órgano decisor.

• 14 Como afirma Lessig (2001: 25), en el ciberespacio “el código es la ley”.
• 15 Cfr. Beccaria 1982: 76 y Montesquieu 1987: 112.

9La pretensión de utilizar la inteligencia artificial para “codificar” el Derecho -esto es, convertirlo en un código informático14- y automatizar su aplicación se remonta al diseño de los primeros sistemas jurídicos expertos en los años ochenta del siglo pasado. Este proyecto entroncaba directamente con las ideas de codificación del Derecho y de mecanización del razonamiento jurídico que han presidido el pensamiento jurídico desde la Ilustración. El movimiento codificador aspiraba a conseguir una exposición sistemática del corpus jurídico mediante una formulación casi axiomática de un conjunto de reglas expresadas en proposiciones que pretendían ser lo más simples, claras y precisas posible, al estilo de los lenguajes formales. E inextricablemente asociada a dicha aspiración sistematizadora se hallaba una concepción mecánica de la función judicial que entendía la tarea de aplicación de dichas reglas como una operación meramente lógica, de carácter silogístico-deductivo, reduciendo así la figura del juez a un mero autómata15. Y este método jurídico es el que replicaron los sistemas jurídicos expertos.

• 16 Como explicaba Kurtzweil (1994: 504), estos sistemas se componían de tres elementos esenciales: una (...)
• 17 Cfr. Pérez Luño 1996: 179-204.

10Estos sistemas eran aplicaciones que pretendían incorporar de una manera práctica y operativa el conocimiento de un experto en un área jurídica muy específica, emulando sus procesos cognitivos, al objeto de que el usuario pudiera resolver su problema legal de manera inmediata, sin necesidad de recurrir a un profesional. Su objetivo era, pues, reproducir las soluciones previstas por el jurista para las diversas situaciones posibles en un campo determinado mediante la elaboración de una serie de reglas heurísticas del tipo “si…, entonces…” que el programa pudiera aplicar automáticamente a cada caso particular16. Y, de hecho, estos sistemas llegaron a adquirir una cierta relevancia en materias como liquidaciones tributarias, cálculo de indemnizaciones por accidentes laborales o de tráfico, predicción de las consecuencias jurídicas de impactos medioambientales, condiciones de adquisición de la nacionalidad o determinados aspectos del régimen matrimonial, entre otras áreas jurídicas17.

• 18 De ahí que el Derecho fiscal se convirtiera en el principal campo de desarrollo de estos sistemas. (...)

11Sin embargo, su operatividad acabó siendo muy limitada. Por un lado, porque su ámbito de aplicación resultaba bastante reducido, circunscribiéndose a áreas jurídicas muy específicas y simples, en las que el significado de las normas jurídicas y las consecuencias de su aplicación pudieran ser determinados de antemano con gran precisión, de manera que resultara factible la modelización del razonamiento jurídico18. Pero, sobre todo, porque el diseño de estos sistemas requería un laborioso -y costoso- proceso “manual” de extracción de las reglas de inferencia jurídica a partir del análisis de los textos legales y, posteriormente, de codificación de esas reglas en un lenguaje lógico-formal. De manera que este cuello de botella de la “representación” o “ingeniería del conocimiento” motivó un creciente desinterés por los sistemas expertos en todos los campos, lo que condujo en los años noventa a un “invierno de la inteligencia artificial”.

• 19 Ya no se trata, por tanto, de sistemas basados en reglas (code-driven) sino de sistemas que generan (...)
• 20 Big data constituye, pues, el complemento necesario del aprendizaje automático: los datos son la ma (...)

13Este cambio de paradigma computacional ha venido propiciado por el desarrollo del aprendizaje automático o machine learning, que constituye el rasgo genuinamente diferenciador de la actual inteligencia artificial. El aprendizaje automático se basa en algoritmos capaces de reconocer patrones de comportamiento a partir del análisis de grandes volúmenes de datos -tanto estructurados como no estructurados-, de integrar esos patrones en un modelo mediante alguna forma estadística o lógica y de utilizar ese modelo para realizar predicciones o tomar decisiones identificando patrones similares en nuevos conjuntos de datos19. Esta capacidad de aprendizaje ha experimentado en los últimos años un importante salto cualitativo gracias al desarrollo de las arquitecturas de redes neuronales multicapa de deep learning o aprendizaje profundo, que permiten que el software aprenda por sí mismo a realizar una determinada tarea simplemente proporcionándole ejemplos. Basta disponer de datos adecuados y suficientes en relación a la realización de una determinada tarea y aquél aprende a realizarla automáticamente, mejorando constantemente su rendimiento a medida que se suministran más datos y adquiere experiencia en dicha tarea20.

• 21 Como indican Lettieri et al. (2018: 3), estos sistemas están conformando un nuevo paradigma epistem (...)
• 22 Cabría, desde luego, trazar ciertos paralelismos epistemológicos entre este tránsito de la intelige (...)

14Ya no es necesario, por tanto, codificar conocimientos y reglas de inferencia, sino únicamente entrenar al sistema mediante ejemplos ajustados a las necesidades específicas del usuario en los que se conecta la información de entrada (input) y la respuesta deseada (output)21. Y, en lugar de “razonar” de forma lógica a partir de unas premisas predeterminadas, aquél genera patrones de actividad: pensamientos similares son patrones similares y tienen efectos similares. El razonamiento lógico-deductivo a partir de reglas preestablecidas ha sido sustituido así en los sistemas de aprendizaje automático por un esquema de funcionamiento analógico que detecta correlaciones entre los múltiples elementos de los distintos casos. Un esquema cognitivo mucho más flexible y próximo a los métodos de argumentación jurídica22.

• 23 Como precisan Mochales & Moens (2011: 2-3), la minería de argumentos no analiza la corrección o val (...)
• 24 El citado artículo de Mochales y Moens, que constituye uno de los trabajos seminales de esta discip (...)

15De manera paralela, junto al aprendizaje automático, otra rama de la inteligencia artificial clave para el actual despegue de la inteligencia artificial jurídica es el procesamiento del lenguaje natural. Gracias en buena medida a la lógica difusa, esta disciplina permite que los sistemas operen con el lenguaje indeterminado, lo que ha posibilitado el desarrollo de sofisticadas herramientas de búsqueda conceptual y análisis semántico que han mejorado ostensiblemente la capacidad de los sistemas de recuperación de la información para identificar y extraer los datos relevantes para determinado propósito de cualquier tipo de fuentes. Especialmente importantes en este campo son los recientes avances en argument mining o “minería de argumentos”, una disciplina cuyo objetivo es identificar automáticamente los argumentos de un texto escrito en lenguaje natural, su estructura interna (las relaciones retóricas o argumentativas que se dan entre sus proposiciones) y las interacciones existentes entre ellos (la estructura global de la argumentación)23. Esta disciplina encuentra su principal campo de aplicación en aquellos dominios del conocimiento en los que la lógica formal y la teoría clásica de la decisión son incapaces de capturar la riqueza del razonamiento, por lo que uno de los ámbitos en los que se centró su actividad desde sus inicios es el ámbito jurídico24.

• 25 El aprendizaje activo es un sistema de aprendizaje automático “supervisado”, esto es, un sistema en (...)

17Sus creadores cargaron en la plataforma un ingente volumen de documentos jurídicos (legislación, jurisprudencia, informes, artículos doctrinales…), procedentes de todo tipo de fuentes abiertas, relativos a las áreas de Derecho concursal y de propiedad intelectual, y reunieron un grupo de expertos en estas materias para entrenar a los algoritmos de aprendizaje automático “activo” incorporados al programa25. Los expertos seleccionaron un conjunto inicial de documentos (training set), descompusieron esos documentos en pasajes, anotando en relación a cada uno de ellos una serie de preguntas para las cuales el pasaje constituiría una respuesta correcta, e introdujeron esa información en el sistema. A partir de esos ejemplos el programa aprendió a relacionar las cuestiones con sus correspondientes respuestas y, por tanto, a detectar automáticamente esas mismas relaciones en el resto de la documentación. Se iniciaba así un proceso iterativo de entrenamiento: los expertos formulaban al sistema nuevas preguntas con ciertas similitudes a aquéllas con las que fue inicialmente entrenado para que, detectando rasgos lingüísticos y patrones comunes entre ellas, aprendiera a extraer pasajes relevantes para responder a las nuevas cuestiones; a continuación, verificaban si esos pasajes constituían o no una respuesta correcta y, en función de ello, calibraban los parámetros de la red neuronal. Proceso que terminó una vez que, mediante la progresión de este circuito interactivo de feedbacks entre el humano y la máquina, se estimó que el sistema estaba suficientemente ajustado.

• 26 En esta dirección, ROSS Intelligence ha establecido alianzas estratégicas con más de una veintena d (...)

19Como ocurre con todo programa de aprendizaje profundo, el sistema aprende y mejora constantemente, sin ningún tipo de límite, a partir de la experiencia, evaluando la precisión de sus respuestas a partir de las valoraciones efectuadas por el usuario e incluso de lo que éste hace con los pasajes de la información recuperada que apoyan la respuesta finalmente propuesta (utilizarlos o desecharlos). De manera que el sistema gana rapidez y precisión en su rendimiento a medida que aumenta la cantidad y calidad de la interacción entre el jurista y la máquina26. Así pues, los nuevos paradigmas metodológicos en el diseño de los sistemas de inteligencia artificial, posibilitados gracias al desarrollo de los algoritmos de procesamiento del lenguaje natural y de aprendizaje automático supervisado está permitiendo, pues, desarrollar sofisticadísimos sistemas de búsqueda de respuestas más adaptados a las características de la argumentación jurídica que, sin sustituir completamente al profesional del Derecho, tendrán un impacto profundo en su trabajo.

• 27 Sobre el desarrollo de esta tecnología, las diversas metodologías para su utilización y su impacto (...)
• 28 Una de las fases más importantes del proceso judicial anglosajón es la de discovery, en la que cada (...)

20No obstante, hasta este momento, el principal “caso de éxito” de la inteligencia artificial jurídica viene representado por la codificación predictiva, una tecnología diseñada específicamente desde su origen para el desempeño de una tarea legal27. Se trata de una herramienta que se ha mostrado capaz de analizar enormes volúmenes de información electrónica procedentes de cualquier tipo de fuente y en cualquier tipo de formato digital e identificar aquella que es relevante en el contexto de un determinado proceso judicial de una manera mucho más rápida, económica y precisa que cualquier equipo de abogados. Esta efectividad ha motivado que, en la actualidad, su utilización por las partes en un litigio sea admitida ya en países como Estados Unidos, Reino Unido, Australia, Irlanda o Canadá como un medio válido para satisfacer su obligación de discovery del material relevante para el proceso28.

• 29 Con el objetivo de estimular la reflexión sobre esta problemática y de ofrecer una serie de propues (...)

21Una obligación cuyo cumplimiento se ha venido complicando extraordinariamente en los últimos años en muchos procesos civiles, mercantiles y laborales como consecuencia del incremento exponencial de la información potencialmente relevante almacenada en dispositivos y archivos electrónicos. Las inmensas capacidades de generación, registro y almacenamiento de datos que poseen los sistemas informáticos, así como la evolución de las tecnologías de recuperación de la información permite que, en la actualidad, dispongan de la posibilidad de acceder a un volumen de información electrónica prácticamente ilimitado. Esta realidad ha generado dificultades muy serias para el correcto desenvolvimiento del proceso de discovery, en la medida en que, por un lado, supone un incremento muy notable de sus costes (en términos del dinero, del tiempo y del esfuerzo humano necesarios para efectuar la revisión manual de la información) y, por otro, contribuye a que en esta etapa procesal se multipliquen las oportunidades de disputa entre las partes sobre cuestiones tales como la extensión de la información a revisar o el método adecuado para realizar la búsqueda (en ocasiones, con el único ánimo de dilatar el proceso o, sencillamente, de dificultar la labor del oponente)29.

• 30 Por ejemplo, en Da Silva Moore v. Predicis Groupe & MSL Group, donde habían de revisarse casi tres (...)

22En este contexto, la introducción de las herramientas de codificación predictiva ha permitido aliviar estas tensiones del sistema procesal. Estas herramientas utilizan algoritmos de aprendizaje activo que “aprenden” los criterios de relevancia jurídica en relación a un caso concreto mediante el análisis de un subconjunto de documentos estadísticamente significativos que son previamente “codificados” de manera manual (es decir, clasificados cada uno de ellos como “relevante” o “no relevante”) por un abogado conocedor del asunto30. A partir de dichos ejemplos el sistema genera un modelo predictivo que posteriormente aplica todos los documentos del conjunto a revisar, clasificándolos como relevantes o no relevantes y priorizándolos mediante la asignación a cada uno de ellos de un grado concreto de probabilidad de relevancia, lo que permite desechar directamente aquellos que no alcancen un determinado grado mínimo de probabilidad.

• 31 Me refiero a los métodos que, conforme a la taxonomía establecida por Cormack & Grossman (2014: 153 (...)

24En los primeros métodos de aprendizaje automático utilizados para la codificación predictiva31 el proceso se iniciaba -al igual de lo que ocurre cuando se emplean los sistemas de recuperación de la información en cualquier otro ámbito del conocimiento- con la creación de un control set constituido por un subconjunto de documentos seleccionados al azar (random sampling) que eran codificados manualmente. La función de este control set era definir el gold standard o ground-truth (esto es, la mejor determinación posible de la noción de “relevancia jurídica” en el caso concreto) como parámetro para medir el rendimiento del algoritmo en diversas etapas del entrenamiento y determinar en qué momento éste podía cesar. Una vez establecido este parámetro de evaluación de los resultados se iniciaba el entrenamiento del algoritmo mediante la selección de un nuevo subconjunto de documentos cuya codificación manual era introducida en el programa informático. A partir de esos ejemplos el algoritmo puede identificar patrones y generar un modelo que le permite predecir la relevancia (o irrelevancia) del resto de documentos. No obstante, a continuación se revisaba manualmente un nuevo grupo de documentos para verificar la corrección de la clasificación efectuada por el algoritmo y corregir sus errores, incorporándose después este grupo al conjunto de documentos utilizados para el entrenamiento del sistema. Se producía así un proceso iterativo de aprendizaje mediante la reiteración sucesiva de este proceso hasta llegar al punto de “estabilización” del sistema (el momento en que se considera que ha alcanzado el nivel exigido de rendimiento). Entonces, el algoritmo procedía a la revisión final y codificación automática de todos los documentos, asignando a cada uno de ellos un valor numérico en función de la probabilidad de su relevancia jurídica en el proceso.

• 32 El algoritmo necesita aprender tanto de documentos relevantes como no relevantes para inferir las c (...)
• 33 Una de las críticas realizadas a este método es que su énfasis en seleccionar en cada ronda los doc (...)

25Pero este procedimiento básico experimentó una importante evolución con la aparición del método denominado Continuous Active Learning (CAL), patentado en 2014 por G. V. Cormack y M. R. Grossman. Esta metodología implica típicamente la utilización de dos herramientas tecnológicas: la búsqueda booleana de “términos clave” y el empleo de algoritmos de aprendizaje automático activo. Para comenzar el proceso, el abogado realiza una búsqueda de términos clave al objeto de identificar un subconjunto de documentos para ser codificados manualmente que puedan generar criterios adecuados de relevancia en relación al litigio32. Estos documentos son utilizados para el entrenamiento inicial del algoritmo, que a continuación revisa y ordena automáticamente todos los documentos de la colección en función de la probabilidad de su relevancia jurídica. Una fracción determinada de los documentos que tienen un grado de probabilidad más alto de ser relevantes son entonces seleccionados por el propio algoritmo para que sean revisados por el abogado -quien corrige los posibles errores- e inmediatamente son incorporados por el propio programa al conjunto de documentos de entrenamiento. Y este proceso de selección automatizada de los documentos más relevantes, revisión manual e incorporación al set de entrenamiento es repetido hasta que se encuentran suficientes documentos relevantes para considerar finalizada la revisión33.

• 34 Losey 2015.

27Como afirma Ralph Losey, abogado pionero en el diseño de los sistemas de codificación predictiva, en la investigación procesal “el objetivo está siempre moviéndose y es pequeño”, pudiendo frecuentemente cambiar a medida que va progresando el conocimiento del caso. En otras áreas de búsqueda de la información “el objetivo es sólido como el granito, newtonianamente simple y grande, o al menos más grande que un pequeño tanto por ciento”, por lo que “puede tener sentido hablar de un valor inmutable de verdad”. Sin embargo -recalca- en el contexto procesal, como mucho, “el valor ‘verdad’ es descubierto”, en el sentido de que “emerge como parte del proceso, incluyendo a menudo sorprendentes precedentes judiciales y cambios en las causas de acción”. Por ello, en este campo los procedimientos basados en un control set son “intrínsecamente defectuosos”, ya que están “basados en una ilusión de certeza, en la ilusión de un parámetro de verdad mágicamente descubierto al inicio de un proyecto, antes de que la revisión documental siquiera haya empezado”34. Y ésta es la razón de que hoy las metodologías de codificación predictiva más avanzadas prescindan generalmente de este elemento.

• 35 A diferencia de lo que ocurre en CAL, el proceso de aprendizaje del software no es aquí continuo -e (...)
• 36 Buena prueba de ello es el hecho de que la mayoría de las startups jurídicas que desarrollaron los (...)

28Profundizando en esta dirección, este autor ha desarrollado recientemente un nuevo método denominado Hybrid Multimodal and Intelligently Spaced Training Method, cuyo aspecto más novedoso es su “sistema de entrenamiento inteligentemente espaciado”, que permite una mayor interacción entre el profesional y la máquina35. De este modo, aquel puede lograr una mejor monitorización del proceso de revisión al objeto de corregir aquellos aspectos de la relevancia que el sistema no haya comprendido bien o de aportar nuevas dimensiones que completen o enriquezcan su noción de relevancia. Es claro, pues, cómo las peculiaridades de la noción de “relevancia jurídica” han determinado el desarrollo de los sistemas de inteligencia artificial en este ámbito, obligando a refinar las tecnologías y metodologías de codificación predictiva, que se han situado así en la vanguardia de los sistemas de recuperación de la información en cualquier campo científico o profesional36.

• 37 Este asunto es abordado en mayor profundidad en Solar Cayón 2019: 158-169.
• 38 Estos cambios han sido impulsados por la ya mencionada Sedona Conference. Cfr., fundamentalmente, T (...)

29La codificación predictiva, además de constituir un claro caso de éxito en la aplicación de la inteligencia artificial a tareas jurídicas, representa también una muestra de cómo la introducción de este tipo de tecnologías puede provocar transformaciones no sólo en los métodos de trabajo del jurista sino también en el marco normativo en el que éste despliega su actividad. En este sentido, la admisión jurisprudencial en muchos países anglosajones de este sistema de revisión asistida por tecnología ha conllevado también la modificación de algunas normas procesales, al objeto de atribuir al juez un papel más activo en la dirección del discovery, y de los principios jurídicos que rigen esta fase procesal37. Fundamentalmente, esto se ha traducido en un cambio de paradigma en el proceso de discovery basado en la sustitución de una cultura de la confrontación por una cultura de la cooperación entre las partes que permita en cada caso el diseño de una metodología consensuada y transparente de codificación predictiva, así como en el redimensionamiento del principio de proporcionalidad, que se convierte, junto con el de relevancia jurídica, en el principio rector del desarrollo de esta fase procesal para asegurar un proceso eficiente de e-discovery en términos de su relación coste - eficacia38.

• 39 Holmes 2012: 60.
• 40 Cfr. Llewellyn 1960: 19-51.
• 41 Cfr. Loevinger 1962: 187-205. Uno de los resultados más destacados de esta corriente fue la obra de (...)

30Las “profecías acerca de lo que los tribunales harán realmente, y nada más pretencioso que eso, es lo que yo entiendo por Derecho”, afirmaba el juez Oliver Wendell Holmes hace ya más de cien años39. Y, apoyándose en tal afirmación, una parte importante del realismo jurídico americano centró sus esfuerzos en la búsqueda de tendencias y patrones en la conducta de jueces y tribunales40. Pretensión que, unos años más tarde, la jurimetría creyó poder realizar, de manera plenamente científica, mediante la aplicación de la computación al dominio jurídico41. Sin embargo, nunca como hasta ahora el jurista ha estado tan cerca de contar con predicciones suficientemente fiables de las decisiones judiciales gracias a la combinación de big data e inteligencia artificial, que ha propiciado una auténtica eclosión del análisis jurídico predictivo.

• 42 En este sentido, el análisis predictivo constituye una buena muestra de ese “enfoque inverso” que p (...)
• 43 En este contexto resuenan, proféticas, las palabras de Holmes (2012: 75): “para el estudio racional (...)

31El análisis predictivo es un área de la minería de datos que combina big data, aprendizaje automático y modelos estadísticos al objeto de analizar la información disponible relativa a situaciones pretéritas, detectar tendencias y patrones de comportamiento y predecir posibles resultados en situaciones futuras. Las técnicas de big data son necesarias para la gestión y el procesamiento de grandes cantidades de información, en este caso, fundamentalmente, ingentes volúmenes de decisiones judiciales y de datos sobre los participantes en los procesos (jueces, abogados, litigantes). El aprendizaje automático proporciona las técnicas de análisis mediante las cuales se pueden desvelar las correlaciones existentes entre múltiples indicadores y variables contenidas en dicha información. Y, una vez establecidas e interpretadas esas correlaciones, el sistema genera automáticamente un modelo estadístico que utiliza los datos existentes para predecir decisiones futuras42. Este modelo viene a representar, por tanto, las relaciones existentes entre el resultado de un caso y uno o más atributos o características del mismo, y para su creación se utiliza un training set constituido por un conjunto de casos en los que tanto los atributos o características como los resultados de cada unidad son conocidos43.

• 44 Ruger, Kim, Martin & Quinn 2004.
• 45 Un árbol de clasificación es un modelo de predicción que predice el valor de una variable de destin (...)

32Un ensayo pionero en este campo vino constituido por la elaboración a principios de este siglo de un algoritmo diseñado para predecir las decisiones del Tribunal Supremo estadounidense -tanto los votos individuales de los nueve jueces como el sentido final de la decisión- en todos los casos que este órgano conociera a lo largo del curso judicial 2002-200344. Como datos de entrenamiento del algoritmo se tomaron los resultados de los 628 casos que hasta entonces habían sido decididos por el “tribunal Rehnquist”, cuya composición permanecía inusualmente inalterada desde 1994. Y el algoritmo se basaba en un árbol de clasificación que tomaba en consideración seis variables: circuito federal de procedencia del caso a revisar, área temática, tipo de demandante, tipo de demandado, dirección ideológica (liberal o conservadora) de la regla fijada por el tribunal inferior y cuestionamiento o no de la constitucionalidad de una norma o práctica45. Un aspecto interesante del experimento es que las predicciones del algoritmo fueron comparadas con las efectuadas por un grupo de académicos y abogados conocedores de la doctrina del tribunal (cada decisión era predicha por un panel de tres expertos). Y los resultados fueron llamativos: de los 78 asuntos revisados por el Tribunal Supremo durante aquel curso judicial, el algoritmo predijo correctamente el 75% de sus decisiones y el 66,7% de los votos individuales de sus magistrados, mientras que el grado de acierto de los expertos fue del 59% y 67,9% respectivamente.

• 46 El algoritmo de “bosque aleatorio” es también un algoritmo de aprendizaje supervisado. La idea de b (...)
• 47 Katz, Bommarito & Blackman 2014.

33En 2014, apoyándose ya en las técnicas de aprendizaje automático, D. Katz, M. Bommarito y J. Blackman diseñaron un algoritmo random forest o de “bosque aleatorio” que pretende ofrecer un modelo predictivo de alcance general de las decisiones de ese mismo tribunal46. El objetivo de la investigación era testar dicho algoritmo aplicándolo a la “predicción” retroactiva de todas las decisiones adoptadas por este tribunal y de los votos individuales de cada uno de sus jueces durante el período 1953-2013, utilizando para ello solo la información disponible antes de la fecha de cada decisión47. En este caso, el programa fue entrenado para identificar 95 variables extraídas de la Supreme Court Database (SCDB) que contienen información sobre el historial del tribunal y de cada uno de sus miembros, las características del caso, las tendencias del tribunal inferior, las tendencias históricas del Tribunal Supremo y las tendencias de este tribunal y de cada uno de sus miembros en su composición en cada caso. Y los resultados del experimento, teniendo en cuenta la amplitud del período analizado y los cambios producidos en el tribunal a lo largo del mismo, fueron llamativamente certeros: el algoritmo predijo correctamente el 69,7 de las decisiones del tribunal y el 70,9% de los votos de sus integrantes.

• 48 Cfr. Aletras, Tsarapatsanis, Preotiuc-Pietro & Lampos 2016.
• 49 Un “n-grama” es una subsecuencia de n elementos de una secuencia dada, de manera que un modelo n-gr (...)
• 50 El clustering es una técnica de minería de datos que identifica automáticamente grupos de elementos (...)
• 51 Las “máquinas de vectores soporte” son algoritmos de aprendizaje automático supervisado especialmen (...)
• 52 Una crítica a las conclusiones de dicho estudio puede encontrarse en Ronsin & Lampos 2018.
• 53 En realidad, esta tesis fue sostenida por un sector minoritario del realismo jurídico liderado por (...)

35En esta dirección cabe destacar el diseño de un algoritmo para predecir las decisiones del Tribunal Europeo de Derechos Humanos relativas a la aplicación de los artículos 3, 6 y 8 del Convenio Europeo de Derechos Humanos, llevado a cabo en 2016 por un grupo de profesores británicos y estadounidenses48. La elección de este tribunal no fue casual. Sus sentencias tienen una estructura sistemática distintiva, articulada en diferentes secciones y subsecciones con contenidos muy estandarizados, lo que facilita el tratamiento y análisis automatizado de los textos. Para la elaboración del modelo predictivo se utilizaron 584 decisiones de las que se extrajo la información relativa a las siguientes secciones: (a) “procedimiento”; (b) “los hechos”, con sus subsecciones “las circunstancias del caso” y “Derecho relevante” (ajeno a la Convención, fundamentalmente el Derecho doméstico); y (c) “el Derecho”, que se subdivide en “argumentos de las partes” y “méritos” (argumentos que justifican la decisión del tribunal). Del conjunto de esta información se extrajeron una serie de atributos o características textuales (n-gramas49 y clustering50) para el entrenamiento de un algoritmo de clasificación basado en “máquinas de vectores soporte”51. Algoritmo que logró un grado de precisión del 79% en la predicción de los resultados52. Adicionalmente, una conclusión interesante del trabajo es que la información que se demostró más relevante para la correcta predicción de las sentencias resultó ser la descripción de los hechos contenida en la subsección “circunstancias del caso”, lo que en opinión de sus autores vendría a corroborar la tesis del realismo jurídico americano sobre la importancia fundamental de los hechos como el estímulo principal para la toma de decisiones por parte del juez53.

• 54 Lex Machina, una startup creada en 2009 a partir de un proyecto conjunto ente la Facultad de Derech (...)

36En la actualidad son ya diversas las compañías que han desarrollado y explotan comercialmente sofisticadas plataformas de análisis predictivo cuyos modelos estadísticos integran diversos enfoques metodológicos para la detección de patrones de decisión de jueces y tribunales54. Así, es frecuente que dichos modelos combinen el análisis de una serie de rasgos fácticos -desde la identificación de características puramente formales de los casos y los tribunales hasta el desarrollo de sofisticados enfoques behavioristas sobre la actuación pretérita de jueces, abogados y litigantes- con el análisis textual de rasgos semánticos relativos al contenido y los méritos sustantivos de los casos, e incluso el “análisis de redes”, que ayuda a detectar tendencias jurisprudenciales ocultas mostrando las complejas relaciones entre los precedentes.

• 55 Lettieri et al. 2018: 19.
• 56 Katz 2013: 911.

37Nos encontramos, pues, ante un dominio que, si bien tiene una dimensión eminentemente práctica, suscita importantes cuestiones teóricas acerca de la naturaleza de la función judicial y de los métodos más adecuados para el estudio científico de la actividad jurídica. En pocas áreas como ésta se advierten tan claramente las profundas implicaciones epistemológicas que comporta la introducción de la inteligencia artificial en el Derecho para el desarrollo de la ciencia jurídica. Una disciplina que, pese a algunos esporádicos intentos ensayados a lo largo de la historia del pensamiento jurídico, se ha mantenido en general ajena a la influencia de los métodos empíricos (experimentales y cuantitativos) desarrollados en otros campos científicos. Sin embargo, estas herramientas de análisis predictivo introducen enfoques empíricos en la investigación jurídica que complementan otros más tradicionales en la teoría jurídica, promoviendo un eclecticismo epistemológico que combina métodos tomados de diferentes disciplinas científicas. Como resultado, los modelos computacionales para el análisis jurídico vienen a “ofrecer nuevas estructuras teóricas y metodológicas unificadas que facilitan el diálogo entre científicos implicados en el estudio de diferentes aspectos de un mismo fenómeno complejo”55. De este modo, como afirma Katz56, la tecnología no solo está cambiando lo que es “practicar Derecho” sino también lo que significa “pensar como un abogado”.

• 57 Cabe traer aquí a colación la polémica generada en los Estados Unidos en torno a la utilización de (...)
• 58 En esta dirección cabe mencionar el proyecto “SupraLegem” emprendido en Francia por el abogado y ex (...)
• 59 Art. 33 de la LOI n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la just (...)
• 60 Son muchos los que consideran que esta ley constituye una reacción directa al informe de Michaël Be (...)

38Las funcionalidades de estas herramientas, y las perspectivas metodológicas que aportan al trabajo del jurista, pueden ser múltiples, aunque también conllevan asociadas algunos riesgos que es preciso tomar en consideración. En el ámbito de la abogacía -que es para el que inicialmente han sido diseñadas- hoy son ya muchas las grandes firmas legales que utilizan alguno de los sistemas predictivos existentes en el mercado, o que han desarrollado sus propios modelos en colaboración con alguna de las compañías líderes en este campo, para asistir a sus profesionales a la hora de determinar cuestiones tales como la probabilidad de éxito de una demanda, la conveniencia de entablarla o de llegar a un acuerdo negociado, o la elección de la estrategia procesal y legal más adecuada en cada caso en función de la composición del tribunal. Sin embargo, estas aplicaciones han generado polémica en algunos países. Para sus defensores, la exposición de la conducta judicial a un escrutinio que puede revelar posibles tendencias, sesgos e incluso prejuicios en la toma de decisiones -ya sea a nivel estructural en el conjunto del sistema57 o en determinados jueces y tribunales58- propicia una mayor transparencia en el ejercicio de un poder público. Pero desde algunas instituciones se ha apuntado el riesgo que tales sistemas pueden comportar para la independencia judicial. En esta dirección, recientemente Francia se ha convertido en el primer país que ha limitado legalmente el empleo de estas herramientas, sancionando con penas de prisión de hasta cinco años la utilización de los datos de identidad de los magistrados “con el propósito o el efecto de evaluar, analizar, comparar o predecir sus prácticas profesionales reales o presuntas”59. Según el Conseil Constitutionnel, el objetivo de esta prohibición es evitar presiones sobre los jueces e impedir el mercado de estrategias procesales60. No obstante, si bien esta disposición puede evitar la publicación de esos datos relativos a la identidad de los magistrados, parece difícil que pueda impedir la utilización interna de estas herramientas por parte de los bufetes para orientar sus estrategias procesales.

• 61 Cfr., en este sentido, Susskind 2019: 275, uno de los impulsores de la creación del Online Solution (...)

39Por otra parte, hay quienes consideran que los sistemas de análisis predictivo pueden jugar un papel importante en la administración de justicia. En esta dirección, se señala que estas herramientas podrían resultar valiosas en el funcionamiento de los tribunales en línea ya implantados en algunos países, como el British Columbia Civil Resolution Tribunal, en Canadá, o el más reciente Online Solutions Court, instaurado en Inglaterra y Gales. Se trata de plataformas digitales que, a diferencia de los tribunales tradicionales, no sólo tienen la función de decidir las disputas sino que, aprovechando las posibilidades de la tecnología, han ampliado sus funciones con el objetivo de facilitar el acceso a la administración de justicia de todos los ciudadanos y de proporcionar respuestas rápidas. Como ya se mencionó, estos tribunales tienen una arquitectura que consta de diversas capas: la primera de ellas tiene como objetivo asesorar al usuario y -si es posible- que éste pueda resolver el problema por sí mismo, de manera que un sistema experto le guía de un modo interactivo hacia los contenidos relevantes en el caso específico, ayudándole a categorizar sus pretensiones, a entender el derecho aplicable así como sus derechos y obligaciones, y a conocer las opciones y recursos legales disponibles; en la segunda capa, el tribunal ofrece a las partes la posibilidad de buscar una solución negociada mediante la utilización de sistemas de resolución automática de disputas; y, por último, si el conflicto no ha podido ser resuelto por las vías anteriores, será decidido, a distancia, por un juez. Dentro de esta arquitectura, los sistemas de análisis predictivo pueden resultar sumamente útiles en las primeras etapas, como un instrumento más que ayude al usuario a calibrar las posibilidades del éxito de su pretensión si ésta es judicializada61.

• 62 Es significativo cómo el proyecto piloto iniciado en Francia en 2017 para utilizar las predicciones (...)
• 63 Aunque la Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales (...)
• 64 Cfr. las consideraciones en este sentido en Pascuale 2019. Por ello, desde un punto de vista técnic (...)

41Pero, aun con todo, eso no comporta una decisión. El juez no predice su decisión: ha de tomar una decisión y, sobre todo, justificarla normativamente, lo que implica dar razones o argumentos jurídicos. Y esto plantea algunas dificultades técnicas importantes en relación a la utilización de los sistemas predictivos para esta tarea. Pese a los avances ya comentados en el procesamiento del lenguaje natural y, más específicamente, en el campo de la minería de argumentos, nos hallamos lejos aún del punto en el que los sistemas inteligentes puedan identificar y, mucho menos aún, realizar, argumentos jurídicos de cierta complejidad62. Por otro lado, dada esa necesidad de dar razones, parece que, en todo caso, deberían ser excluidos de esta tarea los sistemas predictivos de aprendizaje profundo basados en redes neuronales artificiales, que, si bien pueden llegar a ser sumamente precisos en sus predicciones, constituyen auténticas “cajas negras”, opacas e inescrutables, siendo imposible proporcionar una explicación de sus resultados63. Además, más allá de estas limitaciones técnicas, no debemos olvidar que la función judicial constituye el ejercicio de un poder público, de manera que la toma de decisiones judiciales implica delicadas cuestiones de competencia y de legitimidad64.

• 65 Susskind 2019: 290. Otra opinión favorable a la sustitución de jueces humanos por sistemas de intel (...)

42A la vista de todo ello, parece aún bastante prematura -y discutible- la imagen de un “juez-robot”, al menos en un horizonte temporal próximo. Aunque esta posibilidad está atrayendo una creciente atención a raíz de los anuncios efectuados por diversos gobiernos -Estonia, Francia- sobre la puesta en marcha de proyectos piloto de tribunales digitales cuyas resoluciones sobre determinadas materias serán adoptadas por un sistema inteligente. Proyectos que son alentados por opiniones tan autorizadas como la de Richard Susskind, uno de los principales conocedores e impulsores de las posibilidades de la tecnología legal, quien se muestra favorable a la utilización de sistemas predictivos para decidir, en sustitución de jueces humanos, grandes volúmenes de casos rutinarios y de escaso valor en determinadas áreas jurídicas, cuando el sistema establece una muy alta probabilidad (por ejemplo, superior al 95%) en favor de una pretensión. Especialmente en sistemas judiciales cuyo funcionamiento se halla bloqueado por millones de casos pendientes (menciona explícitamente el caso de Brasil, donde se acumulan más de 100 millones): “¿no sería mejor -se pregunta- en la mayoría de estos casos que fueran decididos por sistemas predictivos opacos que reproducirían fielmente decisiones consistentes con las de los jueces pretéritos, aun incluso con algún sesgo, antes que dejar a las partes esperando una decisión judicial que nunca llegará?”, apelando así al argumento pragmático del mal menor65.

• 66 Se trata de un procedimiento judicial en tercera instancia en el que la Fiscalía recibe las cuestio (...)
• 67 Aunque el fiscal decida modificarlo, el sistema aporta un doble beneficio: reduce drásticamente el (...)
• 68 La fiscalía ha pasado de procesar manualmente unos 400 casos mensuales de amparo habitacional en 20 (...)

43Todas las dificultades apuntadas no impiden, sin embargo, que los sistemas predictivos puedan constituir ya hoy una herramienta sumamente interesante para asistir a los jueces en su toma de decisiones, bajo determinadas condiciones técnicas e institucionales. Un caso notable de éxito en esta dirección es el sistema “Prometea”, desarrollado y utilizado desde noviembre de 2017 por la Fiscalía General Adjunta en lo Contencioso Administrativo y Tributario de la ciudad de Buenos Aires para elaborar las propuestas de resolución de casos que eleva al Tribunal Superior de Justicia de dicha ciudad, que es quien tiene la competencia para decidirlos66. A partir del análisis de las miles de sentencias emitidas por este tribunal en materias de amparo habitacional y empleo público -que representan casi el 75% de los casos, con una jurisprudencia bastante estable-, el sistema es capaz, en menos de veinte segundos, de realizar una predicción de la recomendación que debe hacer la fiscalía y de elaborar automáticamente un dictamen que contiene los detalles del caso específico, la propuesta de resolución y su justificación con referencias a casos similares. Este documento es, no obstante, revisado por un fiscal (las mediciones hechas por la propia fiscalía muestran una tasa de fiabilidad del 96%) antes de remitirlo al tribunal67. Los resultados de “Prometea” son muy estimulantes. No sólo ha logrado agilizar enormemente los procedimientos judiciales sin que merme la calidad del trabajo de la fiscalía68. Además, lo ha hecho utilizando una metodología transparente, en cuanto su algoritmo de machine learning elabora la propuesta de resolución en base a un conjunto de reglas definido previamente por los fiscales y almacenadas en el sistema, por lo que es completamente trazable y permite explicar cómo se ha llegado a aquella. Y, por último, su uso se enmarca en un contexto institucional en el que queda preservado el papel decisor del humano como titular de la competencia en el legítimo ejercicio de una función pública. A raíz de esta experiencia tan positiva, sus creadores han diseñado un sistema similar -denominado “PretorIA”- para la Corte Constitucional de Colombia, que desde julio de 2020 lo está utilizando ya para el triaje de los casi 700.000 casos que anualmente recibe dicho tribunal, al objeto de determinar aquellos cuya tutela es prioritaria.