Cuando la IA se ponga la toga al momento de juzgar, por Emilio Noguerol Uceda

La inteligencia artificial está cambiando vertiginosamente la forma en cómo nos comportamos e interactuamos, pero lo que hemos visto hasta ahora con los modelos de uso público no se compara en lo más mínimo a lo que veremos los próximos años cuando alcancemos la singularidad, hipótesis cada vez más probable en la que la IA supera el razonamiento humano y puede perfeccionarse a sí misma, un punto de inflexión para la civilización tal como la conocemos.

A quienes sabemos poco o nada de tecnología, solo nos toca esperar y adaptarnos, pero como abogado considero importante que reflexionemos sobre un asunto en particular: ¿Qué pasará cuando la IA se ponga la toga y resuelva, como un juez, las controversias?

En el marco del 68 aniversario de la Universidad de Lima, su biblioteca organizó un conversatorio muy interesante titulado “Debates y perspectivas del siglo XXI. La singularidad está más cerca de Ray Kurzweil”, en el cual tuve la dicha de participar como expositor junto a Julio César Mateus y Jaime Sotomayor. Los tres, moderados por Edgar Huaranga, comentamos nuestras reflexiones sobre el libro del citado científico y futurista estadounidense.

Fue una importante oportunidad para intercambiar ideas sobre la inteligencia artificial, las promesas asociadas a su uso y, cómo no, sus riesgos, desde nuestras distintas disciplinas: Julio desde la comunicación, Jaime desde la ingeniería de sistemas, Edgar desde las ciencias de la computación y yo desde las ciencias jurídicas. Algunas de ellas las compartiré con ustedes en esta entrega de Sala de Máquinas, que ha tardado en llegar por un mes de tristeza y despedidas, pero que espero sea de su interés.

El libro de Kurzweil presenta un panorama bastante optimista para la próxima década en función del vertiginoso desarrollo y uso de la inteligencia artificial en todos los ámbitos de la sociedad, incluso al hablar de los riesgos que la propia tecnología trae consigo, para los cuales será trascendental la fortaleza de las instituciones y la gobernanza en el diseño e implementación. Acuerdos como los 23 principios de la Conferencia de Asilomar (2021) o los contenidos en la Declaración de Bletchley (2023) son muestra de que es posible ponernos de acuerdo sobre los límites y alcances de la IA.

Entre estos acuerdos se encuentra el de la transparencia en los sistemas de justicia el cual implica que “cualquier participación de un sistema autónomo en la toma de decisiones judiciales debe proporcionar una explicación satisfactoria auditable humana competente” (Principio 9 de Asilomar).

¿Por qué esto es tan relevante? Pues bien, como destaca Morandín-Ahuerma (2023), en tanto la IA ya se viene utilizando en los sistemas judiciales, cada vez con mayor frecuencia, para evaluar riesgos, recomendar sanciones y realizar múltiples tareas administrativas y de toma de decisiones, se debe garantizar que dicha decisión pueda explicarse de forma, simple, comprensible y verificable por una autoridad humana, en otras palabras, que permita la rendición de cuentas.

Esta auditabilidad de las decisiones es imprescindible porque la IA puede presentar errores de razonamiento, alucinaciones o contener sesgos en su diseño. Si lo que está en juego es el derecho de una persona o, más sensible aún, su libertad, la IA usada para juzgar debe permitir revisar la ruta neural que ha arrojado determinada decisión. Esa exigencia se enmarca dentro de los principios constitucionales de administración de justicia (Art. 139 de la Constitución) a que, deberán ser repensados para los nuevos tiempos. Sin embargo, reconozco que la sola idea de que la IA participe en la tarea de resolver conflictos que se históricamente solo se le confía a los jueces (y ahora a los árbitros) puede ser, a su vez, conflictiva para algunos.

Hace unas semanas, Hernando Guerra García Cueva me contaba una anécdota de mi bisabuelo Antenor, su padre, quien en vida fue un honorable juez y cuyas decisiones él, desde muy niño  (acompañado de ese profundo sentido de justicia de social que hasta hoy lo denomina) seguía de cerca con ánimos de comprender qué las motivaban. La historia terminaba con una frase que el patriarca de mi familia le transmitiría y que se ha quedado resonando en mi cabeza: “Yo no hago justicia, el único que hace justicia es Dios, yo solo la administro”.

Considero que sobredimensionamos la labor de la judicatura, como si esta correspondiese a unos iluminados omnipotentes que decidirán sobre las diversas causas con un conocimiento exquisito, incomparable, de los hechos y de los derechos, cuando en realidad no son más que profesionales que, en el mejor de los casos, tienen cierta experiencia en su especialidad y una adecuada capacitación para la resolución de controversias, usando única y exclusivamente el derecho. Pero el aforismo “iuria novit curia”(el juez conoce el derecho) en países sin instituciones como el nuestro es una utopía; apelar a ello, naif y hasta negligente. Personalmente he comprobado esta inconsistencia con sentencias que son francamente vergonzosas, no sé si por flojera, ignorancia o la tantas veces alegada carga procesal. No es normal ni aceptable que el ejercicio del derecho a la doble instancia (o del excepcionalísimo recurso de casación o amparo contra resolución judicial) sean el vehículo para encontrar calidad en la judicatura. La IA tiene mucho por aliviar en ese terreno de constantes disputas y resignadas esperas.

Los reparos en usar la inteligencia artificial para ayudar a resolver controversias parten de esta idea romántica del juez que lo sabe todo, que “hace” justicia como una deidad y que tan solo con leer los argumentos de ambas partes en un par de escritos de demanda y contestación y, muchas veces, prescindiendo de las audiencias orales, cree estar en la capacidad de tener una opinión formada y de tomar una decisión que impactará en los derechos fundamentales de personas y empresas, y consecuentemente en su destino.

China parece haber encontrado mayores pros que contras en su análisis respecto al uso de la IA en la justicia, porque en la provincia de Hangzhou se ha desarrollado un sistema de asistencia judicial llamado Xiao Zhi 3.0 o “Pequeña Sabiduría" con la cual se ha ayudado a resolver más de diez mil casos (DW, 2023). Pero no todos los países vienen reaccionando de la misma forma a la presencia de la IA en la justicia, por ejemplo, Francia prohibió en 2019 los sistemas de análisis con inteligencia artificial de sentencias diseñados para que el usuario pueda predecir las decisiones judiciales de determinado juzgado. De hecho, actualmente quien no cumpla con esta prohibición podría enfrentar una pena de cinco años de cárcel y una multa superior a los 500 mil euros, por atentar contra los datos personales, como bien jurídico protegido.

En lo que respecta al Perú, un paso importante para la incorporación de la IA en la administración de justicia ha sido la promulgación de la Ley N° 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país, del mes de junio de 2023. Aunque es escueta, mediante ella el legislador ha declarado de interés nacional la promoción de la IA y su operatividad la veremos una vez que se apruebe su reglamento.

Por lo pronto, la Presidencia del Consejo de Ministros publicó en noviembre de 2024, el proyecto del texto reglamentario y es importante destacar la predisposición a incorporar la IA en el aparato estatal para reducir brechas y mejorar su funcionamiento. Se ha optado por abrazar vía regulación y solo excepcionalmente prohibir ciertos usos que son considerados de máximo riesgo. Volviendo al asunto de la administración de justicia, el proyecto de reglamento establece que, dentro de los sistemas de inteligencia artificial con calificación de riesgo alto, pero aceptable, se encuentra precisamente el “Apoyo en la toma de decisiones, interpretación normativa o de los hechos por una autoridad jurisdiccional”, así como la “verificación de la fiabilidad de pruebas en la investigación o juicio penal”.

Con lo cual, de aprobarse este texto y publicarse el respectivo decreto supremo, el Poder Judicial, el Tribunal Constitucional e incluso el Ministerio Público, en sus investigaciones, podrán hacer uso lícito de la inteligencia artificial para sus respectivas labores constitucionales. La suerte está echada.

No creo que la judicatura pueda empeorar con estas medidas, por el contrario, es una oportunidad para eliminar taras y asegurar calidad. Se me ha vuelto costumbre extraer párrafos de sentencias y, tras proporcionar antecedentes suficientes, criterios legales y jurisprudencia pertinente, someterlas al escrutinio de la IA para verificar si son lógicas o si presentan vicios en su motivación. Ay, si esa labor si hiciese antes de que se emitan.

Kurzweil alivia dudas sobre el mal uso de la IA, trayendo en colación el principio de libre competencia, pues señala que cada paso hacia la superinteligencia está sujeto a la aceptación del mercado, de nosotros, el público. En la medida en que la inteligencia artificial es una creación de los humanos para resolver problemas existen potentes incentivos para optimizarla con fines muy benéficos. Reflejará nuestros valores y, en la administración de justicia, deberá usarse en estricto respeto de los principios constitucionales que le dan un norte.

La inteligencia artificial en la justicia se presenta como una enorme oportunidad para dinamizar su acceso, mejorar su calidad decisora y reducir tiempo y las cargas que saturan. La justicia que tarda no es justicia, tampoco lo es la que aparenta sustancia, pero carece de ella. Los jueces deben dejarse ayudar con la tecnología que hoy ya tienen a la mano, pero primer tienen que reconocer algo que mi bisabuelo tuvo muy claro: ellos no hacen justicia, solo la administran, será más fácil así.