IA, justicia y proceso judicial

Diego Palomo Vélez

Ultimos publicados:

• Justicia, crisis, cárcel y populismo electoralista

Hoy es difícil encontrar alguna faceta de nuestra actividad personal o profesional que no esté vinculada al uso de alguna tecnología. Estas herramientas han facilitado y hecho más eficiente la realización de tareas, mejorando la calidad de vida de millones de personas. Y sobra apuntar acá la velocidad a la que avanza. Cuestiones tan cotidianas como los asistentes virtuales (como "Siri"), la conducción automática de un automóvil, la búsqueda de información en Google, o, en el caso de los profesionales del Derecho, la consulta de doctrina y jurisprudencia en enormes bases de datos, son solo algunos ejemplos del uso de la inteligencia artificial (IA).

En el ámbito del Derecho, la tecnología en general, y específicamente la IA, ha ganado terreno en diversas áreas de importancia. Su aplicación abarca desde la simple atención e información al público hasta la intervención en aspectos jurisdiccionales.

Pues bien, no hace mucho tomamos noticia de un reciente informe de la Relatora Especial de las Naciones Unidas sobre la independencia de magistrados y abogados, Margaret Satterthwaite, donde se advierte que la adopción de estas tecnologías ligadas a la IA debe hacerse con precaución, teniendo presente algunos riesgos y siempre bajo principios de derechos humanos, para evitar -lo decimos nosotros- que la reforma que importa la incorporación progresiva de la IA a la Justicia y procesos judiciales se transforme en una reformatio in peius, sin una regulación que sirva al menos de piso básico de cautela.

El documento (informe A-80-169), presentado ante la Asamblea General de la ONU el 16 de julio pasado, alerta contra el tecnosolucionismo e invita a los Estados y a los profesionales de la Justicia a considerar qué problemas de ésta puede ayudar a resolver la IA, si ésta es idónea y cuándo puede empeorar las cosas. La IA no debe adoptarse sin evaluar cuidadosamente sus daños potenciales, cómo mitigarlos y si otras soluciones serían menos arriesgadas.

La relatora especial destaca que el derecho a un tribunal independiente e imparcial requiere el acceso a un juez humano y que el derecho a acceder a un abogado elegido libremente requiere el acceso a un abogado humano. No es otra cosa, valga traer a colación en estas líneas, que lo que las reformas iniciadas de la mano de la oralidad han buscado: una Justicia con rostro humano.

El Poder judicial, se precisa, debe responsabilizarse de la adopción de cualquier innovación que pueda afectar a la toma de decisiones de los jueces. Para proteger la independencia judicial, se debería apoyar a los jueces para que adquieran alfabetización digital y en IA, además de contar con la facultad y la oportunidad de consultar con tecnólogos, abogados y el público sobre qué sistemas de IA, en su caso, deben adoptarse. Debería ponerse a disposición del público la información clave sobre los sistemas de IA aplicados a la judicatura.

Como sea, la IA ya se está usando por tribunales, jueces, fiscales y abogados, a veces con sanción y orientación oficiales (normativas), y en ocasiones sin ellas. Como ya estamos acostumbrados, llegamos tarde. Actualmente en nuestro país no tenemos una ley regule la IA, sin embargo, el proyecto de ley que regula los sistemas de inteligencia artificial (Boletines 15.869-19 y 16.821-19) sí menciona expresamente el uso de la IA en contextos judiciales o procesales, aunque no desarrolla un régimen particular para el Poder judicial.

Se prohíben expresamente ciertos usos de la IA que afecten derechos fundamentales en el ámbito judicial: "Se prohíben los sistemas de IA que pretenden inferir las emociones de una persona natural en los ámbitos de la aplicación de la ley penal, procesal penal y de la gestión de fronteras, en lugares de trabajo y en centros educativos". Se considera un uso de "riesgo inaceptable".

Además, aunque no se menciona directamente a los tribunales o juicios civiles/laborales, el texto establece principios generales que afectarían indirectamente al Poder Judicial o a los procedimientos donde se empleen sistemas de IA, por ejemplo: a) Principio de intervención y supervisión humana: toda IA debe ser controlada y vigilada por humanos; b) Principio de transparencia y explicabilidad: los sistemas de IA deben permitir comprender cómo se llega a una decisión respecto de las personas que sus resultados impacten

En definitiva, el proyecto regula el uso de IA en el ámbito procesal o judicial, pero de forma restrictiva (prohibiendo ciertos usos en el proceso penal). No establece aún un marco para el uso positivo de IA en la administración de justicia (por ejemplo, análisis de jurisprudencia, gestión de causas, o apoyo a la decisión judicial).

Si bien la IA y la automatización de ciertas etapas del proceso judicial buscan mejorar la eficiencia y rapidez en la resolución de conflictos, también es crucial considerar la reducción del riesgo de error como uno de los motivos fundamentales para su introducción y uso. Sin embargo, es importante no caer en la ilusión de que la IA es la solución infalible a todos los problemas y que es la panacea. Así como la oralidad y la inmediación no lo son, la IA está (aún) lejos de ser la solución definitiva a todos los problemas de la justicia en materia de posibilidades de error.

Es importante reconocer que la introducción de la IA probablemente traerá consigo nuevos desafíos y problemas. Pero más allá de eso, frente a la tentación de dejarnos deslumbrar por las promesas de las virtudes de la IA, es crucial destacar el rol que desempeñan los jueces. Decidir, o juzgar, "lo más humano que tenemos", un proceso intelectual solitario y profundamente complejo que involucra una variedad de factores y condicionantes, tanto internos como externos. Esto implica, por supuesto, asumir el riesgo de cometer errores, los cuales pueden manifestarse de diversas maneras, especialmente cuando se incrementa la presión por una respuesta rápida, lo cual aumenta la exposición a posibles fallos.

De ahí la necesidad de revalorar la importancia del factor humano si el escenario que enfrentamos implica la posible sustitución del juez por la IA. La IA podría parecer el mecanismo perfecto al que podríamos depositar toda nuestra confianza, otorgándole un poder absoluto para actuar sin necesidad controles o limitaciones sobre sus acciones. Sin embargo, esta concepción omite los riesgos éticos involucrados y de los sesgos (por citar un par solamente) y, por cierto, contradice las garantías procesales inherentes a las Constituciones de los Estados democráticos.

Estas garantías exigen asegurar que todos los miembros de la comunidad tengan acceso a un proceso judicial público, dirigido por una autoridad competente, donde las partes reciban un trato igualitario y puedan defender sus derechos en un ambiente contradictorio que permita cuestionar la fiabilidad de la información utilizada en el juicio, especialmente la que maneja la IA. Esto debe realizarse utilizando todos los medios disponibles y motivando las decisiones judiciales, todo ello dentro de un plazo razonable.

Exaltar los beneficios y el funcionamiento de la IA bajo la lógica del manejo de casos con un enfoque tecnosolucionista y puramente unidimensional de la eficiencia, sin una adecuada formación del factor humano, podría hacernos descuidar la importancia del control ejercido tanto por el juez como por el justiciable en el proceso judicial. Considerando la sobrecarga de trabajo inherente al ejercicio de la jurisdicción en nuestro país, la necesidad de operar con razonable celeridad y la obligación de impartir justicia de manera satisfactoria para todos, parece razonable utilizar la IA como un mecanismo auxiliar a la labor de los tribunales, por ejemplo, para la transcripción de audiencias, preparación de resúmenes, o su utilización en procedimientos rutinarios.

Por ahora, el Poder Judicial está en una etapa exploratoria para incorporar el uso de la IA en procedimientos y servicios judiciales, y según se ha dado a conocer se está trabajando en dos tribunales del país y también en la Tercera Sala de la Corte Suprema, en el procesamiento de documentos, para la generación de análisis y de resúmenes y también para poder transcribir audio. Inútil es cerrarse a la nueva realidad que impone el avance de la tecnología, pero conviene no olvidar que la IA implica diversos riesgos por los que, en caso de regularse incorrectamente, pueden llevar las iniciativas al fracaso, habiendo experimentado, ni más ni menos, con seres humanos vivos, los justiciables.