Imagen tomada de ElgarOnline
El pasado 18 de junio de 2024 fue publicado el capítulo Critical Appraisal of Large Language Models in Judicial Decision-making, escrito por el profesor Juan David Gutiérrez de la Escuela de Gobierno. El capítulo hace parte del Handbook on Public Policy and Artificial Intelligence, editado por las profesoras Regine Paul, Emma Carmel, y Jennifer Cobbe.
El capítulo analiza casos de uso de sistemas de Inteligencia Artificial (IA) basados en modelos de lenguaje a gran escala (LLMs, por su acrónimo en inglés) por parte de jueces y tribunales en Argentina, Bolivia, Brasil, Colombia, México y Perú. El texto describe cómo la justicia ha usado este tipo de herramientas para redactar fallos y para participar en audiencias judiciales con el fin de respaldar sus argumentos.
El profesor explica las oportunidades, limitaciones y riesgos de usar sistemas de IA basados en LLMs para apoyar la toma de decisiones judiciales. Argumenta por qué estas herramientas pueden ayudar en tareas tales como la exploración de temas o resumir textos, pero no son adecuadas para acceder a información fiable sobre preguntas factuales, técnicas o legales.
Además, explica por qué determinados sistemas de IA que funcionan a partir de LLMs pueden vulnerar derechos fundamentales, como el debido proceso y la protección de datos personales, así como valores de la administración de justicia, como la imparcialidad y autonomía.
El capítulo resalta la necesidad de que el poder judicial promueva la alfabetización digital, así como el uso informado, transparente, ético y responsable de las herramientas de IA. Adicionalmente, el profesor reflexiona sobre la necesidad de que estos sistemas estén sujetos a un escrutinio y control humano.
Finalmente, el capítulo invita a las entidades que gobiernan el poder judicial a diseñar directrices y políticas sobre cómo y cuándo se pueden usar herramientas de IA en los procesos judiciales. Si quieres conocer más sobre este capítulo puedes acceder aquí a la versión publicada y también puedes acceder a la versión pre-print.
