El documento enfatiza que los sistemas de IA deben actuar como herramientas de apoyo y no como sustitutos del razonamiento judicial. La función jurisdiccional no puede ser reemplazada por sistemas automatizados, y cualquier uso de estas tecnologías debe mantenerse bajo supervisión humana significativa.

Orientaciones para organizaciones judiciales

Además de los principios generales, las Directrices desarrollan recomendaciones específicas dirigidas a organizaciones del poder judicial —cortes y tribunales— que evalúan, desarrollan, adquieren, utilizan o supervisan sistemas de IA.

Estas recomendaciones se agrupan en tres grandes categorías:

1. Desarrollo, adquisición, uso y evaluación de sistemas de IA.
2. Talento humano.
3. Uso de sistemas de IA generativa.

En relación con el ciclo de vida de los sistemas, el documento establece que las organizaciones judiciales deben:

• Proteger la independencia e imparcialidad del poder judicial, asegurando que la implementación de IA no altere sus características fundamentales.
• Adoptar políticas o estrategias institucionales sobre IA que identifiquen barreras, definan objetivos y establezcan métricas de seguimiento.
• Implementar esquemas de gobernanza multiactor, incluyendo consultas públicas y mecanismos de participación ciudadana, especialmente de poblaciones que puedan verse afectadas por estos sistemas.
• Considerar las especificidades culturales y contextuales de las poblaciones impactadas y las barreras de acceso a la justicia de personas con menor capacidad digital.

Asimismo, se recomienda realizar evaluaciones de riesgos, establecer mecanismos de supervisión y auditoría, y garantizar que existan salvaguardas cuando los sistemas puedan representar riesgos significativos para los derechos humanos.

Inteligencia artificial generativa en contextos judiciales

Dado el creciente uso de herramientas basadas en modelos de lenguaje de gran escala, las Directrices dedican una sección específica a la IA generativa.

El documento advierte que estas herramientas pueden comunicar en lenguaje natural y generar contenido en respuesta a instrucciones (prompts), pero también pueden producir resultados inexactos o incorrectos. Por ello, establece que:

• Las decisiones sustantivas no deben delegarse en sistemas generativos.
• El contenido generado debe ser verificado antes de su uso.
• Debe garantizarse la protección de datos personales y confidenciales al formular instrucciones.
• El uso de estos sistemas debe ser transparente cuando intervengan en la elaboración de documentos con efectos jurídicos.

La IA generativa no debe sustituir peritajes, análisis especializados ni la deliberación judicial.

Capacidades, formación y supervisión humana

Las Directrices subrayan la importancia de fortalecer el talento humano dentro del poder judicial. La alfabetización en IA y la formación especializada son consideradas elementos esenciales para que jueces, magistrados, funcionarios judiciales y personal de apoyo puedan comprender, evaluar y gestionar adecuadamente los riesgos asociados al uso de estas tecnologías.

Igualmente, insisten en que la supervisión humana es un requisito central. La IA puede contribuir a mejorar la gestión de casos, ampliar el acceso a información y aumentar la eficiencia, pero siempre bajo revisión ética y control humano efectivo.

Un documento vivo con alcance global

Las Directrices fueron elaboradas con base en amplios procesos de consulta y formación previos que involucraron a expertos de más de 160 países y a más de 36.000 actores judiciales. Además, se conciben como un documento vivo, sujeto a actualizaciones periódicas para responder a la rápida evolución tecnológica.

En conjunto, este marco ofrece orientación práctica para que las herramientas de IA contribuyan a fortalecer la justicia, la transparencia y la confianza pública, sin comprometer la independencia judicial ni los derechos fundamentales.