Imagen tomada de UNESCO
El uso de herramientas de IA en tribunales y cortes se ha incrementado en los últimos años. El auge está asociado al uso chatbots por parte de jueces, personal de apoyo judicial, fiscales y abogados de todo el mundo, que la utilizan con el fin de buscar de información, redactar documentos y elaborar argumentos para audiencias judiciales, entre otras tareas.
Este es uno de los principales hallazgos de la encuesta UNESCO “Survey on the Use of AI Systems by Judicial Operators”, en la que participó como consultor el profesor Juan David Gutiérrez de la Escuela de Gobierno. El objetivo de la encuesta fue entender el alcance en el uso de las herramientas de IA en actividades legales, así como conocer las percepciones de sus usuarios sobre potenciales riesgos y la necesidad de contar con guías y capacitación para su uso en actividades legales. La encuesta fue contestada por más de 500 personas -en 96 países- que hacen parte de la red de operadores judiciales de la UNESCO.
En cuanto al uso de herramientas de IA, la encuesta encontró que:
- El 44% de los encuestados afirma que ha utilizado herramientas de IA para actividades relacionadas con el trabajo.
- En cuanto al uso de chatbots, como ChatGPT, se identificó su uso en tres tareas específicas: búsqueda (43%), redacción de documentos (28%) y exploración de ideas (14%).
Respecto a los riesgos percibidos:
- El 27% de los operadores judiciales se mostraron preocupados por la calidad de los resultados del chatbot de IA, específicamente por: inexactitud, falsedad y falta de confiabilidad de la información.
- El 17% expresó su preocupación por posibles infracciones de derechos de autor, integridad y originalidad de la producción del chatbot.
- El 18% de los encuestados identificaron problemáticas asociadas con la privacidad, la protección de datos personales y la seguridad de la información.
Finalmente, en relación con las regulaciones emitidas por las organizaciones:
- Solo el 9% de los operadores judiciales declararon que su organización había emitido pautas o regulaciones para usar chatbots de IA.
- El mismo porcentaje de encuestados declaró que su organización había proporcionado capacitación o información relacionada con el uso de IA.
Además, más del 72% de los encuestados respondieron que deberían existir guías y reglas obligatorias sobre el uso de chatbots de IA para realizar actividades legales.
Los hallazgos de la encuesta evidencian que la necesidad de orientar a los profesionales sobre el uso adecuado de herramientas de IA en el sector justicia es escasa, pues hay pocas pautas oficiales publicadas sobre cómo estas pueden usarse responsablemente en tareas asociadas con la administración de justicia. La publicación de guías y la formación del talento humano es clave para prevenir y mitigar los posibles efectos negativos de la IA, así como para mejorar las oportunidades que esta puede ofrecer para la administración de justicia.
- UNESCO publicará sus lineamientos sobre el uso de herramientas de IA para cortes y tribunales, las cuales ofrecerán recomendaciones basadas en los hallazgos de la encuesta.
Para ver el informe completo de la encuesta UNESCO ingresa aquí.
