El 24 de octubre de 2024, la Escuela de Gobierno Alberto Lleras Camargo, en colaboración con la Universidad Externado de Colombia y la Fundación Corona, organizó la sexta sesión de su mesa de trabajo multiactor sobre la regulación de la inteligencia artificial (IA). En esta ocasión la mesa abordó las implicaciones de la IA para la democracia en Colombia y tuvo lugar en el marco de la Semana de la Democracia promovida por la Registraduría Nacional del Estado Civil.
Como en anteriores ocasiones, la mesa de trabajo reunió a representantes del Estado, la academia, la sociedad civil y el sector privado. El espacio contó con la participación de más de 50 participantes presenciales y más de 250 participantes virtuales. Además, la sesión incluyó a cuatro expertos invitados: Rafael Vargas, Director de Gestión Electoral de la Registraduría Nacional, que resaltó el uso de herramientas de IA para apoyar los procesos electorales; Mauricio Vera, Comisionado de la Comisión de Regulación de Comunicaciones, que reflexionó sobre el rol de los medios de comunicación en los debates sobre democracia y tecnología; Diana Dajer, Gerente de Participación Ciudadana de la Fundación Corona, que presentó propuestas para mitigar los riesgos que la IA representa para la democracia, en particular en lo que respecta a la lucha contra la desinformación, así como ejemplos de herramientas acercan a la ciudadanía a los procesos democráticos; y, Carlos Cortés, Director Ejecutivo de Linterna Verde, que abordó los efectos de la IA en la moderación de contenidos digitales y las implicaciones de la gobernanza de las plataformas digitales para la libertad de información.
Además, los asistentes se dividieron en cinco mesas de trabajo para discutir diversos retos y oportunidades de las herramientas de IA en la democracia. En la primera mesa, se discutió el uso de la IA para la vigilancia de la actuación estatal, destacando su potencial para mejorar la supervisión en áreas clave como la contratación pública y la lucha contra la corrupción. A pesar de las dificultades en el acceso a datos, se coincidió en que la IA podría transformar estos ámbitos si se desarrollan marcos normativos que promuevan la transparencia y la calidad de los datos en las instituciones públicas. En la segunda mesa, se abordaron los problemas que la IA plantea para la democracia, destacando la necesidad de equilibrar la innovación tecnológica con la protección de los derechos humanos, y de promover la alfabetización digital para que los ciudadanos comprendan y manejen estos sistemas de manera equitativa.
La tercera mesa se centró en cómo la IA puede promover la democracia, subrayando su capacidad para mejorar el acceso a la información y fortalecer la participación ciudadana. Los participantes coincidieron en la necesidad de un marco normativo que defina claramente las responsabilidades de los actores involucrados. En la cuarta mesa, se discutieron los impactos positivos de la IA en sectores como la salud y la educación, destacando que su implementación exitosa depende de superar las brechas tecnológicas y contar con la infraestructura adecuada.
Finalmente, en la última mesa, que trabajó en torno a la amplificación de la desinformación en relación con los procesos democráticos, se destacó que aunque la IA puede democratizar el acceso a la información, también puede propagar desinformación cuando los algoritmos priorizan contenidos sensacionalistas o polarizantes. En este sentido, se enfatizó la necesidad de crear estándares de veracidad y marcos regulatorios claros para evitar que la desinformación socave la confianza pública y los procesos democráticos.
Para cerrar la mesa se destacó la importancia de utilizar los datos de manera ética y mejorar su calidad para garantizar sistemas de IA justos, transparentes y sostenibles.
Te invitamos a leer la relatoría completa de la sexta mesa de trabajo aquí, un resumen de las principales conclusiones aquí, y un podcast producido a partir de la herramienta NotebookLM que puede escucharse acá.
