Es urgente actuar antes de que la IA tenga un impacto irreversible en la confianza en los procesos electorales

El pasado 4 de marzo de 2024, se realizó el lanzamiento del informe “La IA en las Urnas”, una iniciativa que forma parte de la serie AI Global Policy Brief Series, liderada por Catherine Régis, profesora de Derecho en la Universidad de Montreal, y Florian Marin-Bariteau, profesor de Tecnología y Sociedad en la Universidad de Ottawa. Este informe analiza el impacto de la inteligencia artificial (IA) en los procesos democráticos y propone soluciones concretas para mitigar los riesgos que representa en las elecciones alrededor del mundo. 

El evento también contó con la participación de otros autores del informe, como Jake Okechukwu, profesor de derecho de la Toronto Metropolitan University, Gina Neff, profesora de IA responsable en Queen Mary University of London y directora del Minderoo Center for Technology and Democracy en la Universidad de Cambridge, y Juan David Gutiérrez, profesor asociado de la Escuela de Gobierno de la Universidad de los Andes. 

El informe destaca el creciente uso de los sistemas de IA para afectar negativamente elecciones democráticas alrededor de mundo y propone cuatro acciones clave para mitigar los riesgos de la IA en procesos electorales: 

1.  Actualizar las normas electorales 

• Adaptar las leyes para incluir definiciones de “medios sintéticos” y regular el uso de IA generativa en campañas políticas. 

• Prohibir ciertos usos, como la manipulación de imágenes de candidatos con fines engañosos. 

• Establecer responsabilidades claras para la difusión de contenido falso y exigir transparencia en el uso de IA. 

2. Adoptar un código de conducta para partidos políticos 

• Los partidos deberían acordar un marco de autorregulación para evitar la manipulación con IA. 

• Se recomienda etiquetar el contenido generado por IA y prohibir el uso de deepfakes engañosos. 

• Capacitar a miembros y simpatizantes sobre el uso ético de la IA en campañas. 

3. Crear equipos independientes de monitoreo electoral 

• Se sugiere que las autoridades electorales formen grupos independientes y especializados en detectar y mitigar amenazas de IA. 

• Diseñar planes de respuesta ante ataques digitales en elecciones. 

4. Establecer guardianes electorales internacionales de IA 

• Crear mecanismos de cooperación internacional para enfrentar la injerencia electoral basada en IA, por ejemplo, establecer guardianes electorales internacionales de IA. 

• Desarrollar protocolos de asistencia jurídica mutua para abordar interferencias transfronterizas relacionados con IA en elecciones. 

Luego de la presentación del informe, se llevó a cabo un panel con la participación de Paca Zuleta, directora de la Escuela de Gobierno de la Universidad de los Andes. Diana Dajer, directora de Participación Ciudadana en la Fundación Corona, David Hernández, líder del Grupo de Analítica de Datos e IA de la Registraduría Nacional del Estado Civil de Colombia, François Boucher, asesor de Ética en la Comisión de Ética y Ciencia y Tecnología del Ministerio de Economía, Innovación y Energía de Quebec; y Abraham Torres, asesor del Jurado Nacional de Elecciones de Perú. 

Los panelistas analizaron la preparación de las autoridades electorales para enfrentar los desafíos que plantea la IA en los procesos democráticos. Paca Zuleta, manifestó su preocupación sobre si las entidades responsables cuentan con la capacidad y recursos suficientes para reaccionar eficazmente ante estos riesgos.

Diana Dajer, destacó la importancia de fortalecer la alfabetización digital de la ciudadanía como una estrategia clave para contrarrestar la desinformación generada con IA. Por su parte, David Hernández explicó el papel de la Registraduría Nacional del Estado Civil en la supervisión electoral y el uso de herramientas de IA en este proceso. Finalmente, François Boucher y Abraham Torres subrayaron la necesidad de fomentar la cooperación internacional y respaldaron la propuesta de crear guardianes electorales especializados en IA para enfrentar amenazas transnacionales. 

El evento concluyó con un llamado a gobiernos, partidos políticos y sociedad civil a tomar medidas concretas para fortalecer la democracia frente a los desafíos tecnológicos. Se destacó la urgencia de actuar antes de que la IA tenga un impacto irreversible en la confianza en los procesos electorales.

Te invitamos a ver el evento completo en este link.