La nueva tecnología ha propiciado la difusión de desinformación, pero también está siendo utilizada para promover la eficiencia.

Hasta hace unos pocos años, el concepto de Inteligencia Artificial (IA), para muchos, todavía parecía algo de ciencia ficción, pero el explosivo desarrollo que ha tenido esta tecnología desde 2023 ha hecho que el uso de herramientas como ChatGPT se haya vuelto algo habitual para millones de personas alrededor del mundo. Este contacto constante con la IA ha llevado a gobiernos y organizaciones a idear novedosas formas para utilizarla para potenciar la productividad, la seguridad o defender los derechos de las personas, aunque, al mismo tiempo, se han multiplicado las formas en que puede ser usada para difundir desinformación o manipular electores.

Los gobiernos y organizaciones están aprovechando la IA para mejorar productividad, seguridad y protección de derechos, pero también ha aumentado su uso en la difusión de desinformación y manipulación electoral.

Reporteros digitales para evadir la censura de Maduro

‘Hola soy La Chama. Y yo soy El Pana’, comienza el video de presentación de estos dos periodistas, creados por IA, para ayudar a combatir la censura en Venezuela y para contar lo que ocurre en el país evadiendo las medidas de control del gobierno de Nicolás Maduro y sin poner en peligro la vida de los reporteros.

Es parte de la ‘Operación retuit’, lanzada por la plataforma Connectas y una docena de medios venezolanos, como una forma de informar a los ciudadanos y, a la vez, mantener seguros a los periodistas. La Chama y El Pana son la cara visible, pero toda la información que entregan es investigada por periodistas acreditados.

Los medios venezolanos atraviesan una situación difícil hace años, pero el contexto se ha vuelto crítico en los últimos meses —con el bloqueo de decenas de sitios de noticias— potenciado por el contexto electoral y las dudas internacionales sobre la reelección de Maduro. Esa realidad afecta directamente a los periodistas: al menos ocho de ellos han sido arrestados en el contexto poselectoral, según el Sindicato Nacional de Trabajadores de la Prensa.

La ‘Operación retuit’ busca evitar situaciones como esa.

Espiar las RR.SS. para ‘prevenir el crimen’

Otro país de la región también ha comenzado a dar un uso distinto a la IA, con una controversial iniciativa enfocada en la seguridad. El gobierno argentino anunció recientemente la creación de la Unidad de Inteligencia Artificial Aplicada a la Seguridad (UIAAS) para ‘prevenir, detectar, investigar y perseguir delitos y sus conexiones mediante el uso de IA’. Entre sus tareas está el monitoreo de redes sociales, aplicaciones y sitios web para identificar delitos y sus autores; el análisis de actividades en RR.SS. para detectar posibles amenazas y prever disturbios; y la detección de transacciones sospechosas.

La ministra de Seguridad, Patricia Bullrich, aseguró que el uso de IA ‘mejorará significativamente’ el trabajo de su oficina y de la policía, mientras que los expertos locales están divididos entre los que defienden la iniciativa y los que plantean que hay posibles riesgos a la privacidad de los datos y por el sesgo que puede tener la IA.

Gobiernos e instituciones más eficientes

Otros gobiernos y empresas alrededor del mundo también han puesto sus ojos en la IA como una forma de ‘mejorar la eficiencia de sus operaciones y aumentar la productividad’, además de ‘agilizar los procedimientos administrativos para facilitar que las personas obtengan respuestas a preguntas básicas’, dijo a ‘El Mercurio’ Darrell West, miembro de la Brookings Institution y exdirector del Centro de Innovación Tecnológica de la organización.

Uno de ellos es el gobierno francés, que hace unos meses anunció que implementará un programa de IA, llamado ‘Albert’, para ayudar a las autoridades a responder rápidamente las preguntas de los franceses y automatizar ciertos procesos, como las declaraciones de impuestos. En Australia, en tanto, las autoridades de la fiscalía del estado de Victoria están usando la IA generativa para crear notas de casos listas para el tribunal a partir de informes policiales con mucha información, mientras que Taiwán planea implementar este tipo de tecnología pronto para ‘mejorar la transparencia, la confianza y la seguridad nacional’, según su ministra Digital, Audrey Tang.

El nuevo gobierno laborista de Reino Unido también puso sus ojos en la IA y está trabajando junto al Instituto Tony Blair para implementar la tecnología con el fin de automatizar, según el organismo, más del 40% de las tareas realizadas por los trabajadores del sector público y ahorrar más de 50.000 millones de dólares anualmente.

Desinformación extremista e impacto electoral

Desde que comenzó la explosión de popularidad de la IA, la desinformación ha sido vista como una de las principales amenazas de esta tecnología y en el último tiempo ha sido utilizada por grupos extremistas para generar malestar entre la población. Fue lo que se vio recientemente en las manifestaciones anti inmigrantes de Reino Unido que fueron impulsadas por contenido en redes sociales generado por IA.

La desinformación generada por IA tiene un impacto especialmente grande en el marco de las elecciones, donde puede generar ‘un no voto de los temerosos, un mal voto de los no comprometidos y un posible golpe de Estado de los fanáticos’, aseguró Christopher Schwartz, investigador del Global Cybersecurity Institute del Rochester Institute of Technology, quien plantea que los ‘fanáticos’ son un grupo comparativamente menor, por lo que no pueden tener un impacto muy grande por cantidad de votos en las elecciones, pero sí lo pueden tener impulsando acciones como el asalto al Capitolio del 6 de enero de 2021.

Precisamente en EE.UU. se ha visto un uso masivo de IA para propagar desinformación y propaganda política en esta campaña presidencial, y no solo desde cuentas anónimas, sino que de personalidades muy conocidas. Una de ellas es el candidato republicano Donald Trump que hace unos días subió una imagen de Taylor Swift creada por IA en la que le daba su respaldo a su candidatura, algo que ella nunca ha hecho. El exmandatario también compartió una imagen falsa de Kamala Harris dando un discurso en lo que parece ser un mitin comunista.

El fenómeno ha sido potenciado por herramientas de creación de contenido IA cada vez más fáciles de usar, como la que lanzó recientemente X y que ya ha sido utilizada para generar imágenes falsas de Harris y de Trump.

Alerta en América Latina

El Jurado Nacional de Elecciones peruano (JNE) advirtió el fin de semana de los riesgos del uso de la Inteligencia Artificial (IA) en los procesos electorales en América Latina porque esta herramienta puede impulsar la desinformación.

En su portal de verificación de datos, el ente publicó un artículo en el que examina los riesgos que traería para los procesos electorales en la región la desinformación impulsada mediante las herramientas de esta tecnología, así como las alternativas que tiene la sociedad para enfrentar dicho fenómeno.

En el texto, se subraya que los algoritmos de IA pueden ser entrenados para imitar el estilo y la voz de figuras públicas, generar imágenes falsas que se vuelven virales en las redes sociales y dirigir mensajes personalizados a segmentos específicos de la población.

El artículo también describe casos en los que se ha hecho uso de la IA generativa en elecciones recientes como las de Argentina y México a través de los denominados ‘deepfake’, así como la manipulación de fotografías, situaciones que se proyecta puedan multiplicarse en los próximos procesos electorales.

El JNE resaltó que para lograr la confianza y credibilidad en las elecciones en la era de la IA, es importante que los gobiernos, empresas de tecnología y sociedad civil actúen de manera cooperativa para hacer frente a la manipulación y desinformación