TAI #TATGranada | «Una herramienta de análisis puede convertirse fácilmente en una de vigilancia»

Emanuele Sapienza, del Programa de Naciones Unidas para el Desarrollo y especialista en procesos de contaminacion en redes, y Juan Luis Fernández Rodríguez, vicepresidente global de Servicios Profesionales de la compañía Constella Intelligence, pasaron por el Palacio de Congresos de la capital granadina en el marco de TAI Granada para debatir sobre la aplicación de sistemas de inteligencia artificial en el marco de la geopolítica.

Al filo de las once menos cuarto de la mañana, los dos ponentes subían al escenario tras la presentación de Iñaki Cano. El primero en intervenir fue Juan Luis Fernández, quien desgranó algunas de las características del entorno actual en el que se mueve su compañía. que califico de «complejo», poniendo complejos como el asalto al Capitolio estadounidense apoyado por Donald Trump, o las campañas de noticias falsas con origen en Rusia para justificar la invasión de Ucrania.

«La desinformación empieza a utilizar canales más ocultos», aseguró Fernández, más lejos de las grandes redes sociales, donde es más fácil que se persiga a ciertos actores. Además, «los malos», como los llamó, también comienzan a utilizar inteligencia artificial, a través de herramientas como los ‘deep fakes’ de imágenes o vídeos, y ofrecen estos servicios por dinero a cualquiera que quiera realizar este tipo de campañas.

Para luchar contra esta situación, explicó el ponente, en Constella Intelligence se recogen y analizan «millones» de puntos de datos y mensajes, y se usan procesos de análisis de lenguaje natural para entender cómo se forman, estructuran y mueven las comunidades. «Telegram o WhatsApp son plataformas donde se comparte mucha desinformación», aseguró el investigador, y también destacó otras herramientas que se usan en este sentido, como las redes de bots, que también despliegan naciones para defender sus intereses geopolíticos.

Con el objetivo de entrenar a sus sistemas de inteligencia artificial, la compañía lleva casi tres lustros recopilando datos de diferente tipo, que se cruzan para permitir, entre otras aplicaciones, llegar a identificar a personas físicas, que son actores en este tipo de movimientos. En este sentido, destacó la importancia de hacer un uso «ético» de estos sistemas, para lo cual reclamó una mayor regulación en este ámbito. «La inteligencia artificial se está usando para condicionar la opinión pública de grandes masas; por eso necesitamos este tipo de actuaciones para identificarlas y combatirlas», concluyó.

Desarrollo sostenible

Emanuele Sapienza, por su parte, quiso centrar su intervención en el uso de estos algoritmos «para acelerar el proceso hasta el logro de los objetivos de desarrollo sostenible», algo que considera fundamental en el mandato de las Naciones Unidas. «La IA conlleva riesgos y desafíos», afirmó, y por esta razón existe una «conversación» para que el uso de estas tecnologías queden dentro del respeto a los derechos humanos.

Se centró en especial en la relación entre los algoritmos y la desinformación y los discursos de odio, que «siempre han sido parte de las sociedades y de la política», dijo Sapienza. «La información falsa o exagerada genera más atención que la verdadera», algo que se ve agravado porque los sistemas de las redes sociales amplifican esta información por generar más reacciones, lo que crea un auténtico «ciclo de contaminación». Puso como ejemplo los contextos de campañas electorales, «un momento de alto riesgo» en lo que se refiere a la desinformación.

Sapienza aseguró que la inteligencia artificial puede ayudar a combatir estos procesos, algo que ya han hecho en paises latinoamericanos a través, por ejemplo, de herramientas de verificación de hechos o análisis de patrones de contaminación. «La escala y la rapidez» con las que se pueden desplegar estas herramientas «indispensables» gracias a la inteligencia artificial es muy superior a todo lo anterior, aseguró el miembro del Programa de Naciones Unidas para el Desarrollo.

Además, también desgranó algunos de los riesgos que implican estas actuaciones, porque, dijo, «una herramienta de análisis puede convertirse con mucha facilidad en una de vigilancia». Por esta razón, «lo que se necesita es un abordaje integral que implique un abanico amplio de actuaciones».