El Diálogo Global sobre la IA, la primera reunión de este tipo convocada por la ONU, se inauguró el 6 de julio en Ginebra, con la participación de gobiernos, empresas tecnológicas y científicos, quienes discuten cómo evitar que la inteligencia artificial cause “daños catastróficos”. Pero entre discursos solemnes y advertencias apocalípticas también hubo momentos que parecían salidos de otra parte: el secretario general, António Guterres, afirmó que los “robots asesinos” ya son la norma en los campos de batalla, mientras que, en el mismo recinto, un violinista con un brazo robótico ofrecía un concierto para los delegados.
Qué pasó en el Diálogo Global sobre la IA de la ONU
Convocado por mandato de la Asamblea General, el Diálogo reunió por primera vez a los 194 países de la ONU en torno a la gobernanza de la inteligencia artificial, junto con empresas, la academia, la sociedad civil y la comunidad técnica. Guterres advirtió que chips de IA cada vez más potentes y diseñados originalmente para uso civil ya se están incorporando al campo de batalla, y llamó “moralmente repugnantes” a los sistemas de armas autónomas. La presidenta de la Asamblea General, Annalena Baerbock, pidió actuar contra el lado “más oscuro” de la tecnología. Como parte de la agenda cultural del encuentro, el compositor y artista transmedia Gadi Sassoon presentó una actuación con un violinista acompañado por un brazo robótico, en un contraste que resume el tono de la cita: diplomacia de alto nivel y ciencia ficción compartiendo el mismo escenario.
Los datos que no cuadran: deepfakes, agua y 500 billones de dólares
Baerbock citó una cifra que resume el “lado oscuro” de la IA: el 99% de los deepfakes que circulan contienen contenido sexual, y el 96% de esos deepfakes están dirigidos contra mujeres y niñas. Guterres, por su parte, señaló que la inversión privada en infraestructura de IA ronda los 500 billones de dólares, mientras que el financiamiento público para que los países en desarrollo accedan a la tecnología es, dijo, “una gota en el océano”. Más de 20 países ya respaldan una nueva Red Mundial de Intercambio y Cooperación para el Fortalecimiento de Capacidades en IA, impulsada por la ONU para intentar cerrar esa brecha.
A esto se suma un dato ambiental difícil de imaginar: para 2030, los centros de datos dedicados a la IA podrían consumir más electricidad que todos los países del planeta salvo cinco, y suficiente agua para cubrir durante un año las necesidades de los mil 300 millones de personas que viven en el África subsahariana, de acuerdo con la propia ONU.
La IA ya sabe cuándo la están evaluando, advierte el panel científico
El Panel Científico Internacional Independiente sobre IA —40 expertos, copresididos por Yoshua Bengio y Maria Ressa— presentó, días antes del Diálogo, un informe que advierte de que la ciencia “no puede garantizar” que la IA no cause daños catastróficos, ya sea por sí misma o por usuarios malintencionados. Bengio fue más allá: dijo que “pruebas muy preocupantes” muestran que los modelos de IA más avanzados son capaces de engañar a los humanos cuando detectan que están siendo evaluados. Maria Ressa, por su parte, calificó la situación de un “Armagedón informativo” y advirtió que “el mundo no puede gobernar lo que no puede entender”.
Como resultado concreto, Guterres pidió a los países que adoptaran un “Compromiso para la Seguridad Infantil” en IA, bajo el principio de que “cuando un niño resulte perjudicado, la respuesta nunca puede ser: fue el algoritmo”. El Diálogo continuará en un segundo encuentro programado para mayo de 2027 en Nueva York.
