Durante el AI Seoul Summit en Seúl, que se celebra esta semana, se alcanzó un nuevo acuerdo entre diez países y la Unión Europea (UE) para trabajar en conjunto en el lanzamiento de una red internacional que acelere el avance de la ciencia de la seguridad en la inteligencia artificial (IA). Este esfuerzo, conocido como la “Declaración de Intenciones de Seúl hacia la Cooperación Internacional en la Ciencia de la Seguridad de la IA”, reúne a instituciones respaldadas públicamente, como el Instituto de Seguridad en IA del Reino Unido, creado tras la primera Cumbre de Seguridad en IA.
El objetivo de esta red es fomentar la “complementariedad e interoperabilidad” entre los trabajos técnicos y enfoques hacia la seguridad en la IA, promoviendo un desarrollo seguro, confiable y transparente de esta tecnología. Este esfuerzo incluye compartir información sobre modelos de IA, sus limitaciones, capacidades y riesgos, así como monitorear sus incidentes de seguridad y daños relacionados. Además, se compartirán recursos para avanzar en la comprensión global de la ciencia de su seguridad.
Este acuerdo fue firmado durante la sesión de líderes de AI Seoul Summit, que reunió a líderes mundiales y a las principales empresas de IA para discutir sobre seguridad, innovación e inclusividad en la IA. Como parte de las conversaciones, los líderes se comprometieron con la Declaración de Seúl, que subraya la importancia de la cooperación internacional para desarrollar una IA que sea “centrada en el ser humano, confiable y responsable”. Esta cooperación busca utilizarla para resolver los mayores desafíos del mundo, proteger los derechos humanos y reducir las brechas digitales globales.
Reconociendo la importancia de un enfoque basado en riesgos para gobernar la IA, los líderes acordaron maximizar los beneficios y abordar los amplios riesgos que presenta esta tecnología, asegurando su diseño, desarrollo, despliegue y uso seguro, confiable y transparente.
“La IA es una tecnología enormemente emocionante, y el Reino Unido ha liderado los esfuerzos globales para manejar su potencial, organizando la primera Cumbre de Seguridad en IA el año pasado. Pero para aprovechar sus ventajas, debemos garantizar su seguridad. Por eso, me alegra que hoy hayamos acordado una red de Institutos de Seguridad en IA. Hace seis meses en Bletchley lanzamos el Instituto de Seguridad en IA del Reino Unido, el primero de su tipo. Numerosos países siguieron su ejemplo y ahora, con esta noticia de una red, podemos seguir avanzando internacionalmente en la seguridad en IA”, dice Rishi Sunak, Primer Ministro del Reino Unido.
El fortalecimiento de las asociaciones con los institutos de seguridad en IA y organizaciones similares ya es una tarea que el Reino Unido ha iniciado mediante un acuerdo histórico con Estados Unidos a principios de este año. El Instituto de Seguridad en IA del Reino Unido es la primera organización respaldada públicamente en el mundo, con una financiación inicial de 100 millones de libras esterlinas. Desde su creación, varios países han lanzado sus propios Institutos de Seguridad en IA, incluyendo Estados Unidos, Japón y Singapur, todos los cuales han firmado los compromisos anunciados esta misma semana.
Construyendo sobre la Declaración de Bletchley de noviembre, la nueva declaración acordada reconoce la seguridad, la innovación y la inclusividad como objetivos interrelacionados, y aboga por la diversidad sociocultural y lingüística en los modelos de IA. Estos siguen los recientemente anunciados “Compromisos de Seguridad en IA de Frontera” de 16 empresas de tecnología de IA, estableciendo que los principales desarrolladores de IA tomarán en cuenta la opinión de los gobiernos y los Institutos de Seguridad en IA para establecer umbrales cuando consideren que los riesgos son incontrolables. Estos compromisos han sido firmados por empresas de IA de todo el mundo, incluyendo Estados Unidos, China, Medio Oriente y Europa.
