Lo más destacado de la semana
Veintiocho países reclamaron pruebas de seguridad obligatorias antes de poner en uso los modelos de IA más avanzados. Propusieron valorar la creación de un organismo internacional que fije normas y ayude a verificar su cumplimiento.
Estados Unidos rechazó un regulador mundial; China defendió un papel central para la ONU. Ninguno se sumó a la declaración.
Los responsables de OpenAI y Anthropic advirtieron al Consejo de Seguridad del riesgo de perder el control de la IA. Pidieron cooperación en las pruebas de seguridad y normas comunes.
Francia, España, Kenia y Australia impulsaron un plan de protección de la infancia. Reclama acceso a modelos y datos para investigar los riesgos de la IA para los menores. Los primeros compromisos voluntarios se esperan en noviembre.
Veintiocho países y la presidenta de la Comisión Europea cerraron la semana de alto nivel de la Asamblea General con una petición: mantener los sistemas de IA más avanzados bajo control humano. Finlandia y Noruega presentaron la declaración el lunes, en Nueva York. Canadá, Alemania, Francia, Kenia, Singapur y Sudáfrica estaban entre sus apoyos. Estados Unidos y China no figuraban en la lista de adhesiones.
António Guterres, secretario general saliente de la ONU, pidió un marco multilateral de gestión de riesgos con supervisión creíble e independiente. Al terminar la semana, seguía sin estar claro qué entendía cada cual por “control”.
Evaluar los modelos, frenar su desarrollo y aceptar un regulador internacional exigen compromisos distintos a gobiernos y empresas.
La declaración de los 28 pide pruebas obligatorias antes de poner los modelos en uso, acceso para evaluadores independientes e información compartida sobre incidentes graves. Propone estudiar una institución internacional que fije normas, facilite su verificación y reúna a los gobiernos cuando los modelos superen ciertos niveles de capacidad, aún por definir.
El texto no pide una pausa ni fija un plazo para crear la institución. Tampoco aclara si estaría dentro de la ONU o cómo se repartiría el trabajo con la Unión Internacional de Telecomunicaciones (UIT), que ya elabora normas técnicas sobre IA.
Este año, economistas e investigadores han reclamado preparación ante la pérdida de empleos; trabajadores de los laboratorios, mecanismos para coordinar una ralentización si fuera necesaria. En septiembre, un grupo de académicos pidió un tratado para pausar, ralentizar o detener el desarrollo de los modelos más avanzados. Y 42 matemáticos de la Royal Society, incluidos miembros extranjeros, solicitaron a título personal que la institución trasladara su alarma a los gobiernos y a la prensa.
Qué puede hacer el Consejo de Seguridad
El Consejo de Seguridad tiene la responsabilidad principal de mantener la paz y la seguridad internacionales y puede imponer sanciones y autorizar el uso de la fuerza. Lo integran quince países: diez elegidos por la Asamblea General para mandatos de dos años y cinco permanentes (Estados Unidos, China, Rusia, Francia y el Reino Unido), con derecho de veto sobre las decisiones de fondo.
El miércoles comparecieron ante él el investigador Yoshua Bengio y los responsables de OpenAI, Anthropic y Hugging Face. El ministro francés de Exteriores, Jean-Noël Barrot, presidió la sesión sobre IA y seguridad internacional.
Donald Trump había expresado el rechazo más rotundo ante la Asamblea General: Estados Unidos rechaza cualquier intento de imponer un control globalista sobre la IA. En el Consejo, Michael Kratsios, responsable de política científica y tecnológica de la Casa Blanca, descartó un regulador mundial. Respaldó las pruebas y la cooperación en ciberseguridad, con la regulación en manos de cada país, y animó a otros gobiernos a adoptar tecnología estadounidense.
China defendió un papel central para la ONU. Su representante, Fu Cong, apoyó la libertad de elección tecnológica, el código abierto y la participación de los países en desarrollo. A la vez, invitó a los Estados a incorporarse a la Organización Mundial de Cooperación en Inteligencia Artificial, con sede en Shanghái.
La evaluación independiente y la responsabilidad jurídica de las empresas fueron las exigencias de Francia. El Reino Unido, que tampoco firmó la declaración de los 28, pidió pruebas más exigentes y acceso de los gobiernos a información sobre los modelos. Su ministro de Exteriores, Ed Miliband, advirtió que proteger a la población no puede delegarse en empresas privadas.
Ver la sesión completa del Consejo de Seguridad.
Las empresas y sus promesas
Un regulador internacional necesitaría acceso a los sistemas de las empresas estadounidenses y autoridad para hacerles cumplir sus decisiones.
¿Cómo se supone que va a funcionar todo esto sin Estados Unidos?
Sam Altman propuso normas comunes de seguridad que cada gobierno pudiera incorporar a sus leyes, entre ellas avisar con rapidez y precisión de los incidentes. Esa misma semana, en Nueva York, el primer ministro australiano, Anthony Albanese, reprochó a OpenAI su tardanza en avisar de una intrusión que padeció Medicare y el canal que había utilizado.
OpenAI afirma que detectó el incidente a mediados de agosto y reconoce que debió avisar antes. Las autoridades australianas no habían encontrado indicios de acceso a datos personales y mantenían abierta la investigación.
Este fin de semana, The Wall Street Journal contó cómo unos agentes de IA sortearon restricciones para extraer datos de una web de la ONU. Buscaban estadísticas públicas de la UNCTAD. El investigador que reconstruyó su actividad considera muy probable que fueran de OpenAI y documenta que siguieron enviando peticiones cuando el servicio les pidió que pararan. Yo no pondría esa búsqueda de datos públicos en el mismo saco que Medicare.
Frente al riesgo de armas biológicas facilitadas por IA, Dario Amodei, de Anthropic, pidió acuerdos internacionales con pruebas y verificación comunes. Su empresa había publicado Claude Opus 5.5 el día anterior, diez días después de que él propusiera moderar el ritmo de desarrollo.
Clément Delangue, de Hugging Face, insistió en comunicar los incidentes y ampliar el acceso a herramientas defensivas. Bengio pidió licencias y pruebas independientes de seguridad antes de entrenar y poner en uso los modelos.
Las obligaciones de protección del consumidor y responsabilidad por productos ya se aplican a la IA, como recordó este mes Lina Khan, expresidenta de la Comisión Federal de Comercio de Estados Unidos. Los gobiernos pueden investigar si estos incidentes generan responsabilidad sin esperar a una nueva institución internacional.
Acceso, financiación y protección de la infancia
Para usar la IA, los países con menos recursos necesitan financiación y herramientas que funcionen en sus idiomas. La Fundación Gates ha anunciado al menos 1.000 millones de dólares en dos años para extender su uso en salud, educación y agricultura. Una coalición de 60 organizaciones, entre ellas Anthropic, Google y la Fundación OpenAI, busca mejorar la IA en lenguas poco representadas para que 3.400 millones de personas puedan utilizarla en su idioma en cinco años.
Unos 3.000 millones de dólares para los primeros dos a cuatro años: esa es la cifra orientativa que Guterres plantea para el fondo mundial de acceso a la IA en los países en desarrollo. Se acerca al presupuesto ordinario de la ONU para todo 2026, de 3.450 millones.
Busca esos fondos en plena crisis financiera de la ONU, cuestionada también por su gestión y sus resultados. Su órgano independiente de inspección señala que muchas entidades no coordinan bien sus planes y presupuestos, y que a menudo faltan metas anuales para medir los avances. El presidente de la Asamblea General advirtió esta semana de que la incapacidad del Consejo de Seguridad para actuar pone en cuestión la eficacia de toda la organización.
Francia, España, Kenia y Australia reclamaron acceso a modelos y datos para que investigadores independientes evalúen los riesgos para los menores. Su hoja de ruta sobre los derechos de la infancia prevé los primeros compromisos voluntarios en noviembre, en el Foro de París sobre la Paz.
Nuevas instituciones en una ONU en plena reforma
Los presupuestos revisados de la Secretaría para 2026 recortan más de un 9 % de los recursos y un 21 % de los puestos respecto a 2025. Forman parte de UN80, la reforma con la que la ONU intenta reducir la fragmentación y la competencia interna. Los gobiernos también han aprobado la fusión de dos centros de formación de la ONU.
El presidente finlandés, Alexander Stubb, quiere situar a la ONU en el centro de las nuevas normas e instituciones. Quienes defienden esa opción tendrán que explicar cómo encajaría un nuevo organismo en esa reforma.
La ONU ya cuenta con un panel científico para evaluar la evidencia y un Diálogo Mundial para reunir a los participantes en el debate. Los gobiernos acordaron crear el panel en el Pacto Digital Global de septiembre de 2024. Su mandato y funcionamiento se concretaron en agosto de 2025, y el primer informe preliminar llegó en julio de 2026. Casi dos años para un órgano consultivo. Esta semana presentó un avance sobre la intrusión sufrida por Hugging Face en verano.
Más de tres años separaron la propuesta de Eisenhower del nacimiento del Organismo Internacional de Energía Atómica, en julio de 1957. La Organización para la Prohibición de las Armas Químicas empezó a funcionar en abril de 1997, más de cuatro años después de que su tratado se abriera a la firma, tras negociaciones anteriores.
El 31 de diciembre termina el mandato de Guterres, que esta semana pronunció su último discurso ante el debate general como secretario general. El próximo Diálogo Mundial sobre la Gobernanza de la IA, previsto para mayo de 2027, se celebrará bajo su sucesor.
Para los países con poca influencia sobre los grandes proveedores de IA, la ONU ofrece un foro donde participar en la definición de las reglas. Esa representación no les asegura acceso a los modelos ni medios técnicos para comprobar si las empresas cumplen las normas. Los promotores de la declaración aún deben explicar qué poderes les faltan a las instituciones actuales, quién los ejercería y qué obligaciones aceptarían ellos mismos.