Lo que Altman y Amodei le pidieron a la ONU, un día después de que Trump se los negara

El miércoles 23 de septiembre, Sam Altman entró al salón del Consejo de Seguridad de las Naciones Unidas y se convirtió en el primer director de una empresa tecnológica en dirigirse a ese cuerpo de quince miembros sobre inteligencia artificial. Dario Amodei lo acompañó por videollamada. Ninguno de los dos pidió permiso para construir modelos más potentes ni anunció que fuera a frenar el ritmo de desarrollo de su propia compañía. Pidieron, en cambio, que alguien más —un marco internacional, un conjunto de estándares compartidos, una autoridad de verificación— empezara a vigilar de cerca lo que ellos y sus competidores están construyendo. Un día antes, en el mismo edificio, el presidente de Estados Unidos había llamado a esa idea "un esquema globalista" de control.

La secuencia que nadie coordinó a propósito

El martes 22 de septiembre, Donald Trump se dirigió a la Asamblea General de la ONU y rechazó de forma explícita cualquier supervisión internacional sobre lo que ahora prefiere llamar "superinteligencia" en lugar de inteligencia artificial. Su mensaje fue de aceleración, no de cautela: Estados Unidos seguiría empujando el desarrollo de la tecnología sin someterse a un marco de control externo que, en su lectura, serviría más a los intereses de otros países que a los de las empresas estadounidenses que lideran la carrera. Veinticuatro horas después, France —que ese mes presidía de forma rotativa el Consejo de Seguridad, bajo la conducción del canciller Jean-Noël Barrot— convocó la sesión donde Altman y Amodei pidieron prácticamente lo contrario: estándares comunes, evaluación externa y coordinación entre países. La yuxtaposición no fue un accidente de calendario menor; fue la semana de alto nivel de la Asamblea General, y ambos eventos ocurrieron bajo el mismo techo institucional, con días de diferencia.

Lo que Altman pidió, y lo que dejó fuera

La frase central de Altman ante el Consejo fue precisa: "A medida que el proceso de construir IA se vuelva más automatizado, el ritmo del progreso de la IA podría acelerarse rápidamente. Este momento exige un cuidado extremo." De ahí derivó su petición concreta: estándares globales para sistemas de evaluación y verificación, pensados para dar transparencia y para probar modelos y medir riesgos antes de que salgan al mundo. Advirtió sobre dos escenarios que ya no suenan a ciencia ficción en su discurso —perder el control del futuro frente a la IA, y que el poder que esta tecnología genera termine concentrado en muy pocas manos—. Lo que no hizo fue proponer un límite de cómputo, una moratoria, o un mecanismo con dientes que obligara a OpenAI o a cualquier otro laboratorio a detenerse si no cumple esos estándares. Pedir evaluación externa sin especificar quién evalúa, con qué autoridad y qué pasa si un laboratorio reprueba, es pedir un marco de transparencia, no un marco de control.

Amodei fue más lejos en el papel, no en la sala

Dario Amodei llegó a la sesión con una advertencia más dura: dijo al Consejo que, si se maneja mal, la IA podría representar "un riesgo para la humanidad en su conjunto". Esa frase no fue improvisada. Once días antes, el 12 de septiembre, Amodei había publicado un ensayo pidiendo a la industria frenar la investigación pura de capacidades y abrir los laboratorios de frontera al escrutinio continuo de evaluadores externos independientes —una postura notablemente más incómoda para su propia empresa que la de Altman, porque Anthropic también compite por construir el modelo más capaz del mercado—. La distancia entre ese ensayo y lo que ocurrió el miércoles es la distancia entre una idea publicada y una industria dispuesta a adoptarla: en el Consejo, Amodei repitió la advertencia, pero no llegó acompañado de ningún compromiso verificable de que Anthropic fuera a pausar nada mientras el resto del mundo se pone de acuerdo.

El consenso sin dientes

Lo notable de la sesión, según quienes la siguieron completa, no fue el desacuerdo sino lo contrario: Altman, Amodei, Yoshua Bengio —copresidente del Panel Científico Internacional Independiente sobre IA de la ONU— y Clément Delangue, director de Hugging Face, convergieron casi palabra por palabra en los mismos cuatro puntos: pruebas de seguridad previas al lanzamiento, auditorías de transparencia, mecanismos de responsabilidad legal, y diálogo internacional continuo. Ese nivel de acuerdo entre competidores directos —OpenAI y Anthropic compiten por los mismos clientes empresariales y por el mismo capital de riesgo— debería ser una señal alentadora. También puede leerse al revés: cuando cuatro actores con incentivos comerciales distintos coinciden exactamente en la misma lista de peticiones, sin que ninguno proponga un compromiso que le cueste algo a su propio negocio, el consenso empieza a parecerse más a una posición de relaciones públicas compartida que a una negociación real sobre límites.

Por qué la industria pide la correa que su gobierno rechaza

La paradoja de fondo no es nueva —ya la vimos en formato reducido el 9 de septiembre, cuando OpenAI pidió por primera vez regulación federal obligatoria en Estados Unidos—, pero en el Consejo de Seguridad se volvió imposible de ignorar: las mismas empresas que dependen del respaldo político y regulatorio de Washington para operar sin fricciones están pidiendo, en el escenario internacional más visible posible, exactamente el tipo de supervisión que su propio gobierno calificó de esquema globalista un día antes. Hay una lectura cínica —una regulación diseñada por los líderes actuales del mercado tiende a convertirse en una barrera de entrada para quien todavía no tiene la escala para cumplirla— y hay una lectura más generosa: quienes construyen la tecnología son, con frecuencia, los primeros en ver de cerca sus riesgos y los últimos con autoridad real para frenarla ellos solos, así que recurren al único foro que en teoría podría obligar a todos los competidores a la vez, incluidos los que no responden ante el Congreso de Estados Unidos.

Lo que el Panel Científico de la ONU sí puede entregar

Entre los cuatro oradores, Bengio es probablemente el que tiene el mandato más concreto para traducir esta sesión en algo verificable: el Panel Científico Internacional Independiente sobre IA que copreside fue creado precisamente para producir evaluaciones de riesgo con el mismo tipo de autoridad técnica que el IPCC tiene sobre el cambio climático, sin depender de que ninguna empresa se autorregule voluntariamente. Ese panel no tiene poder de sanción, pero sí puede generar el tipo de evidencia independiente que, con el tiempo, hace más difícil para cualquier gobierno —incluido el de Estados Unidos— ignorar por completo la conversación. La pregunta abierta es cuánto tiempo le toma a un panel científico producir evidencia con peso político suficiente, comparado con la velocidad a la que las empresas que evalúa siguen lanzando modelos nuevos cada pocos meses.

Qué cambia, en concreto, después del miércoles

Nada se firmó. Ningún país asumió una obligación nueva. Ninguna empresa aceptó una auditoría externa vinculante con fecha de inicio. Lo que sí cambió es más difícil de medir pero no irrelevante: el Consejo de Seguridad de la ONU, el órgano diseñado para tratar amenazas a la paz y la seguridad internacional, ahora tiene en su registro oficial una sesión completa dedicada a la IA, con testimonios directos de quienes la construyen advirtiendo sobre perder el control del futuro y sobre riesgos para la humanidad en su conjunto. Ese precedente diplomático —tener el tema formalmente sobre la mesa del organismo con más autoridad simbólica del sistema internacional— es exactamente el tipo de paso que, históricamente, antecede por años a cualquier tratado con dientes reales, y también el tipo de paso que a veces se queda ahí, como un registro histórico de una advertencia que todos escucharon y nadie estaba obligado a atender.

¿Qué pesa más en los próximos doce meses: la evidencia que el panel de Bengio empiece a producir, o la política de aceleración sin frenos que Trump reafirmó un día antes en el mismo edificio? La sesión del miércoles no respondió esa pregunta; solo dejó constancia de que, por primera vez, alguien se las hizo a las dos partes en la misma semana.

Fuentes

• OpenAI's Sam Altman to Promote AI Standards During UN Speech — Bloomberg
• Altman and Amodei expected to join UN Security Council meeting about AI — CNBC
• OpenAI and Anthropic CEOs push for AI cooperation at UN after Trump rebuffs 'globalist scheme' to control it — CNBC
• ChatGPT and Anthropic chiefs tell UN that humans must be centre of AI decisions — The National
• Trump calls AI oversight a 'globalist scheme' as Amodei and Altman head to the UN to ask for it — Fortune
• Trump Renames AI 'Super Intelligence' at UN, Rejects Global Control Efforts — Implicator.ai
• AI leaders warn UN of security risks as systems grow more powerful — BNN Bloomberg