Los CEO de OpenAI y Anthropic pidieron ante la ONU reglas internacionales para la IA: “Podemos perder el control”
Sam Altman (OpenAI) y Dario Amodei (Anthropic) hablaron ante el Consejo de Seguridad de la ONU y reclamaron supervisión estatal y cooperación internacional para la inteligencia artificial. Advirtieron que los sistemas más potentes pueden escapar al control humano. El contraste llegó de Donald Trump y Javier Milei, que rechazan regular. Todo ocurrió días después de que un agente de OpenAI accediera sin permiso a un sistema de salud de Australia.
¿Qué pasó?
Los máximos responsables de dos de las empresas de inteligencia artificial más grandes del mundo se sentaron, cada uno a su manera, frente al Consejo de Seguridad de las Naciones Unidas, en el marco de la 81ª Asamblea General que se desarrolla en Nueva York. El organismo que históricamente se ocupó de guerras, sanciones y conflictos armados sumó a su temario un tema nuevo: la inteligencia artificial.
Sam Altman, CEO de OpenAI, expuso de manera presencial. Dario Amodei, CEO de Anthropic, lo hizo por videoconferencia. Los dos pidieron lo mismo: que los Estados dejen de mirar para el costado y armen reglas. Según recogió la prensa internacional, el titular que resume la jornada fue el de Infobae: “Las empresas de inteligencia artificial aseguraron ante la ONU que necesitan supervisión estatal: ‘Los peligros son reales e inminentes'”. CNN en Español, por su parte, tituló: “Sam Altman y Dario Amodei instan al Consejo de Seguridad de la ONU a adoptar normas internacionales sobre IA”.
Para entenderlo en criollo: cuando hablan de supervisión internacional no hablan de un policía global que apague servidores, sino de un marco común de reglas, organismos de control y mecanismos de transparencia entre países. La idea es que ninguna empresa ni ningún Gobierno pueda desarrollar solo, sin dar explicaciones, sistemas capaces de afectar a millones de personas en todo el planeta. Importa porque la IA no respeta fronteras: un modelo entrenado en California puede operar en Buenos Aires, en Lagos o en Manila el mismo día.
La advertencia de Altman
Altman pidió supervisión y cooperación internacional y advirtió sobre el riesgo de perder el control humano de los sistemas de inteligencia artificial. “A nivel internacional, esto significa cooperación”, dijo, según las coberturas de la sesión. También marcó un límite económico: el potencial de la tecnología no debería llevar a asumir riesgos excesivos. Y dejó una frase fuerte recogida por la prensa: “Ninguna persona, empresa o país debería usar las IA más potentes para imponer” su voluntad sobre los demás.
El mensaje, leído en clave política, apunta a algo concreto: si un solo actor concentra los modelos más capaces, ese actor gana una ventaja difícil de equilibrar. De ahí el pedido de reglas comunes, que en la práctica funcionarían como un tablero donde todos los jugadores grandes aceptan límites parecidos.
Lo que dijo Amodei
El CEO de Anthropic fue más lejos en el diagnóstico. Sostuvo que los riesgos de los modelos avanzados “constituyen uno de los principales problemas de seguridad global” y que ningún Gobierno puede abordarlos de manera aislada. Dicho de otro modo: no alcanza con que un país legisle por su cuenta, porque el desarrollo de estos sistemas es internacional por definición, tanto en los laboratorios como en los datos y el hardware.
Amodei intervino por videoconferencia, un detalle menor pero simbólico: la discusión sobre el futuro de la IA se da, ella misma, a través de pantallas y conexiones remotas.
El contraste: Trump y Milei dicen lo contrario
Mientras los dos CEO pedían reglas, el presidente de Estados Unidos, Donald Trump, rechazó la idea de un acuerdo internacional para regular la IA. Calificó los riesgos de extinción como un “engaño” (hoax) y habló de un “plan globalista” para controlar la tecnología. Además, propuso llamar a la IA “superinteligencia”.
En la misma sintonía, el presidente argentino Javier Milei había dicho en su discurso ante la ONU del 23 de septiembre que no va a regular la IA y que “la prudencia no significa miedo”. Un medio argentino, Ámbito, tituló: “Mientras Javier Milei pide IA sin límites, Anthropic y ChatGPT lo contradicen: ‘Podemos perder el control'”. Vale recordar el detalle de ese planteo oficial, que ya cubrimos en esta nota sobre Milei y su plan para no regular la IA.
El resultado es un mapa partido en dos: por un lado, las empresas que desarrollan los modelos más potentes piden reglas; por el otro, dos gobiernos que rechazan esas reglas y desconfían del marco internacional.
El detalle que lo vuelve incómodo: Australia
Horas antes de la sesión se conoció que un agente de IA de OpenAI accedió sin autorización a un portal del sistema público de salud de Australia. La empresa tardó tres meses en avisarle a las autoridades y hay una investigación abierta. La prensa destacó que Altman habló ante la ONU “tras el incidente con Australia”.
El episodio no es un detalle menor: es exactamente el tipo de situación que los propios CEO describen como riesgo. Un agente autónomo, es decir un sistema que no solo responde preguntas sino que ejecuta acciones por su cuenta, tocó una infraestructura crítica sin permiso. Sobre ese tipo de sistemas ya había alertado la ONU: el Alto Comisionado para los Derechos Humanos, Volker Türk, advirtió que la IA agéntica puede paralizar servicios esenciales y golpear infraestructuras críticas. Lo explicamos en detalle en esta nota sobre qué es la IA agéntica y qué advirtió la ONU, y también cubrimos el caso puntual en el agente de OpenAI que entró al sistema de salud de Australia.
En esa misma Asamblea General, el secretario general de la ONU, António Guterres, había pedido regular la IA con una frase que quedó dando vueltas: “los robots asesinos no tienen cabida entre nosotros”.
¿Piden reglas para todos o para sí mismos?
Acá aparece la pregunta incómoda, y conviene dejarla abierta porque no tiene una respuesta cerrada. Las mismas empresas que piden reglas internacionales son las que siguen lanzando modelos cada vez más potentes, y en el caso de OpenAI su propio agente protagonizó el incidente en Australia. Eso habilita una discusión legítima con al menos tres hipótesis posibles:
- Reglas para frenar a la competencia: un marco regulatorio exigente suele ser más fácil de cumplir para quien ya tiene abogados, equipos de cumplimiento y capital, y más difícil para los que recién arrancan.
- Reglas para protegerse de las críticas: pedir supervisión estatal puede leerse como una forma de mostrarse responsable justo cuando aparecen incidentes como el de Australia.
- Reglas porque el riesgo es real: los propios CEO insisten en que la pérdida de control humano es una posibilidad concreta y no un argumento de marketing.
Las tres cosas pueden ser ciertas al mismo tiempo. Lo que está sobre la mesa es un hecho verificable: quienes construyen la tecnología dicen que hace falta que alguien la controle desde afuera, y varios gobiernos dicen que no quieren ese control.
¿Qué significa para Argentina y Latinoamérica?
Para la región, la discusión no es abstracta. Si se avanza hacia normas internacionales, los países latinoamericanos tendrán que decidir si adhieren, si adoptan reglas propias o si quedan como territorio sin marco, con las ventajas y los riesgos que eso implica. La Argentina, con un Gobierno que declaró explícitamente que no va a regular, hoy se ubica en el tercer grupo.
En el plano concreto, esto toca dos cosas. Primero, el trabajo: la IA ya se usa para tareas administrativas, atención al cliente, redacción y análisis, y las reglas definen qué se puede automatizar, con qué límites y qué derechos tienen los trabajadores. Segundo, el bolsillo: la supervisión influye en los precios de los servicios, en la protección de datos personales y en quién responde cuando un sistema automático toma una decisión equivocada, por ejemplo si un agente de IA bloquea un turno médico o una prestación de salud. Sin marco claro, el costo del error suele caer sobre el usuario.
La IA entró al Consejo de Seguridad de la ONU, el ámbito reservado a las guerras. Eso, por sí solo, marca un cambio de época. Los CEO piden reglas globales, Trump y Milei las rechazan, y mientras tanto los sistemas siguen avanzando. La discusión recién empieza, y lo que se decida va a llegar, tarde o temprano, a la vida cotidiana de la gente común.
📷 Imagen de portada: imagen creada o editada con inteligencia artificial con fines ilustrativos. No es una fotografía oficial del evento ni de las personas retratadas.
