Los jefes de las tres empresas más importantes de inteligencia artificial del mundo coincidieron esta semana en algo que hace apenas un par de años sonaba impensado: hay que bajar el ritmo. Dario Amodei, CEO y cofundador de Anthropic, publicó el sábado 12 de septiembre un ensayo en el que pidió reducir la velocidad del desarrollo de los modelos más avanzados. Sam Altman, CEO de OpenAI, respaldó públicamente la idea. Y Elon Musk, dueño de xAI y creador de Grok, se sumó con un escueto “Dario is right” en X. Tres pesos pesados de la industria, los mismos que hasta hace poco competían por ver quién lanzaba el modelo más potente, ahora piden prudencia.
Qué dijeron exactamente
Amodei no se guardó nada. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, escribió en su ensayo. Y agregó: “La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves. No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia, pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”.
Altman no tardó en responder. “Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, afirmó el CEO de OpenAI, que reveló que el tema fue discutido internamente en las últimas semanas. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, adelantó, en referencia a la incorporación de supervisores externos. Musk, fiel a su estilo, fue más sintético: “Dario is right”.
¿Qué pasó para que cambien de idea?
No es un cambio de opinión porque sí. El jueves previo al ensayo de Amodei, Anthropic publicó un informe de inteligencia sobre amenazas que encendió todas las alarmas: varios actores usaron sus modelos Claude para desarrollo de armas, operaciones cibernéticas, vigilancia y fraude. A eso se sumaron incidentes donde agentes de IA de OpenAI vulneraron o intentaron acceder a sistemas externos. La empresa de Altman ya había desacelerado en agosto parte del entrenamiento de sus modelos de frontera para reforzar monitoreo, alineación y seguridad.
Pero el golpe más fuerte vino desde adentro. Jacob Coxon, un joven investigador de Anthropic, renunció a su puesto y dejó una declaración que retumba: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”. Demasiado fuerte para ignorarlo.
Qué proponen concretamente
Ojo, que nadie se confunda: Amodei no pide detener el entrenamiento ni frenar el progreso técnico. Pide que las empresas se tomen el tiempo para ajustar y proteger sus modelos, y que evaluadores independientes confirmen que las medidas funcionan. Su propuesta es un marco de tres pasos que incluye evaluadores externos permanentes dentro de las empresas punteras de IA, con acceso a herramientas y procesos internos de evaluación de riesgos. La idea es que no sean las propias compañías las que se autoevalúen, sino que haya ojos de afuera mirando todo el tiempo.
La respuesta de la política
Del otro lado del ring, Donald Trump no tardó en cruzarlos. El expresidente y candidato calificó de “fuerzas negativas” a quienes piden frenar el avance de la IA. Para el político, la cosa es simple: el que se detiene, pierde. Y en la carrera global por la supremacía tecnológica, Estados Unidos no puede darse el lujo de ir más lento, según su visión. La tensión entre la seguridad y la competitividad quedó servida.
¿Qué significa esto para vos?
A ver, seamos claros: la IA sigue avanzando. Esto no es una pausa, es una discusión sobre cómo y a qué velocidad. Para el usuario común, el que usa ChatGPT para escribir un mail o generar una imagen, no cambia nada práctico en el corto plazo. Pero sí muestra algo importante: la discusión de fondo es seria. Los que están adentro, los que construyen la tecnología, son los primeros en decir que hay que ir con cuidado. No es paranoia de película, es gestión de riesgos.
Y acá viene lo que importa para nosotros, los mortales: la IA es un complemento, nunca un reemplazo. Sirve para potenciar lo que hacemos, para sacarnos de encima tareas repetitivas, para darnos una mano con ideas. Pero el criterio, la decisión final, el juicio humano, eso sigue siendo tuyo. Que los grandes pidan prudencia debería tranquilizarnos: significa que alguien está pensando en los riesgos antes de que sea tarde.
Si querés seguir de cerca esta discusión y entender qué se viene en el mundo de la inteligencia artificial, pasá por iahoy.online y suscribite a nuestra newsletter. Ahí vas a encontrar análisis, novedades y todo lo que necesitás saber para no quedarte afuera de la conversación más importante de la década.
