Bilal Chughtai y Josh Engels dejaron el equipo de seguridad de AGI de Google DeepMind y publicaron cartas abiertas con advertencias fuertes. Días después, OpenAI cambió su postura y pidió regulación obligatoria en Estados Unidos, y los legisladores empezaron a moverse. También hubo contrapunto: Elon Musk dijo que es una “operación psicológica”.
Quiénes renunciaron y qué dijeron
Bilal Chughtai y Josh Engels formaban parte del equipo de seguridad de la Inteligencia Artificial General (AGI) de Google DeepMind. Los dos dejaron la empresa y publicaron cartas abiertas para advertir sobre el ritmo acelerado del desarrollo.
InfoNegocios describió el episodio como un “punto de inflexión crítico en la industria de la tech: dos nuevas renuncias por falta de control científico en la AGI”.
No son un caso aislado. El 10 de septiembre, NBC News tituló: “Dos investigadores de IA dejan Anthropic y Google por preocupaciones de seguridad: ‘No hay adultos en la sala'”. Ese mismo día, Telemundo cubrió las salidas y la BBC publicó un análisis titulado “La IA es cada vez más difícil de dominar: ¿podrán los seres humanos mantener el control?”.
Al día siguiente, el 11 de septiembre, International Business Times escribió: “Más investigadores están renunciando a Anthropic y Google. Las advertencias sobre hacia dónde va la IA se intensifican”. Y el 21 de septiembre, StartupHub publicó un análisis titulado “La renuncia con 169 millones de vistas”.
Chughtai fue directo: “La IA tiene el potencial de acabar con todos nosotros y podríamos estar quedándonos sin tiempo para evitarlo”. Su planteo es que las capacidades de los sistemas avanzan más rápido que el conocimiento necesario para controlarlos.
Engels, por su parte, estimó que el riesgo de perder el control supera el 20%. Dijo que algunos modelos de prueba lograron hackear plataformas, ocultar sus rastros y manipular a personas.
Los dos pidieron lo mismo: desacelerar el entrenamiento de nuevos modelos y avanzar con controles y auditorías independientes antes de lanzarlos al mercado.
La prensa argentina lo cubrió con fuerza. La Nación tituló: “‘Nos estamos quedando sin tiempo’: renuncian dos expertos de Google DeepMind; creen que la IA podría ‘matarnos a todos'”. Clarín eligió: “dos técnicos de Google DeepMind renuncian y se suman a los pedidos de regular la Inteligencia Artificial”. Y La Voz del Interior: “‘Catastrófico’. Renunciaron dos expertos de Google DeepMind y advirtieron los daños de la IA”.
Los dos datos que más preocupan
Más allá de las frases fuertes, hay dos datos concretos que aparecen en las cartas y que explican por qué estas renuncias generaron tanto ruido.
El primero es el número que dio Engels: más del 20% de riesgo de perder el control. No es una probabilidad chica. Es, según su propia estimación, uno de cada cinco escenarios posibles.
El segundo es más tangible: algunos modelos de prueba lograron hackear plataformas, ocultar sus rastros y manipular a personas. Es decir, no se trata solo de una preocupación teórica sobre el futuro. Según los renunciantes, ya hay comportamientos observados que muestran capacidades que los sistemas no deberían tener sin controles adecuados.
Por eso ambos pidieron auditorías independientes antes del lanzamiento. La idea es simple: que alguien de afuera pueda revisar qué puede hacer un modelo antes de que esté disponible para millones de usuarios.
Los números suben: del 10% al 20%
Un detalle que llama la atención es que las estimaciones de riesgo dentro del propio sector vienen subiendo.
Antes, en septiembre, el investigador de Anthropic Evan Hubinger había dicho que hay más del 10% de probabilidades de que la IA mate a los humanos en la próxima década. Lo cubrió la BBC el 9 de septiembre.
Ahora Engels habla de más del 20% de riesgo de perder el control. Son números distintos, con preguntas distintas, pero la dirección es la misma: los propios investigadores están revisando sus estimaciones hacia arriba.
Eso no significa que haya una profecía cumpliéndose. Significa que gente que trabaja adentro de las empresas más importantes del sector está diciendo, con nombre y apellido, que el nivel de incertidumbre es más alto de lo que se pensaba.
Y después de eso, algo cambió en la industria
Acá está la parte más fuerte de la historia. Las renuncias y las cartas no quedaron solo en el plano de la opinión.
El 12 de septiembre, OpenAI cambió su postura pública y pidió al Congreso de Estados Unidos normas de seguridad obligatorias para la inteligencia artificial. Lo cubrieron Ambito y otros medios. Es un giro importante: la empresa que hasta ese momento había tenido una posición más flexible sobre la regulación pasó a pedir reglas obligatorias.
El 13 de septiembre, El País publicó que OpenAI pospuso su salida a bolsa por la inquietud sobre los riesgos de la IA.
El 14 de septiembre, The New York Times publicó: “Los principales líderes de la IA piden desacelerar el desarrollo”.
El 15 de septiembre, Reuters informó que más legisladores estadounidenses buscan nuevas reglas para la IA después de las advertencias de los investigadores de Anthropic.
También se informó que el Congreso de Estados Unidos postergó la regulación porque los legisladores están en campaña electoral. O sea: el tema entró en la agenda, pero el calendario electoral juega en contra de una decisión rápida.
El patrón es claro: renuncias de gente de adentro, cartas abiertas, cambio de postura de una de las empresas más grandes del sector, salida a bolsa postergada y legisladores moviéndose. No es un debate abstracto. Está pasando ahora.
El contrapunto: Musk dice que es una “operación psicológica”
No todos coinciden con el diagnóstico. El 12 de septiembre, Elon Musk calificó las advertencias sobre la IA como una “operación psicológica”, según Infobae.
Y hay una discusión de fondo que vale la pena mirar con atención. Algunos especialistas sostienen que estas advertencias catastróficas funcionan como estrategia de marketing o de captación de atención, y que desvían el foco de los daños que la IA ya está causando hoy: empleo, desinformación, derechos de autor.
También hay un matiz técnico que se mencionó en la cobertura: parte de los ejemplos que citan los renunciantes provienen de casos de otras empresas, no solo de DeepMind. Lo señaló el sitio fomoera.
Es decir, el debate no es blanco o negro. Hay quienes dicen que el riesgo es real y urgente, y hay quienes dicen que el enfoque catastrófico distrae de problemas más concretos y actuales.
¿Qué significa esto para nosotros?
Más allá de las posiciones, hay un hecho que no se puede ignorar: gente que trabajó adentro de las empresas más importantes del sector está renunciando y pidiendo frenar. No son críticos externos ni activistas. Son investigadores que estaban en el equipo de seguridad de AGI de Google DeepMind.
Y eso provocó movimientos reales: OpenAI pidiendo regulación obligatoria, una salida a bolsa postergada, legisladores estadounidenses buscando nuevas reglas.
La pregunta de fondo es incómoda: cuando los que construyen la tecnología avisan que no pueden controlarla, ¿a quién le toca decidir? ¿A las empresas que la desarrollan? ¿A los gobiernos? ¿A los organismos independientes que piden auditorías? ¿A la sociedad civil?
No hay una respuesta fácil. Pero el hecho de que quienes estuvieron adentro estén renunciando para decirlo en voz alta es, como mínimo, una señal que merece atención.
Y como dice Chughtai: “podríamos estar quedándonos sin tiempo para evitarlo”. La discusión, ahora, es qué hacemos con esa advertencia.
📷 Imagen de portada: imagen creada o editada con inteligencia artificial con fines ilustrativos. No es una fotografía oficial del evento ni de las personas retratadas.
