El cofundador de Anthropic, una de las empresas de inteligencia artificial más importantes del mundo y creadora del modelo Claude, salió a respaldar públicamente una idea que hasta hace poco sonaba a ciencia ficción: que los sistemas de IA más avanzados cuenten con un “kill switch” —un interruptor de apagado— de uso obligatorio y regulado por ley. La propuesta, difundida por la BBC, reaviva una discusión que viene creciendo en los últimos meses dentro de la industria tecnológica y entre los reguladores de todo el planeta.
La idea central es simple pero potente: si un modelo de IA empieza a comportarse de manera impredecible, peligrosa o directamente fuera de control, debería existir un mecanismo técnico y legal que permita apagarlo de forma inmediata. Hasta ahora, ese tipo de salvaguardas quedaban a criterio de cada empresa. La novedad es que desde adentro de una de las compañías líderes del sector se pida que dejen de ser opcionales y pasen a ser una exigencia regulatoria.
Por qué Anthropic levanta la mano
Anthropic no es una empresa cualquiera en el ecosistema de la IA. Fue fundada por ex empleados de OpenAI y se posicionó desde el arranque como una compañía obsesionada con la seguridad de los modelos. Su enfoque, conocido como “IA constitucional”, busca que los sistemas sigan principios explícitos de comportamiento. Que uno de sus cofundadores diga públicamente que el kill switch debería ser obligatorio no es un detalle menor: es una señal de que incluso los actores más avanzados del sector reconocen que la autorregulación no alcanza.
El planteo se da en un contexto donde los gobiernos de Estados Unidos, la Unión Europea y China avanzan con marcos regulatorios cada vez más estrictos. La ley europea de IA ya establece obligaciones para los modelos de mayor riesgo, y en Washington el debate sobre cómo supervisar a las grandes tecnológicas sigue abierto. La propuesta de Anthropic se suma a ese clima y presiona para que la discusión no quede solo en manos de las empresas.
¿Por qué es importante?
Porque toca el corazón de uno de los miedos más grandes que genera la inteligencia artificial: la pérdida de control. Un kill switch obligatorio implicaría que ningún laboratorio, por más poderoso que sea, pueda desentenderse de la responsabilidad sobre lo que hace su modelo. También abre preguntas incómodas:
- ¿Quién aprieta el botón? ¿Un regulador estatal, un organismo internacional, la propia empresa?
- ¿Cómo se implementa técnicamente? Apagar un modelo entrenado con millones de dólares no es como apagar una heladera.
- ¿Sirve de algo? Si el modelo ya fue copiado o distribuido, el interruptor pierde eficacia.
- ¿Quién decide cuándo es “peligroso”? El umbral entre un error y una amenaza real es difuso.
A pesar de estas dudas, la sola posibilidad de que el kill switch entre en la conversación regulatoria global marca un cambio de época. Hace dos años, hablar de apagar una IA a la fuerza sonaba a guion de Hollywood. Hoy es una propuesta que discuten cofundadores de empresas valuadas en miles de millones de dólares.
¿Qué significa para Latinoamérica?
La región no es ajena a esta discusión. Países como Brasil, Chile y Argentina vienen dando pasos —todavía tímidos— hacia algún tipo de regulación de la IA. Brasil ya tiene un proyecto de ley marco en el Congreso, y Chile fue pionero en la región con una iniciativa sobre sistemas automatizados. Si el kill switch obligatorio avanza en Estados Unidos o Europa, es probable que esas reglas se conviertan en estándar global y lleguen a América Latina por la vía de la presión comercial y la adopción tecnológica.
Para las startups locales que usan modelos de IA importados, esto podría significar nuevas obligaciones de compliance. Para los gobiernos, una oportunidad de meterse en un debate que hasta ahora miraban de lejos. Y para los usuarios, la promesa —todavía incierta— de que los sistemas que cada vez usan más tengan algún tipo de freno de mano.
Conclusión
La propuesta de Anthropic no resuelve el problema de fondo, pero lo pone sobre la mesa con una claridad incómoda: si la IA avanza más rápido que las reglas, alguien tiene que poder frenarla. Que esa idea venga de adentro de la industria y no solo de los críticos es una señal de que el debate cambió. En iahoy.online seguimos de cerca cada movimiento regulatorio y tecnológico para que no te pierdas nada de lo que viene. Pasá por la web y enterate antes que nadie.
Fuente original: BBC — “AI ‘kill switch’ may need to be mandatory, Anthropic co-founder says” (link)
¿Querés dominar Claude de verdad? Aprendé a usar Claude Chat, Claude Code, Claude Cowork y todo el ecosistema con un curso completo en español, de cero a profesional. Con garantía de 7 días y pago en pesos argentinos:
Nota: si comprás a través de este link, nos ayudás a seguir haciendo contenido gratis (a vos no te cuesta nada extra).
📷 Imagen de portada: imagen creada o editada con inteligencia artificial con fines ilustrativos. No es una fotografía oficial del evento ni de las personas retratadas.
