La empresa estadounidense de inteligencia artificial Anthropic encendió las alarmas por GLM-5.3, el nuevo modelo de pesos abiertos de la firma china Z.ai. Según la compañía con sede en San Francisco, el sistema casi iguala a su modelo más avanzado en capacidades cibernéticas, pero tiene salvaguardas mucho más débiles, lo que abre la puerta a un uso malintencionado.
¿Qué pasó?
Anthropic difundió un informe en el que advierte que GLM-5.3, desarrollado por la empresa china Z.ai, muestra una combinación preocupante: habilidades de hackeo de nivel elite y restricciones de seguridad muy inferiores a las de los modelos occidentales más avanzados. De acuerdo con la firma estadounidense, el modelo chino casi alcanza a su propio sistema más potente en materia de capacidades cibernéticas, pero con muchos menos controles para evitar usos peligrosos.
El punto central de la advertencia es el concepto de “pesos abiertos”: a diferencia de los modelos cerrados, que solo se pueden usar a través de una API controlada por su creador, un modelo abierto puede descargarse y ejecutarse en servidores propios. Eso significa que cualquier actor —incluidos grupos criminales o Estados— puede correrlo sin las barreras que impone el desarrollador original. Si las salvaguardas son débiles, el margen para el abuso crece exponencialmente.
Anthropic viene de una serie de movimientos que muestran su preocupación por la seguridad de la IA. Hace poco, su modelo Mythos encontró fallas de tipo zero-day en sistemas reales, lo que ya había puesto el tema de las capacidades ofensivas en el centro de la discusión. A eso se suma que los CEO de OpenAI y Anthropic pidieron ante la ONU reglas internacionales para la IA, en un intento por establecer marcos comunes antes de que sea tarde.
¿Por qué importa?
La noticia toca uno de los nervios más sensibles de la industria: la tensión entre innovación abierta y seguridad. Los modelos de pesos abiertos son clave para la investigación, la transparencia y la competencia global, pero también son más difíciles de controlar. Que un modelo chino iguale en capacidades ofensivas a los mejores de Occidente —y con menos filtros— reconfigura el tablero geopolítico de la IA.
No es un detalle menor que la advertencia venga de Anthropic, una empresa que ya fue clasificada por el Pentágono como un riesgo en la cadena de suministro, un tema que ya cubrimos en IA Hoy. La firma combina un discurso de seguridad fuerte con un lugar central en el ecosistema de defensa estadounidense, lo que le da a sus alertas un peso particular.
Del otro lado, Z.ai forma parte de una camada de empresas chinas —junto a DeepSeek, Alibaba con Qwen, Zhipu y MiniMax— que en los últimos años sorprendieron al mundo con modelos de alto rendimiento y costo bajo. Ese avance obligó a las compañías occidentales a replantear precios y estrategias, y ahora también las fuerza a repensar cómo se regula la capacidad cibernética de sistemas que cualquiera puede descargar.
¿Qué cambia para los usuarios?
Para el usuario común, el impacto es indirecto pero real. Por un lado, la competencia china sigue empujando los precios hacia abajo y ampliando el acceso a herramientas potentes. Por el otro, la existencia de modelos abiertos con capacidades ofensivas fuertes y pocos controles puede acelerar la regulación: es probable que veamos más requisitos de licencia, auditorías obligatorias y restricciones a la distribución de pesos en distintos países.
También conviene entender que “capacidad de hackeo” no significa que el modelo vaya a atacar solo. Se refiere a que puede asistir a una persona a encontrar vulnerabilidades, escribir exploits o automatizar tareas de intrusión. La barrera entre una herramienta de seguridad legítima y un arma digital depende, en gran medida, de quién la usa y con qué fines.
¿Qué significa para Argentina y Latinoamérica?
La región es consumidora de estos modelos más que productora, pero no es inmune. Las empresas locales que adoptan IA de pesos abiertos para abaratar costos deberían prestar atención a las salvaguardas: un modelo sin filtros puede exponer datos sensibles o facilitar fraudes si se integra sin cuidado. A la vez, la discusión global sobre reglas para la IA —impulsada por los propios gigantes del sector— va a llegar tarde o temprano a los debates regulatorios de Argentina, Brasil y México.
El análisis
El episodio deja una pregunta incómoda: ¿se puede competir en capacidad sin sacrificar seguridad? Occidente apuesta a modelos cerrados con controles fuertes; China avanza con apertura y menos restricciones. En el medio, los usuarios ganan potencia pero asumen riesgos que muchas veces no ven. La advertencia de Anthropic no es solo técnica: es una señal de que la próxima gran disputa de la IA no será por quién tiene el modelo más inteligente, sino por quién puede controlarlo.
Seguí leyendo IA Hoy para entender cómo se mueve el tablero de la inteligencia artificial a nivel global y qué implica para la región.
¿Querés dominar Claude de verdad? Aprendé a usar Claude Chat, Claude Code, Claude Cowork y todo el ecosistema con un curso completo en español, de cero a profesional. Con garantía de 7 días y pago en pesos argentinos:
Nota: si comprás a través de este link, nos ayudás a seguir haciendo contenido gratis (a vos no te cuesta nada extra).
Fuentes consultadas
- SCMP China Tech — nota original
- Pasquale Pillitteri — cobertura
- Impacto Castex — cobertura
Todos los datos de esta nota fueron contrastados con las fuentes citadas. Si encontrás un error, escribinos a contacto@iahoy.online.
📷 Imagen de portada: imagen creada o editada con inteligencia artificial con fines ilustrativos. No es una fotografía oficial del evento ni de las personas retratadas.
