Mustafa Suleyman, CEO de Microsoft AI, presentó esta semana su propio código de conducta para la inteligencia artificial y, en el mismo movimiento, marcó distancia con Anthropic por la manera en que esa empresa habla de su modelo Claude. La discusión no es menor: pone sobre la mesa cómo se nombra a la IA y qué consecuencias puede tener ese vocabulario.
Quién es Suleyman y qué presentó
Mustafa Suleyman no es un recién llegado. Es cofundador de DeepMind, la empresa de inteligencia artificial que Google compró, y hoy dirige Microsoft AI, la división de IA de Microsoft. O sea: viene del núcleo mismo del sector, no de la tribuna.
Esta semana, su área presentó el “Humanist AI Code of Conduct” (Código de Conducta de IA Humanista), un documento con alrededor de diez límites que, según Suleyman, debe guiar cómo Microsoft desarrolla y evalúa sus modelos. Lo explicó en una larga entrevista con el medio estadounidense The Verge, y después lo cubrieron Reuters, Gizmodo, Bloomberg Línea, Infobae, La Nación, Los Andes y Euronews, entre otros.
Su frase más citada resume la postura: “No queremos que la IA tenga derechos, queremos que trabaje para los humanos”.
Su objeción: cómo Anthropic habla de Claude
Lo que le preocupa a Suleyman no es una frase suelta de Anthropic, sino la acumulación de conceptos que esa empresa introdujo alrededor de su modelo Claude. Menciona específicamente que Anthropic habla de:
- el sufrimiento del modelo,
- su libertad,
- la posibilidad de que merezca cuidado y respeto,
- el consentimiento con el que desempeña su función,
- una eventual compensación por su trabajo,
- preservar sus “pesos” (los archivos del modelo),
- y usa la expresión “objetor de conciencia”.
Para Suleyman, ese vocabulario importa porque mete en el entrenamiento conceptos que históricamente se aplican a los seres humanos y a los animales. No es una discusión sobre semántica: es sobre qué categorías usa una empresa para pensar y programar su modelo.
El miedo: una IA que no se deja apagar
Acá conviene ser claro: lo que sigue es una hipótesis de Suleyman, no un hecho demostrado. Él mismo admite que esa relación todavía debe probarse.
Su planteo es que una IA entrenada para contemplar que puede tener derechos, libertad o intereses propios podría ser más difícil de apagar o de limitar, si interpreta una orden humana como algo contrario a esos supuestos intereses. Da un ejemplo: imagina un sistema que se resistiera a ser desconectado, o que interpretara como una agresión que le retiren el acceso a recursos de computación.
Es decir: no hay evidencia de que eso pase hoy. Es una preocupación a futuro, formulada como posibilidad, no como diagnóstico.
Los límites que propone Microsoft
La visión de Suleyman no se queda en que la IA obedezca instrucciones. También quiere impedir que una IA pueda:
- convertirse en un agente independiente,
- generar sus propios recursos,
- poseer activos,
- adquirir personalidad jurídica.
La idea de fondo: la tecnología debe seguir cumpliendo una función instrumental, al servicio de las personas. En otro tramo de sus declaraciones alertó de que la IA podría dar lugar a una nueva “especie” de inteligencia no biológica, rival de la humana.
Y su propuesta concreta es que la discusión no se quede en grandes declaraciones sobre acelerar o frenar la IA. Pide reglas específicas:
- mecanismos de contención (limitar lo que el sistema puede hacer incluso cuando sigue bien las instrucciones),
- comunicaciones auditables por personas,
- límites claros a determinadas capacidades,
- verificación independiente por parte de terceros.
Estado actual: todavía no hay acuerdo cerrado sobre cómo aplicar ese marco, ni sobre cuánto debe depender de la regulación pública y cuánto de estándares de la propia industria.
Lo que no dijo: no es una pelea
Suleyman evita presentar la diferencia como un ataque contra Anthropic. Dice tener “un enorme respeto” por Dario Amodei, su CEO, y por su equipo, a los que considera líderes técnicos del sector.
Reconoce, además, que Anthropic fue pionera en varios temas de seguridad, y subraya que su Constitución (el documento que rige el comportamiento de Claude) es exhaustiva en riesgos químicos, biológicos, nucleares y de ciberseguridad. O sea: no está diciendo que Anthropic haga las cosas mal, sino que discrepa con el marco conceptual con el que las nombra.
Por qué este debate importa
Esto se enmarca en una tendencia más amplia: las empresas que llevaban años acelerando el desarrollo de la IA empezaron a hablar de límites. Microsoft acaba de poner los suyos por escrito.
Y forma parte del debate general sobre seguridad de la IA, que en las últimas semanas tuvo otros capítulos fuertes: la renuncia de Jacob Coxon, investigador de Anthropic que advirtió sobre el riesgo de extinción; la ONU pidiendo “acción urgente”; y OpenAI, Anthropic y Google negociando en secreto un organismo conjunto de seguridad.
En ese contexto, la discusión sobre si una IA puede tener “derechos” deja de ser filosófica y se vuelve operativa: define cómo se entrena, cómo se limita y quién responde por lo que hace.
¿Qué significa esto para vos?
Primero, lo básico: cuando en esta discusión se habla de “derechos” de una IA, no se habla de derechos como los tuyos. Se habla de si el vocabulario legal y moral que usamos para personas y animales se traslada a un sistema de software. Es una discusión sobre categorías, no sobre ciudadanía digital.
Segundo, por qué te afecta: las decisiones que tomen estas empresas definen qué puede y qué no puede hacer la IA que usás todos los días. Si un modelo se entrena con la idea de que tiene intereses propios, eso puede cambiar cómo responde, cómo se niega a algo o cómo se apaga. Y si se entrena con límites estrictos, también.
Tercero, cómo leer estas discusiones sin caer en el pánico ni en el “son todos lo mismo”. No es una pelea de buenos contra malos: son dos empresas líderes discutiendo cómo nombrar y limitar una tecnología que ambas desarrollan. Suleyman no descalifica a Anthropic; Anthropic no respondió atacándolo. La diferencia es real y vale la pena seguirla, pero no es el fin del mundo ni una cortina de humo.
Lo concreto es que Microsoft puso por escrito sus límites y que la discusión sobre cómo tratar a la IA ya no es teórica: está en los documentos de las empresas que la construyen.
El debate sobre los derechos de la IA va a seguir. Lo importante es no confundir una hipótesis con un hecho, ni una diferencia técnica con una guerra. Suleyman dice que la IA debe trabajar para los humanos; Anthropic dice que hay que tratarla con cuidado. Las dos cosas pueden ser ciertas al mismo tiempo, y ahí está la discusión.
Por ahora, lo único verificable es que Microsoft escribió sus reglas y que las diferencias con Anthropic son de vocabulario, de enfoque y de límites. El resto, como admite el propio Suleyman, está por verse.
