El “padrino de la inteligencia artificial” y Premio Nobel de Física 2024 afirmó en la BBC que una chance de una en diez de que la tecnología mate a todos los humanos en una década “no es una estimación irrazonable”. El dato, sin embargo, no es una medición: es el juicio subjetivo de un experto. Y hay cada vez más voces que cuestionan para qué sirve ese tipo de advertencias.
Qué dijo Hinton exactamente
Geoffrey Hinton estuvo en el programa Newsnight de la BBC, entrevistado por la periodista Victoria Derbyshire, y ahí soltó la frase que dio la vuelta al mundo:
“Una probabilidad del 10% de que la tecnología mate a todos los humanos en una década no me parece una estimación irrazonable”.
Pero no se quedó ahí. También dijo que la IA no necesita operar en el mundo físico para hacer daño:
“No necesita actuar en el mundo real para causar devastación. Puede provocar un caos total solo con hablar con la gente”.
Y agregó una idea que, leída rápido, suena a película, pero que apunta a algo bastante concreto:
“Hay innumerables formas de deshacerse de nosotros si así lo quisiera. Tenemos que descubrir cómo diseñarla para que no quiera hacerlo”.
Entre los riesgos que mencionó están la creación de ataques cibernéticos y de virus biológicos o informáticos. En la misma entrevista también se analizaron las proyecciones de un ex empleado de la empresa Anthropic.
De dónde sale ese 10% (y por qué no es una medición)
Acá está el punto central de toda esta discusión, y conviene decirlo bien claro: el 10% no es una medición. No hay ningún instrumento que mida la probabilidad de un evento que nunca ocurrió. Es una estimación subjetiva: el juicio de un experto, expresado como porcentaje.
El origen directo de ese número es Evan Hubinger, investigador y jefe de seguridad de la empresa Anthropic, que había dicho días antes que “hay más de un 10% de probabilidades de que la IA mate a los humanos en la próxima década”. Hinton, en la BBC, básicamente coincidió con esa estimación.
Por eso vale aclarar algo que suele confundirse: cuando alguien dice “10% de probabilidad”, no está diciendo “va a pasar en 10 años”. Está diciendo “le doy a esto una chance de una en diez”. Que es mucho y poco al mismo tiempo. Mucho, porque una chance de una en diez de una catástrofe global es altísima. Poco, porque también significa que hay nueve chances en diez de que no pase.
En criollo: no es un dato que salió de un laboratorio. Es una opinión con formato de número.
Quién es Hinton y por qué se lo escucha
Geoffrey Hinton es un investigador británico-canadiense, conocido como el “padrino de la inteligencia artificial” porque sus investigaciones sobre redes neuronales fueron fundamentales para la tecnología que hoy usamos todos los días. En 2024 recibió el Premio Nobel de Física “por descubrimientos e invenciones fundamentales que permiten el aprendizaje automático con redes neuronales artificiales”.
Trabajó en Google durante una década y renunció en 2023 para poder hablar libremente sobre los riesgos de la IA. Ese gesto —dejar un puesto enorme para poder decir lo que piensa— es parte de por qué se lo escucha con atención. No es un opinólogo de Twitter: es una de las personas que construyó el campo.
Y no está solo. Hay una ola de advertencias en el sector tecnológico: directivos y exempleados de las principales empresas de IA vienen advirtiendo sobre riesgos. El detalle incómodo es que ese debate se da justo cuando esas mismas empresas están levantando inversiones enormes y compitiendo por liderar el mercado. Es decir: los mismos que advierten son los que están construyendo y vendiendo la tecnología.
El contrapunto: los que dicen que es marketing
Apenas salió la frase, varios medios y especialistas empezaron a cuestionar ese tipo de números.
- El Los Angeles Times publicó: “¿Realmente hay un 10% de probabilidad de que la IA nos mate a todos?”.
- La Nación publicó: “¿Existe más de un 10% de probabilidad de que una IA termine con la humanidad? Expertos responden”.
- Un análisis del sector emprendedor tituló: “El ‘doom’ de la IA es marketing, no advertencia”.
- Otro medio afirmó: “La amenaza del fin del mundo en 2030 a manos de la IA es una cortina de humo”.
- La revista WIRED publicó el caso de una investigadora que desafió a Google y sostiene que el discurso apocalíptico funciona como cortina de humo: sirve para no hablar de los problemas concretos y actuales (sesgos, despidos, derechos de autor, uso militar).
El argumento de los críticos es simple: un porcentaje inventado genera titulares, pero no ayuda a resolver nada. Y advierten que el debate del “fin del mundo” desvía la atención de los daños que la IA ya está causando hoy.
El problema que queda tapado por el debate del fin del mundo
Ahí está, quizás, lo más valioso de toda esta discusión. Mientras se discute si la IA nos va a exterminar en 2030 o en 2040, hay un montón de cosas pasando ahora mismo: sistemas que toman decisiones sesgadas, trabajadores que pierden sus empleos, obras creativas usadas sin permiso, tecnologías aplicadas a usos militares.
Ninguno de esos problemas necesita un 10% de probabilidad para ser real. Ya son reales. Y no requieren imaginar un futuro apocalíptico para discutirlos: requieren mirar el presente.
El riesgo de las advertencias tipo “una en diez de que nos mate a todos” no es que sean falsas ni que sean ciertas. El riesgo es que funcionan como un pararrayos: concentran toda la atención en un escenario hipotético y dejan en segundo plano los daños concretos que ya están ocurriendo.
¿Qué deberíamos hacer con este dato?
Ni ignorarlo ni tomarlo como una profecía. Lo razonable es tratarlo por lo que es: la opinión de un experto muy respetado, expresada como número, sobre algo que no se puede medir.
Sirve, eso sí, para algo importante: para tomar en serio la pregunta de fondo. ¿Cómo diseñamos sistemas cada vez más capaces sin perder el control sobre ellos? ¿Quién decide los límites? ¿Quién responde cuando algo sale mal?
Esas preguntas valen la pena, con o sin el 10%.
Cierre
Hinton dijo lo que dijo, con la autoridad que tiene, y está bien que se lo escuche. Pero un porcentaje no es un dato científico solo porque venga de un Nobel. Es una forma de decir “me preocupa mucho esto”. Y las preocupaciones, por más fundadas que sean, no reemplazan las respuestas. El debate real no es si el número es 10, 5 o 20. El debate real es qué hacemos, hoy, con una tecnología que ya está cambiando la vida de millones de personas.
