Puede que no te suene el nombre de Geoffrey Hinton, pero es alguien que lleva más de medio siglo intentando entender cómo pueden aprender las máquinas. Sus investigaciones sobre redes neuronales y aprendizaje profundo ayudaron a construir buena parte de la inteligencia artificial actual. En 2024 recibió el Premio Nobel de Física junto a John Hopfield por ese trabajo y pasó a ser reconocido como uno de los grandes pioneros de la IA moderna.
Geoffrey Hinton concedió a finales de 2025 una entrevista a Gustavo Entrala, un conocido divulgador tecnológico que tiene un canal en YouTube, y dijo cosas muy interesantes. De hecho, llegó a plantear una posibilidad que hace pocos años parecía impensable: que las máquinas lleguen a ser más inteligentes que nosotros y que, llegado ese momento, resulte difícil mantenerlas bajo control. Esto puede sonar exagerado, pero viniendo de quien viene, es para tenerlo en cuenta.
Cuando este Premio Nobel de Física habla sobre el futuro de la IA, es difícil no sentir un escalofrío. Cree que hay entre un 80 % y un 90 % de probabilidades de que la inteligencia artificial acabe superando nuestra inteligencia. Y lo que es peor, si llegamos a ese punto, estima que existe un riesgo real, del 10 % al 20 %, de que termine provocando la extinción de la humanidad. Sobre esto último, ahondó un poco más en la entrevista para dejarlo más claro.
Una IA no necesita odiarnos para suponer una amenaza; le bastaría con ser más lista que nosotros, volverse autónoma y empezar a tener sus propios objetivos. Si te paras a pensarlo, un sistema tan avanzado se dará cuenta rápidamente de que, para cumplir cualquier cosa que le pidamos, primero necesita asegurarse de que no lo apaguemos y, de paso, tener más control sobre lo que le rodea.
Aquí es donde entra el famoso «problema de la alineación». Podemos decirle a la máquina qué queremos, sí, pero no tenemos ni idea de cómo decidirá conseguirlo. Cuanto más inteligente sea, más nos costará entender por qué toma las decisiones que toma. Para explicarlo, Geoffrey Hinton usa el siguiente ejemplo: es como si estuviéramos criando a un cachorro de tigre. Mientras es pequeño, todo son risas y lo controlamos sin problema. Lo complicado viene cuando crece y te das cuenta de que, al igual, ya no es tan buena idea tenerlo en el salón.
A todo esto, hay que sumarle la locura en la que se ha convertido la industria tecnológica. Gigantes como Google, OpenAI, Meta o Microsoft se están dejando auténticas fortunas en hacer que sus modelos sean cada vez más inteligentes y autónomos. ¿Y qué pasa con la seguridad? Parece haber quedado en un segundo plano. Lo principal es crear el modelo de IA más inteligente.
Además, las máquinas juegan con ventaja. A nosotros nos cuesta años aprender un idioma o una profesión; ellas pueden compartir lo que saben con otros sistemas en un abrir y cerrar de ojos. Una inteligencia artificial que ya sabe navegar por Internet, crear código y tomar decisiones por su cuenta no es un simple chatbot con el que pasar el rato. Pasa a ser algo mucho más serio. A todo esto, no está de más mencionar que a Geoffrey Hinton le da igual si una IA puede llegar a tener consciencia o no. Para él, eso es secundario. Lo que de verdad asusta es lo que ya es capaz de hacer. Sobre esto todo, todo depende del modelo.
Frente a este panorama, Geoffrey Hinton tiene una propuesta: crear una especie de IA maternal. Puesto que va a ser imposible mantener sometida por la fuerza a una inteligencia muy superior a la nuestra, la clave estaría en programarla para que sienta un deseo profundo de protegernos. Igual que una madre cuida de su bebé a pesar de que el niño es mucho más débil, la máquina debería tener el instinto de cuidarnos. Como él mismo advierte: «Tenemos que lograr que no quieran tomar el control».
Es verdad que en el mundo de la IA no todos compran esta visión apocalíptica. Pesos pesados como Yann LeCun creen que está exagerando mucho el riesgo. Ahora bien, el Premio Nobel de Física no da su brazo a torcer e insiste en que no podemos permitirnos el lujo de esperar a tener el agua al cuello para empezar a investigar esta IA maternal, una tecnología que hoy en día ni siquiera existe. (La Razon- Antonio Ferrer)
