Geoffrey Hinton, padrino de la IA: "Las IAs se van a volver más inteligentes que los humanos"
Hinton es una de las figuras menos optimistas con respecto al potencial de la IA
Geoffrey Hinton es posiblemente una de las figuras más interesantes del panorama de desarrollo de la Inteligencia Artificial (IA). Sus avances tecnológicos han servido para que se alzara con el sobrenombre de "Padrino de la IA", junto con otras figuras como Fei-Fei Li, Yann Lecunn o Yoshua Bengio. Además, le han hecho ganar el premio Nobel 2024 de física debido a su desempeño en este campo. Por ello, resulta bastante paradigmático que sea una de las personas que más advierte sobre los riesgos de este tipo de tecnologías.
En su momento, advirtió de que la IA podría catapultar el avance del fascismo en nuestro mundo. Ahora, a finales del 2024 se mostró todavía más pesimista, instando a las autoridades a invertir dinero en seguridad de la IA, ya que considera que podrían volverse más inteligentes que nosotros en tan solo veinte años.
Hinton contra la IA
Geoffrey Hinton says AI companies should be forced to use one-third of their computing resources on safety research because AI will become smarter than us in the next 20 years and we need to start worrying about what happens then pic.twitter.com/ocT3Scmyxg
— Tsarathustra (@tsarnick) October 25, 2024
El usuario de X - anteriormente Twitter - Tsarnick subió a su perfil un vídeo de Geoffrey Hinton en el que era entrevistado sobre los riesgos de la IA. El afilado pensador y experto en la IA mostraba una visión bastante oscura del futuro de la humanidad si no éramos capaces de ponernos las pilas pronto.
La entrevista se volvía más interesante todavía cuando le preguntaban si la IA sería una amenaza potencial para la humanidad. A lo que respondió:
"Es realmente un peligro existencial, muchas personas dicen que esto es simplemente ciencia ficción, y ciertamente queda mucho camino por delante. Pero sí que puede ser una amenaza a largo plazo. Pero creo que puede ser dentro de 100 años, quizás 50. El problema es que en algún momento en los próximos 20 años estas cosas se van a volver más inteligentes que nosotros, y deberíamos preocuparnos".
Geoffrey Hinton, a cien años vista, considera que la IA puede ser un problema para el ser humano, una amenaza existencial para nosotros. Sin embargo, para esto queda mucho tiempo y es algo más sencillo, pero más peligroso lo que le llama la atención: La idea de que la IA se vaya a volver mucho más inteligente que los humanos con el paso de los años. Para ello, ha dado una ventana de tiempo bastante compleja.
No es el único con esta visión, ni es nueva. Ilya Sutskever, cofundador de OpenAI, explicaba que la IA nos verá como animales. Al ser mucho más inteligente que nosotros, este tipo de tecnologías simplemente nos verán como algo accesorio y no nos tendrán en cuenta para nada. Al igual que nosotros hacemos con los animales. Un planteamiento interesante y que nos permite establecer puentes con una moral que tenemos muy arraigada y que en muchos casos ni nos planteamos.
Para Geoffrey Hinton, la humanidad no tiene ni idea de lo que ha creado, así que nos tenemos que preparar para lo que está por venir en los próximos años. En buena medida trabajando en la creación sistemática de mejoras clave para la seguridad de la IA.
