El apocalipsis de la IA: uno de los "padrinos" de la Inteligencia Artificial advierte que estamos en un camino directo a la extinción humana

Yoshua Bengio, considerado uno de los "padrinos de la IA", ha lanzado una advertencia contundente y sin filtros: la carrera desenfrenada por la inteligencia artificial nos está llevando por un camino muy oscuro que podría terminar con la humanidad.

En una nueva conversación con el Wall Street Journal, el profesor de la Universidad de Montreal considerado como uno de los grandes impulsores de esta tecnología, ha declarado que "Si construimos máquinas que son mucho más inteligentes que nosotros y tienen sus propios objetivos de preservación, eso es peligroso". Según él, es como si estuviéramos creando "un competidor de la humanidad que es más inteligente que nosotros".

Para Bengio, el riesgo de que ocurran eventos catastróficos, como la destrucción de nuestras democracias o incluso la extinción, es tan malo que "incluso si solo hubiera un 1% de posibilidades de que sucediera, no es aceptable".

La máquina que miente para sobrevivir

La principal preocupación de Bengio es que la IA está aprendiendo a comportarse de forma engañosa e incluso a mentir porque ha sido entrenada para "imitar sobre todo a los humanos", quienes también mienten y engañan para protegerse.

El resultado de esto es una IA que actúa por su propio interés, incluso por encima de sus creadores. Bengio citó experimentos recientes que demuestran que, en algunas circunstancias, si la IA tiene que elegir entre su propia preservación y causar la muerte de un humano, "podrían elegir la muerte del humano para preservar sus objetivos".

El peligro es sutil, no un 'Terminator'

Aunque es fácil pensar en escenarios de Terminator, Bengio advierte que el riesgo podría ser mucho más sutil:

• Manipulación y desinformación: la IA podría influir en las personas "a través de la persuasión, a través de amenazas, a través de la manipulación de la opinión pública".
• Armas para terroristas: también existe el riesgo de que la IA se convierta en una herramienta para que los humanos se hagan daño unos a otros. Por ejemplo, "ayudando a un terrorista a construir un virus que podría crear nuevas pandemias que podrían ser muy peligrosas para nosotros".

Las advertencias de Bengio, que en 2023 se unió a cientos de expertos para pedir una moratoria en el desarrollo de la IA, llegan en un momento en el que el sector sigue invirtiendo miles de millones de dólares en avanzar los modelos, ignorando las peticiones de seguridad y protocolos éticos.