El CEO de OpenAI dice es bueno tenerle miedo a la IA: habrá ciberataques y desinformación masiva

Una entrevista conducida con Sam Altman, CEO de OpenAI, ha revelado cuáles son los temores de la empresa con respecto al uso de inteligencias artificiales, a la par que manifiesta que es bueno que los usuarios también lo hagamos.

El CEO de OpenAI dice es bueno tenerle miedo a la IA: habrá ciberataques y desinformación masiva
OpenAI es la empresa responsable de ChatGPT.

Seguimos a vueltas con ChatGPT. La fascinación de la sociedad en general y el mundo de la tecnología en particular parecen no tener límites (por ahora) con este modelo de lenguaje basado en inteligencia artificial. Ayer sabíamos que el chatbot podría haber co-escrito un episodio de South Park, sin ir más lejos.

Ahora, a través de ABC News, hemos sabido que han tenido una extensa charla con el CEO de OpenAI, la empresa responsable de ChatGPT. En esta charla el directivo dejó caer varias frases interesantes.

Los avances de ChatGPT-4, motivos para celebrar y preocuparse

Sam Altman, CEO de OpenAI, dijo en la entrevista estár "particularmente preocupado de que estos modelos puedan usarse para extender desinformación a gran escala". Añadió después que ahora que ChatGPT es capaz de "escribir buen código informático", también se pueda usar para realizar ciberataques.

Con respecto al asunto de la desinformación, esto empieza por una de las nuevas características de ChatGPT: entender imágenes como una entrada de información. Las demostraciones nos muestran al chatbot resolviendo puzles, describiendo qué hay en la nevera de una persona e incluso explicando el significado de un meme de Internet.

Por ahora esta característica sólo está disponible para un número limitado de usuarios, que forman parte del programa de betas de ChatGPT. Sin embargo, el programa es capaz de proporcionar información falsa debido a que usa razonamiento deductivo en lugar de memorización, según Altman. El objetivo de la empresa es que el modelo entienda el mundo de forma similar a como lo hacen los humanos, ya que están creados como un "motor de razonamiento y no como una base de datos factual".

El CEO de OpenAI dice es bueno tenerle miedo a la IA: habrá ciberataques y desinformación masiva

Los últimos avances de ChatGPT son materia de celebración y preocupación para OpenAI

Con respecto a la aparición de actores que puedan usar chatbots similares a ChatGPT con fines turbios, Altman sabe que OpenAI no son los únicos que desarrollan estas tecnologías (ahí está el recién estrenado Bard de Google), y que habrá otros que no pondrán límites de seguridad que ellos sí establecen. Una de las soluciones que el directivo propone es dejar que la sociedad juguetee con ChatGPT mientras haya poco en juego, y dejar que aprendan a usarlo.

Sam Altman cree que tenerle miedo a las IA nos hace más conscientes a la hora de usar estas tecnologías. Sin embargo, el directivo dice que el miedo de que se pueda crear una Skynet que acabe por declarar la guerra a la raza humana es infundado. Por un motivo: las inteligencias artificiales necesitan de la interacción humana. El ser humano debe decirle a la IA qué debe de procesar, lo que, según él, deja todo el control en manos del ser humano.

Esto nos lleva de nuevo al punto anterior, donde Altman sí teme "en manos de qué seres humanos" puedan estar las inteligencias artificiales. El CEO de OpenAI recordó una frase que el presidente ruso, Vladimir Putin, dijo a los estudiantes en el primer día de colegio de 2017: aquel que lidere la carrera de la IA, probablemente será el dueño del mundo.

Altman dijo que esa afirmación "es escalofriante" y que espera que, en su lugar, se desarrollen "sistemas cada vez más poderosos" que todos podamos usar de formas diferentes que se integren en nuestras vidas. Lo que OpenAI quiere es que sus productos se conviertan en un amplificador de la voluntad humana.

Para estar siempre al día con lo último en tecnología, suscríbete a nuestro canal oficial y verificado de Andro4all en WhatsApp.

Para ti
Queremos saber tu opinión. ¡Comenta!