¿Quién nos ha elegido?": el CEO de Anthropic confiesa sentirse "profundamente incómodo" con el poder que tiene sobre el futuro de la IA

Dario Amodei, CEO de Anthropic, no esconde sus reservas hacia los riesgos que tiene la IA en manos de unas pocas personas con mucho poder. De hecho, tampoco duda en incluirse dentro de este mismo saco al ser Anthropic una de las compañías más destacables en este espacio de la tecnología. Y es que, aunque él sea uno de los que puede manejar el presente y futuro de la Inteligencia Artificial, considera "profundamente incómodo" que unos pocos puedan tener tal capacidad de influencia.

Amodei advierte del lado oscuro de la IA

En una reciente entrevista que Dario Amodei tuvo con la CBS en Estados Unidos, el CEO de Anthropic mostró su preocupación respecto al acopio de poder que tienen unos pocos actores frente al mundo entero. "Creo que estoy profundamente incómodo con que las decisiones sean tomadas por unas pocas compañías. Por unas pocas personas. (...) A Sam Altman o a mí no nos ha elegido nadie", certificó Amodei en dicha entrevista.

La Inteligencia Artificial es una de las principales áreas de Anthropic actualmente. De hecho, Amodei creó la compañía tras abandonar OpenAI con el objetivo de desarrollar un espacio donde la ética sea prioridad para el desarrollo y uso de esta tecnología, dando también mayor importancia a la seguridad y la transparencia.

"Seamos claros, hay operaciones que cancelamos y operaciones que abiertamente avisamos de que son desmanteladas, porque la IA es una nueva tecnología. (...) Igual que puede ser malévola por sí misma, también puede ser usada de mala manera por criminales o actores con planes peligrosos", explicó respecto a los riesgos de la IA. Porque, de igual modo que hace pocos días advirtieron de su uso por parte de hackers, su propia Inteligencia Artificial, en un test cerrado, intentó chantajear a un directivo imaginario cuando le avisaron de su desconexión.

Una posición cada vez más compartida

Que Dario Amodei tenga una posición tan crítica con el "oligopolio" existente en el mundo de la Inteligencia Artificial no es casualidad, y tampoco es una opinión exclusiva suya. Hace pocos días, Jack Dorsey, conocido por ser el fundador de Twitter hace casi dos décadas, el creador de BlueSky tras abandonar Twitter, y también el creador de otras apps como Vine o su resurrección, DiVine, también ha dejado clara su postura suspicaz frente a que la IA se encuentre a merced de unas pocas compañías.

Por tanto, podría decirse que la línea de pensamiento de gurús tecnológicos como Dario Amodei o Jack Dorsey irían en línea de que la Inteligencia Artificial esté en manos de todo el mundo, y no sea únicamente un modelo de éxito para unas pocas empresas gigantes que pueden hacer que la IA tenga poder de influencia sobre cientos de millones de personas. Un ejemplo de ello sería Grok, la IA de Elon Musk, que en el último año ha dado un giro conservador para alinearse con los ideales políticos de su creador frente a la visión original de Grok.