"El mundo está en peligro": dimite el jefe de seguridad de Anthropic con una carta que acusa a la empresa de ignorar sus propios valores
El jefe de salvaguardas de Anthropic dimite denunciando presiones internas para ignorar los principios éticos en favor de la expansión comercial de la empresa
Mrinank Sharma acaba de dimitir como jefe de seguridad de Anthropic mediante una carta pública que ha hecho saltar todas las alarmas en el sector. El máximo responsable del equipo de salvaguardas advierte que el mundo está en peligro por una serie de crisis interconectadas, dejando entrever que la empresa está ignorando sus principios fundamentales por la expansión.
La noticia llega desde Forbes, donde se recoge la trayectoria de este doctor por Oxford que se incorporó a la firma en agosto de 2023. Sharma lideraba investigaciones críticas para mitigar el bioterrorismo asistido por IA y la sycophancy, esa tendencia de los chatbots a adular al usuario en lugar de ser objetivos.
Un cisma ético en la bandera de la seguridad
Claude es el servicio de IA de Anthropic
Lo que más escama de esta renuncia es que Sharma afirma haber sufrido presiones constantes para ignorar lo más esencial. Según sus propias palabras, ha sido extremadamente difícil dejar que los valores guíen las acciones dentro de la compañía. Este mensaje choca frontalmente con la imagen pública de una empresa que nació precisamente para ser segura.
Anthropic está en este momento intentando crecer de una forma muy agresiva, buscando una valoración de 350.000 millones de dólares. Con el respaldo financiero de gigantes como Amazon y Google, la firma parece haber priorizado la carrera comercial, alejándose de los marcos formales de análisis de riesgos conocidos internamente como "AI safety cases".
Esta salida se produce apenas unos días después de que la empresa presentara Claude Opus 4.6, la IA más potente del mercado. Mientras el laboratorio presume de potencia bruta, sus expertos más veteranos abandonan el barco alegando que la sabiduría humana no está creciendo al mismo ritmo que nuestra capacidad para influir en el planeta.
El movimiento recuerda inevitablemente a lo ocurrido en la competencia directa. Jan Leike dejó OpenAI por discrepancias similares y ahora trabaja precisamente en Anthropic, lo que genera un cruce de intereses y visiones éticas muy complejo. Parece que ninguna de las grandes tecnológicas está logrando blindar sus procesos de decisión frente a la ambición económica.
El peso de la integridad frente al negocio
Mrinank Sharma, el ya exjefe de seguridad de Anthropic
La carta de Sharma es un documento críptico y profundamente filosófico que cita a poetas como Rilke para explicar su marcha. No es el primer investigador que prefiere la expresión valiente y la poesía a seguir validando sistemas que, según él, podrían hacernos menos humanos o distorsionar nuestra propia naturaleza y comportamiento social.
A diferencia de la postura oficial sobre la regulación de la IA, que siempre ha sido comedida, Sharma habla de una crisis de integridad. Resulta paradójico que la empresa que prometió no tener anuncios en Claude para parecer más responsable, sea ahora acusada desde dentro de flaquear en sus cimientos morales más profundos.
Sharma no aporta ejemplos concretos ni documentos que prueben una mala praxis específica. Sin embargo, su advertencia sobre un mundo en peligro resuena con fuerza si recordamos que OpenAI admitió riesgos de ciberataques autónomos en sus modelos más avanzados hace apenas unos meses de forma pública.
Estamos viviendo lo que muchos analistas ya bautizaron como el invierno de la IA, esa crisis que nadie quiso ver venir. La dimisión de un jefe de seguridad en una empresa bandera de la responsabilidad tecnológica confirma que la brecha entre el marketing del riesgo y la realidad comercial es cada vez más ancha. Y, además, cuando hicimos aquel análisis del sector de la IA apuntamos a que las consecuencias económicas a nivel global de una crisis del sector podían ser desastrosas.
Sharma planea ahora una vida centrada en el trabajo comunitario y la escritura, lejos del ruido de San Francisco. Mientras tanto, Anthropic guarda silencio ante las peticiones de comentario, dejando en el aire la duda de si la seguridad es una prioridad real o simplemente una etiqueta útil para atraer inversores multimillonarios.