Mrinank Sharma, era hasta ayer el jefe del equipo de Safeguards Research en Anthropic, la empresa detrás de Claude, la IA que está poniendo en aprietos a ChatGPT y Google.

Anthropic nació con la promesa de ser la alternativa «segura» y «alineada» en la carrera de la inteligencia artificial. Si la persona encargada de construir esos muros de contención decide marcharse —y lo hace con una reflexión cargada de advertencias—, deja un gran interrogante para los mercados y los reguladores ¿Son compatibles los incentivos económicos actuales con la seguridad existencial de la tecnología?

En su carta, Sharma menciona algo que no se puede pasar por alto: “He visto, tanto en mí mismo como en la organización, cómo nos enfrentamos constantemente a presiones para dejar de lado lo que más importa”.

Desde la economía institucional, esto describe un conflicto clásico de agencia. Anthropic, a pesar de su estructura de «Corporación de Beneficio Público», opera en un mercado hipercompetitivo. Cuando la supervivencia financiera depende de la velocidad de lanzamiento y de captar capital, la «seguridad» se convierte en un coste marginal que ralentiza el producto. La salida de Sharma sugiere que la tensión entre el valor ético y la viabilidad comercial ha llegado a un punto de ruptura.

La «Policrisis» y el Riesgo Sistémico

Sharma cita el concepto de la «policrisis» (basado en ideas de David J. Temple), sugiriendo que la IA no es un riesgo aislado, sino uno interconectado con crisis biológicas, climáticas y sociales.

Para un economista, esto es un aviso sobre externalidades negativas masivas. Si el desarrollo de la IA puede facilitar el bioterrorismo o distorsionar la humanidad (puntos que él menciona haber investigado), estamos ante una industria que genera riesgos que no están reflejados en su valoración bursátil. Sharma advierte que nuestra sabiduría no está creciendo al ritmo de nuestra capacidad de afectar al mundo.

La fuga de «Capital Humano Crítico»

La salida de Sharma no es la primera en el sector (recordemos la disolución del equipo de Superalignment en OpenAI). Sin embargo, su destino es lo que debería inquietarnos: no se va a la competencia por un salario mayor, sino que se retira hacia la poesía, el coaching y la «verdad poética».

Esto señala un agotamiento del modelo puramente científico y cuantitativo para gestionar la IA. Cuando el talento más brillante llega a la conclusión de que las estructuras corporativas actuales no permiten un trabajo con integridad, el sector se enfrenta a una descapitalización intelectual de sus perfiles más éticos, dejando el volante exclusivamente en manos de quienes priorizan el crecimiento a toda costa.

Reflexión Final: El «Hilo» de William Stafford

Sharma cierra su carta con el poema The Way It Is, que habla de un «hilo» que uno sigue y que no cambia, a pesar de que el mundo alrededor sí lo haga.

“Tragedies happen; people get hurt or die… Nothing you do can stop time’s unfolding. You don’t ever let go of the thread.”

Para la economía global, el «hilo» debería ser la estabilidad y la seguridad a largo plazo. Si los encargados de sostener ese hilo en las empresas más potentes del mundo sienten que deben soltarlo para mantener su integridad personal, es posible que el mercado de la IA esté subestimando el precio de su propio éxito.

¿Es posible construir una IA segura bajo la lógica del beneficio trimestral? La carta de Sharma parece sugerir que, bajo las estructuras actuales, la respuesta es, cuanto menos, dudosa.