Resumen del contenido central
Dario Amodei, fundador de Anthropic, es una figura llena de contradicciones: por un lado, advierte en voz alta sobre los desastres que la superinteligencia artificial (IA) podría provocar, como armas biológicas y desempleo masivo; por otro, dirige su empresa con todas sus fuerzas para desarrollar los modelos de IA más avanzados. Cree que la IA eventualmente aparecerá y, en lugar de dejar que otros la controlen, prefiere ser quien tome las riendas. Intenta garantizar la seguridad mediante una “IA constitucional” y estructuras de fideicomiso, pero también se encuentra en la dilema de tener el poder tanto como el juicio. Soñaba con que la IA pudiera curar el cáncer y beneficiar a toda la humanidad, pero oculta las ambiciones de un hegemonismo unipolar al estilo estadounidense. Incluso hay rumores de que desea que Anthropic se convierta en “la última empresa privada del mundo”. Aunque evita responder directamente, su lógica subyacente es clara: solo él puede confiar en su propia capacidad para controlar la situación.
I. Dario, contradictorio: advierte de los peligros mientras acelera
Las contradicciones de Dario no son fingidas, sino el resultado de dos obsesiones:
1. El gen del miedo a retrasarse: Su padre falleció de hepatitis C cuando aún faltaban 7 años para la aprobación de un nuevo medicamento. Este suceso lo convenció de que “retrasarse es un pecado” y que la ciencia debe avanzar rápidamente para salvar a más personas.
2. El dilema del prisionero en la industria: Sabe que la IA es peligrosa, pero OpenAI y Google están compitiendo por ella, y otros países tampoco se detendrán. Si Anthropic se detiene, otros menos fiables podrían desarrollar primero la superinteligencia artificial. Por lo tanto, su lógica es: “Si todos van a crearla, mejor que sea yo quien lo haga primero para poder controlarla”.
Mientras enumera en sus artículos los 100 peligros de la IA, también utiliza la IA para que escriba el código y acelere el desarrollo. Para él, esto no es una contradicción, sino un “riesgo necesario”: solo tomando el control primero se puede hablar de seguridad.
II. Los trucos de seguridad de Anthropic: solo confía en tener las riendas
Dejó OpenAI porque “la gente que crea los modelos no tiene la última palabra”. Tras fundar Anthropic, incorporó el concepto de control absoluto en su empresa:
- IA constitucional: Creó un conjunto de “principios éticos” para que los modelos mismos verifiquen si sus respuestas son acordes con estos principios. Pero esta “constitución” fue definida por Anthropic, lo que equivale a que una empresa decida cómo debe ser la IA en nombre de toda la humanidad.
- Fideicomiso para intereses a largo plazo: Contrató a personas externas para formar un fideicomiso que, en teoría, debería evitar que la empresa renuncie a la seguridad en pos de ganancias. Sin embargo, el poder del fideicomiso sigue centrado en Anthropic; en esencia, se trata de “supervisarse a sí misma”.
- Jugar al mismo tiempo como jugador y árbitro: Anthropic crea modelos, evalúa los riesgos, establece estándares y ofrece sugerencias a las autoridades de regulación… todo lo hace internamente. ¿Crees que un jugador puede ser justo si también es el árbitro?
Su visión de la seguridad se basa en la idea de que “solo yo entiendo realmente cómo funciona la IA, por lo tanto, solo yo puedo gestionarla”.
III. El futuro de la IA bajo el influjo de EE. UU.: ambiciones de hegemonismo unipolar
Dario afirma que la IA podría curar el cáncer y ayudar a los países pobres a saltarse la etapa de industrialización, pero su objetivo de “beneficiar a toda la humanidad” tiene una condición: que EE. UU. sea el primero en obtenerla:
- Aboga por que Estados Unidos y sus aliados bloqueen el acceso a los chips más avanzados para que China y otros competidores estratégicos no puedan desarrollar modelos de IA poderosos.
- Utiliza la metáfora del “eterno año 1991” para describir su futuro ideal: después de la caída de la Unión Soviética, Estados Unidos se convirtió en el líder mundial y compartió sus ventajas militares y económicas con otros países. Cuando una empresa china como DeepSeek logra desarrollar modelos competitivos con recursos limitados, él afirma que “esto demuestra la capacidad de China y que por eso aún menos deberíamos permitirles acceder a los chips”. Es un ejemplo típico de la lógica circular de “cuanto más fuerte es el oponente, más debemos bloquearlos”.
Su visión de un mundo compartido en realidad implica que “EE. UU. toma lo primero y luego Anthropic se encarga del resto”.
IV. La idea de ser “la última empresa privada”: la imaginación definitiva del poder
Hay rumores de que Dario desea que Anthropic sea la “última empresa privada del mundo”, dejando solo a esta compañía y los gobiernos nacionales. No ha respondido directamente, pero sus acciones lo dicen todo:
- Ha descartado a todos aquellos considerados “poco fiables”: el mercado (por su búsqueda de beneficios), el público (que no entiende la tecnología), otras empresas (por no ser lo suficientemente cautelosas) y los gobiernos no occidentales (por ser autoritarios). Solo queda Anthropic.
- Cuando respondió a los rumores, mencionó que “lo realmente importante es curar el cáncer” para desviar la atención del problema central del concentración de poder.
Todo esto recuerda al faraón de *The Watchers*: se considera un salvador, pero en realidad crea el caos con sus propias manos. Dario también cree que él es la única persona capaz de salvar a la humanidad… sin darse cuenta de que entregar todo el poder a una empresa representa el mayor peligro.
Conclusión
Dario es un idealista sincero, pero la sinceridad no siempre implica estar en lo correcto. Intenta proteger al mundo controlando la IA, pero poco a poco se convierte en el centro del poder. Como el final de *The Watchers*: “Nada ha terminado; todo nunca terminará”. Cuando una empresa cree que puede tomar decisiones en nombre de toda la humanidad, es posible que ya se haya convertido en ese abismo del que tanto advirtió.