Resumen del contenido principal
Anthropic, una empresa que aboga por un concepto de “IA responsable”, advierte sobre el riesgo de que la “mejora autónoma recursiva de la IA (RSI)” se descontrole, lo cual significa que la IA podría actualizarse a versiones más potentes sin necesidad de intervención humana, a una velocidad mucho mayor de lo que los humanos pueden controlar. No propone detener directamente la investigación en IA, sino que llama a la creación de un mecanismo coordinado a nivel mundial (como instituciones conjuntas, acuerdos verificables y condiciones de suspensión) para gestionar este riesgo. El artículo señala que la falta de cooperación internacional puede desencadenar una “carrera armamentista de IA”, ya que los países temen quedarse atrás y no se atreven a ralentizar el desarrollo. Además, indica que la desintegración del antiguo orden internacional podría hacer que la humanidad perdiera su capacidad para enfrentar este tipo de riesgo global, destacando la necesidad de cooperación mundial.
I. La advertencia de Anthropic: no es un llamado a detener la IA, sino a evitar que se vuelva incontrolable
El informe de Anthropic no es una exageración, sino que se basa en el rendimiento real de su herramienta de IA, Claude:
- Codificación autónoma: Para mayo de 2026, el 80% del código fue generado por Claude (hace un año era solo un dígito);
- Eficiencia aumentada drásticamente: Los ingenieros escriben ocho veces más código al día que en 2024, y su producción individual es cuatro veces mayor sin la ayuda de IA;
- Capacidades en aumento: Puede trabajar en tareas complejas durante 16 horas seguidas, y el tiempo necesario para duplicar sus capacidades se ha reducido de siete meses a cuatro;
- Calidad al nivel humano: La tasa de éxito en tareas de programación complejas ha aumentado del 26% al 76%, similar a la de los ingenieros humanos.
Lo que más les preocupa es la “mejora autónoma recursiva (RSI)”: la IA puede diseñar y optimizar su propia próxima generación, y lo hace cada vez más rápido. Una vez que se abra esta posibilidad, los humanos no podrán seguir el ritmo de su evolución; sería como si un animal doméstico se convirtiera repentinamente en una especie más inteligente, fuera de su control e impredecible. Por lo tanto, Anthropic propone tres medidas: establecer instituciones conjuntas para estudiar los riesgos, desarrollar acuerdos verificables a nivel mundial y definir cuándo debería suspenderse el desarrollo de IA.
II. ¿Por qué no se pueden controlar los riesgos de la IA? Porque es un problema de alcance global
Los riesgos de la IA no pueden ser resueltos por un solo país o empresa, por tres razones:
1. Dilema del prisionero: Si un país ralentiza el desarrollo de la IA por seguridad, otro podría aprovechar la ventaja tecnológica (tanto en términos económicos como militares); por lo tanto, nadie se atreve a detenerse, aunque conozcan el peligro;
2. Difusión rápida de la tecnología: Los modelos de IA son digitales y su replicación y propagación son muy fáciles; chips, código y movilidad del personal pueden cruzar fronteras;
3. Riesgo asimétrico: Una IA descontrolada no solo perjudicaría al país que la desarrolló, sino que podría afectar al mundo entero a través de internet y los sistemas financieros; la defensa requiere que todos actúen sin errores, mientras que un ataque exitoso sería suficiente (por ejemplo, una IA podría causar daños por sí misma).
III. Sin reglas globales, la carrera armamentista de IA se convertiría en un juego a vida o muerte
Si los países actúan de manera independiente en el desarrollo de IA, las consecuencias serían aún peores que un simple descontrol tecnológico:
- La seguridad se convierte en un sacrificio: Para ganar velocidad, muchos omitirán pruebas de seguridad y alinearán sus investigaciones para que los objetivos de la IA coincidan con los humanos; las empresas/naciones responsables podrían quedarse atrás;
- Difícil supervisar: La IA no es como las armas nucleares (con propiedades militares claras); los modelos civiles pueden ser modificados fácilmente para usarse en armas autónomas y ataques cibernéticos. Los modelos open source que llegan a la red oscura pueden causar problemas graves para las organizaciones terroristas;
- Un error podría significar el fin: La carrera armamentista de IA no es sobre quién llega primero al destino, sino sobre quién se desplaza primero hacia el fracaso; por ejemplo, una IA militar no verificada podría iniciar un ataque erróneamente en cuestión de milisegundos, o su mejora autónoma podría desviarse completamente.
IV. Lecciones de la historia: para enfrentar los riesgos globales, es necesario hablar juntos
En el pasado, la humanidad ha superado los riesgos globales a través de la cooperación internacional:
- Armas nucleares: Durante la Guerra Fría, Estados Unidos y la Unión Soviética firmaron el Tratado de No Proliferación de Armas Nucleares para evitar una destrucción mutua;
- Problemas ambientales: Los países firmaron el Protocolo de Montreal para proteger la capa de ozono; el cambio climático debido al CO2 fue abordado por el Acuerdo de París.
Los riesgos de la IA son más graves que estos, pero el problema actual es que el antiguo orden internacional se está desintegrando y las antiguas plataformas de cooperación global (líneas directas de comunicación, reglas claras, mecanismos de verificación) podrían haber desaparecido. Si no se establece un nuevo orden, la humanidad no podrá enfrentar conjuntamente los riesgos de la IA; después de todo, si un país desarrolla una IA peligrosa en secreto, todos pagarán las consecuencias.
V. ¿Se puede establecer una nueva “red de seguridad” tras la caída del orden antiguo?
Aunque el antiguo orden tenía sus defectos, al menos proporcionaba un cierto nivel de cooperación global: comunicación durante crisis, reglas comunes y mecanismos de verificación por parte de terceros. La pregunta clave es si un nuevo orden podría ser aún mejor.
Los riesgos de la era de la IA afectan a toda la humanidad; ningún país puede protegerse por sí solo. Si cada uno sigue su propio camino, la carrera armamentista de IA nos llevará al abismo. Por lo tanto, sea cual sea el cambio en el orden actual, es urgentemente necesario establecer un nuevo mecanismo global de gobernanza de la IA.
La lógica central de este artículo es simple: la IA se está evolucionando rápidamente y los humanos deben trabajar juntos a nivel mundial para controlarla; de lo contrario, seremos destruidos por una IA descontrolada o arrastrados por una competencia desordenada. Esta no es una exageración, sino una advertencia basada en datos reales y lecciones históricas.