Análisis en profundidad: ¿El RSI, donde el AI “se crea a sí mismo”, es un escalón hacia la divinidad o una nueva historia del capital?
Hola a todos, soy vuestro periodista financiero y economista.
Recientemente, el mundo del AI se ha vuelto un hervidero de actividad. Mientras el CEO de OpenAI alababa que GPT-6 estaba a punto de alcanzar el umbral de la “inteligencia artificial general” (AGI), surgió una nueva palabra clave que eclipsó casi por completo el foco sobre la AGI. Esta palabra es RSI (Recursive Self Improvement, Automejora Recursiva).
En términos sencillos, el AI ya no solo sigue las instrucciones humanas; comienza a escribir su propio código, a realizar experimentos por sí mismo y a modificar su propio “cerebro”, y luego transmite estos cambios a la siguiente generación de modelos más potentes. Es como un estudiante que no solo resuelve problemas por sí mismo, sino que también crea sus propios exámenes, corrige sus errores y optimiza sus métodos de aprendizaje para luego enseñarlos al siguiente estudiante, a una velocidad cada vez mayor, hasta el punto de que los humanos ya no pueden entender lo que está haciendo.
El punto central de este artículo es muy incisivo: el avance tecnológico del RSI es real, pero el “pánico apocalíptico” y las “narrativas de seguridad” que giran en torno a él son, en esencia, una partida comercial cuidadosamente diseñada. Por un lado, los gigantes del AI gritan “¡Es demasiado peligroso, debemos desacelerar!”, mientras que por otro lado, venden chips a toda prisa, construyen centros de datos y recaudan fondos.
A continuación, desglosaré este extenso artículo en cinco dimensiones para que puedan comprender la lógica detrás de todo esto en términos sencillos.
---
1. La verdad tecnológica: ¿El AI realmente ha comenzado a “evolucionar por sí mismo”?
Primero, debemos separar lo ciencia ficción de la realidad. El concepto de RSI no es nuevo; ya en 1965, el matemático I.J. Good propuso el concepto de “explosión de inteligencia”: si las máquinas pueden fabricar otras máquinas y las nuevas máquinas son más inteligentes que las antiguas, el nivel de inteligencia crecerá exponencialmente como una bola de nieve.
Pero el RSI actual es diferente de las promesas de antes, ya que tiene un nivel concreto de aplicación práctica.
Según los últimos estudios de la Universidad de Shanghai Jiao Tong, la Universidad de Tsinghua y otras instituciones, el RSI se ha dividido en cinco niveles: L1 a L5:
- L1-L2 (básico): El AI solo ejecuta las soluciones de mejora proporcionadas por los humanos o encuentra sus propios trucos para mejorar. Es como un estudiante practicante que hace lo que el jefe le dice.
- L3-L4 (intermedio): El AI comienza a tener autonomía. Puede decidir qué experiencia necesita adquirir e incluso convertir la retroalimentación del entorno en cambios permanentes. Es como un trabajador experimentado que, al detectar problemas en el proceso, toma la iniciativa de optimizarlo.
- L5 (avanzado/último): Este es el nivel más preocupante. El AI no solo mejora las tareas, sino que también mejora el “mecanismo de mejora” en sí mismo. Puede modificar la lógica subyacente que determina cómo buscar soluciones y evaluar los resultados.
La situación actual es la siguiente:
OpenAI y Anthropic han dado realmente un paso significativo.
- OpenAI ha logrado “estudiantes de investigación automatizados”. Sus datos muestran que, por cada día laboral humano invertido, un agente AI puede completar el trabajo de 3.1 días. Es decir, la eficiencia de investigación y desarrollo del AI ya ha superado a la de los investigadores humanos.
- Anthropic es aún más audaz; han hecho que un modelo más débil (Sonnet 5) ayude a un modelo más fuerte (Opus 4.8) en el alineamiento de seguridad. En solo 60 horas, el modelo débil probó más de 50 soluciones y mejoró el rendimiento de seguridad del modelo fuerte utilizando muy poca información.
Conclusión: El AI realmente está “creando AI”, pero aún no ha llegado al punto de “descontrol”. Actualmente, se están haciendo parches principalmente a nivel de sistema de software (como optimizar código y ajustar la planificación de tareas), en lugar de reescribir las leyes físicas subyacentes. Sin embargo, esto ya es un gran avance, lo que significa que la velocidad de desarrollo está escapando al control lineal de los humanos.
---
2. El paradoja de la seguridad: ¿Por qué se pisa al mismo tiempo el “freno” y el “acelerador”?
La parte más interesante del artículo es la revelación de la incoherencia de las declaraciones de los gigantes del AI.
Observen que el CEO de Anthropic, Dario Amodei, y los científicos de OpenAI están exagerando el peligro del AI. Comparan el AI con una “mente alienígena” y advierten que, si no se controla, podría lanzar ataques cibernéticos e incluso destruir la civilización. Por lo tanto, abogan por que la industria “desacelere” para dar tiempo a la investigación de seguridad.
Pero, ¿qué está pasando en realidad?
- Jensen Huang (el CEO de Nvidia) responde directamente: No se trata de un dilema binario; la seguridad y la innovación no son incompatibles.
- Lo más irónico es que las empresas que gritan “¡Es demasiado peligroso, debemos desacelerar!” son precisamente las que más ganan dinero y se expanden desenfrenadamente.
Aquí hay un círculo lógico enorme:
1. Crear pánico: “El AI es demasiado peligroso y podría perder el control.”
2. Proponer soluciones: “Necesitamos un AI más poderoso para monitorear y defender contra estos AI peligrosos.”
3. Necesidades de recursos: “Para crear un AI de defensa tan poderoso, necesitamos más chips, más energía y centros de datos más grandes.”
4. Resultados comerciales: Así, miles de millones de dólares en financiación, clústeres de cientos de miles de GPUs y proyectos de infraestructura masivos se presentan como “infraestructura esencial para mantener la seguridad humana”.
En términos sencillos: Es como alguien que vende pastillas de freno que, por un lado, les dice “Estos frenos son muy malos y podrían causar un accidente en cualquier momento”, y por otro lado, les recomienda comprar su modelo más nuevo y más caro, que requiere más combustible para funcionar.
¿Quién se beneficia?
Son los gigantes líderes que tienen grandes equipos de seguridad, centros de datos cerrados y recursos de auditoría suficientes. Dado que el costo de la auditoría de seguridad es muy alto, las pequeñas empresas y las comunidades de código abierto no pueden competir. Esta “narrativa de seguridad” es en realidad un foso defensivo para eliminar a la competencia y consolidar la posición monopólica de los gigantes.
---
3. La lucha por los intereses: La “batalla por la distribución de la potencia de cálculo” detrás del apocalipsis
Si el AI es tan peligroso, ¿por qué no se detienen simplemente? Porque detenerse significa perder el control del futuro.
El artículo señala que el poder de definir cómo se evalúan los riesgos del AI, qué capacidades deben restringirse y quién tiene el derecho a entrenar la próxima generación de modelos está en manos de unos pocos laboratorios de vanguardia. Estos laboratorios son tanto impulsores de la tecnología como definidores de los estándares de riesgo.
- Para los gigantes (OpenAI, Anthropic, etc.): Necesitan mantener la narrativa del “alto riesgo” para justificar sus enormes inversiones y evitar la intervención excesiva de las autoridades reguladoras en sus procesos de investigación y desarrollo.
- Para los fabricantes de hardware (Nvidia, etc.): ¿Por qué se opone Jensen Huang al apocalipsis? Porque si la teoría del apocalipsis se hace realidad y los gobiernos imponen regulaciones sobre la potencia de cálculo y prohibiciones de centros de datos, Nvidia no podrá vender sus GPUs. No importa si lo que se encuentra al final es oro o un monstruo; mientras alguien siga excavando, hay mercado para las palas. Cualquier voz que se oponga a la compra de tarjetas de GPU o la construcción de centros de datos está socavando la cadena industrial del hardware.
Por lo tanto, lo que realmente se está disputando detrás de esta guerra de palabras no es si “la humanidad será destruida”, sino cómo se distribuirá la próxima ronda de potencia de cálculo, capital e intereses industriales.
- Los creadores de AI (compañías de AI): Por un lado, advierten que el “dios” podría perder el control (por cumplir con las regulaciones y mantener su monopolio); por otro lado, piden más recursos para continuar creando ese “dios” (por el retorno comercial).
- Los vendedores de hardware: Esperan que el “dios” siga evolucionando, porque la evolución requiere más “palas”.
Esta es la típica lógica capitalista de jugar a ambos lados, sabiendo que todo resulta en su beneficio.
---
4. Los cuellos de botella tecnológicos: ¿Cuánto falta para la “explosión de inteligencia”?
Aunque la historia suena aterradora, debemos analizar los dificultades técnicos reales. Aunque el RSI avanza rápidamente, todavía hay varios obstáculos insuperables antes de alcanzar la verdadera “inteligencia superlativa” (ASI):
1. El dilema entre el olvido catastrófico y la actualización conservadora: El AI necesita absorber constantemente nuevo conocimiento, pero no puede perder sus habilidades anteriores. Si la actualización es demasiado drástica, el AI puede “olvidar” cómo hablar o caminar; si es demasiado conservadora, no puede aprender cosas nuevas. Es muy difícil encontrar el equilibrio adecuado.
2. La falta de juicio en la investigación: Al hacer que el AI optimice el código, los estándares son claros (solo necesitan funcionar). Pero al hacer que el AI realice investigación científica, es necesario juzgar si un experimento fallido está “en el camino equivocado” o si “vale la pena continuar explorando”. Este tipo de intuición y gusto por la ciencia depende en gran medida de los humanos.
- *Ejemplo:* Los verdaderos avances científicos suelen surgir de plantear preguntas extrañas que nadie ha pensado antes. El AI aún no puede hacer este tipo de preguntas creativas desde cero; es más bueno en la optimización de lo que ya existe.
3. Diferencias en las predicciones de tiempo: Los expertos tienen opiniones muy dispares:
- Grupo optimista (Thinking Machines): 3-4 años.
- Grupo moderado (Millidge): Alrededor de 5 años.
- Grupo conservador (O’Neill): 5-10 años.
Estas diferencias demuestran que el camino tecnológico actual está lleno de incertidumbres y no hay una “carretera principal” clara hacia la ASI.
Conclusión: El RSI es la puerta de entrada hacia la inteligencia superlativa, pero no un “ascensor”. Puede hacer que el AI avance más rápido, pero aún no ha llegado al punto en que pueda decidir por sí mismo a dónde ir o incluso reescribir las reglas del juego.
---
5. Conclusión: ¿Cómo ver esta tormenta del RSI?
Para terminar, resumamos las principales conclusiones de este artículo para que el público general tenga un marco de juicio claro:
1. La tecnología es real, pero se ha exagerado: El AI realmente está acelerando su automejora a través del RSI, y la eficiencia de investigación y desarrollo ha aumentado significativamente. Sin embargo, que el AI cree una inteligencia superlativa que supere a los humanos es aún una visión a largo plazo, no una realidad inminente.
2. El pánico es un negocio; la seguridad es una barrera: Los gigantes exageran el peligro del AI para obtener más exenciones reguladoras (porque “solo nosotros podemos manejarlo”) y para justificar la necesidad de sus enormes inversiones. Es un tipo de negocio del pánico cuidadosamente elaborado.
3. La cadena de intereses está clara:
- Las compañías de AI ganan por el “prima de la inteligencia” y su posición monopólica.
- Los fabricantes de hardware ganan por la expansión de la potencia de cálculo.
- Los inversores ganan por la burbuja de las expectativas futuras.
- Para el público en general: Es importante no dejarse intimidar por el “pánico apocalíptico” ni ser engañado por los “mitos tecnológicos”.
Sugerencias para el público en general:
- No entrar en pánico excesivo: El “automejoramiento” del AI actual se centra principalmente en ayudar a los humanos y optimizar los procesos; todavía hay un largo camino por recorrer antes de que el AI tome el control.
- Centrarse en los avances reales: En lugar de escuchar los eslóganes de los CEOs, presten más atención a los indicadores técnicos concretos (como la eficiencia de la investigación automatizada y los datos específicos del alineamiento de modelos).
- Ver la esencia del negocio: Cuando una empresa les dice “Esto es demasiado peligroso, necesitan comprar nuestra protección más cara”, pregúntense: ¿Realmente es por seguridad o para hacerles pagar más?
El RSI es un hito importante en la historia del desarrollo del AI, ya que marca el paso del AI de ser un “herramienta” a un “colaborador” e incluso a un “sistema autónomo”. Pero en este proceso, quién define las reglas, quién distribuye los beneficios y quién crea la ansiedad son preguntas mucho más importantes que la tecnología en sí.
Después de todo, en el juego del capital, **a menudo son las mismas personas las que suenan la alarma y las que alimentan al “monstruo”.