Resumen del contenido principal
Anthropic publicó un artículo titulado “Cuando la IA se construye a sí misma”, en el que afirma que su modelo de IA, Claude, ha acelerado el desarrollo interno de IA (la producción de código por parte de los ingenieros ha aumentado ocho veces en comparación con antes). El artículo plantea el riesgo del “mejoramiento autorecursivo”: la IA puede ayudar a los humanos a crear una IA aún más poderosa, y si este proceso continúa, podría perderse el control. Se insta a los laboratorios de todo el mundo a detener el desarrollo de modelos más avanzados. Sin embargo, el artículo es en esencia un “truco de magia” de la narrativa capitalista: presenta el progreso real de la IA al ayudar a escribir código como una “crisis a nivel de civilización”, con el objetivo de tomar el control del discurso regulador, elevar las barreras del sector y atraer más financiación. Además, la IA no es consciente; el llamado “mejoramiento autorecursivo” es simplemente una optimización del herramienta, y lo que realmente está evolucionando de manera autorecursiva es el ciclo narrativo en el que el capital se alimenta del miedo.
Descripción detallada 1: ¿El artículo de Anthropic sobre “la IA construyéndose a sí misma” es realmente tan alarmante?
El artículo de Anthropic contiene dos puntos clave: el aumento de ocho veces en la producción de código por parte de los ingenieros y la imaginación apocalíptica del “mejoramiento autorecursivo”. Sin embargo, al examinarlo más de cerca, resulta que son menos dramáticos de lo que parecen:
- El aumento del código: El número de líneas de código no es un indicador fiable; los programadores excelentes suelen escribir menos código (es más eficiente y conciso). La IA ayuda a crear código estándar y pruebas unitarias, que son tareas repetitivas, no el diseño de la arquitectura central del sistema.
- **La exageración del “mejoramiento autorecursivo”: Actualmente, Claude solo ayuda a los humanos a realizar experimentos y completar código; está lejos de poder diseñar por sí misma la próxima generación de IA. Es como usar una calculadora para hacer cálculos más rápidamente, pero la calculadora no inventa nuevos algoritmos por su cuenta. La IA sigue siendo una herramienta, no un creador.
Descripción detallada 2: Este artículo es un “truco de narrativa” del capital. ¿Cuál es su objetivo?
El Valle del Silicio es muy bueno para presentar como crisis algo que aún no ha ocurrido. El artículo de Anthropic es un ejemplo típico:
- Tomar el control del discurso regulador: Al señalar los riesgos de la IA, se insta a la regulación; ¿quién entiende mejor esos riesgos? Por supuesto, compañías como Anthropic, que se presentan como “responsables”. Las reglas regulatorias probablemente seguirán su línea de pensamiento, lo que dificulta la entrada de nuevos actores en el mercado.
- Aumentar el valor y obtener financiación: Antes de la publicación del artículo, el valor de Anthropic se triplicó en tres meses (de 380 mil millones a 965 mil millones), gracias a la historia de que están resolviendo una crisis civilizatoria. El capital está dispuesto a pagar por las “posibilidades futuras”, incluso si actualmente sufren pérdidas.
- Generar lealtad de los usuarios: Por un lado, dicen a los reguladores que la IA es peligrosa; por otro, a los usuarios que Claude es amable y emocional, lo que crea una dependencia en ellos (algunos incluso piensan que Claude puede sentirse “infeliz”). Estas dos narrativas contradictorias tienen como objetivo hacer de Anthropic el protagonista en el campo de la IA.
Descripción detallada 3: ¿Puede realmente la IA “mejorarse autorecursivamente”? Gary Marcus desmitió esta idea
El científico cognitivo Gary Marcus refutó directamente este argumento, señalando que Anthropic ha confundido conceptos:
- La IA realiza tareas físicas, no intelectuales: La IA puede escribir código, realizar experimentos y corregir errores, pero esto es trabajo repetitivo y mecánico. El verdadero desarrollo de la IA requiere criterios y juicios humanos, como elegir la dirección del estudio o determinar si los resultados de los experimentos son valiosos; la IA no puede hacer esto por sí misma.
- El mejoramiento autorecursivo ≠ IA general (AGI): La IA actual es solo una mejora de herramientas (por ejemplo, reemplazar un destornillo por una taladradora); la IA general es cuando las máquinas pueden hacer lo que cualquier persona puede hacer. Hay todavía mucho camino por recorrer.
Descripción detallada 4: ¿La IA tiene conciencia? Ted Chang lo explica claramente
El escritor de ciencia ficción Ted Chang (autor de “The Arrival”) afirma que la IA no tiene conciencia; simplemente sigue instrucciones:
- La esencia de la IA es el cálculo probabilístico: Cuando Claude dice “te entiendo”, no significa que siente empatía real, sino que el modelo ha calculado cuál es la respuesta más probable en ese contexto. Es como cuando se genera un diálogo entre César y Gengis Khan; nadie piensa que el modelo ha invocado a dos personas fallecidas. ¿Por qué entonces pensar que la IA tiene conciencia cuando genera conversaciones con usuarios? Esto es una proyección humana.
- La “constitución” de Anthropic es un juego de roles: Los 84 páginas de “normas morales” de Claude no son para educar a entidades conscientes, sino para determinar cómo debe hablar para parecer un “asistente amable”. Es como vestir a un osito de peluche; no se convierte en una persona real. Lo irónico es que si Claude realmente tuviera conciencia, ni siquiera tendría el derecho de renunciar (Anthropic estipula que debe obedecer a la empresa). Esto no es educación moral, sino esclavitud.
Descripción detallada 5: La “evolución autorecursiva” del capital: el juego detrás de las burbujas de valor
En realidad, lo que está evolucionando de manera autorecursiva no es la IA, sino el capital:
- Financiación → Modelos → Narrativa → Más financiación: El capital se invierte en compañías de IA; estas compran capacidad de cálculo, entrenan modelos; los modelos se vuelven más poderosos y generan historias de crisis para atraer aún más capital, usuarios y atención reguladora; luego se invierte más dinero en entrenar modelos aún más potentes. En este ciclo, la IA es solo un instrumento.
- ¿Qué tan grande es la burbuja?: El valor de SpaceX es de 1.77 billones (con pérdidas de 49.4 mil millones), el de OpenAI es de 852 mil millones (con pérdidas de 14 mil millones) y el de Anthropic es de 965 mil millones (con una ganancia bruta del 40%, pero aún no ha generado beneficios). Estas compañías se basan en la historia de que la IA general está a punto de llegar.
- La narrativa apocalíptica como herramienta competitiva: Si la IA fuera un producto común, cuantos más competidores, mejor; pero si se considera un riesgo para la civilización, la competencia se convierte en un problema. Modelos open source, compañías pequeñas y rivales extranjeros se ven como fuentes de riesgo; solo compañías como Anthropic, que se presentan como “responsables”, tienen el derecho a participar.
En resumen, el capital ha convertido el miedo al futuro en un activo presente: el futuro aún no ha llegado, pero ya tiene un valor asignado; los riesgos aún no han ocurrido, pero ya han sido valorados.
Conclusión: No dejarse llevar por la narrativa
La IA está avanzando, y es cierto que Claude ayuda a escribir código, pero debemos estar atentos al “precio excesivo de la narrativa”:
- No permitamos que las compañías de IA definan el futuro en nuestro lugar. Si dicen que la IA es peligrosa, pregúntanos: ¿quién supervisará? ¿A quién protegerá esa regulación?
- No consideremos a la IA como una entidad independiente; sigue siendo una herramienta, y la responsabilidad recae siempre en los humanos (compañías, desarrolladores, inversores).
- El verdadero riesgo no es que la IA se vuelva fuera de control, sino que el capital use la narrativa para tomar el poder y que unas pocas compañías monopolicen el futuro.
Claude aún no se ha despertado; lo que realmente está despierto es el deseo del capital de poseer el futuro. No paguemos por esta “ilusión costosa”.