Resumen del contenido principal
El artículo publicado por Anthropic, “When AI builds itself”, utiliza datos reales internos para mostrar cómo la IA (Claude) participa activamente en su propio desarrollo: actualmente, el 80% del código de producción de Anthropic es generado por Claude, lo que ha transformado a los ingenieros de “artesanos que escriben código” en “supervisores que revisan el código”. El artículo también sugiere que la velocidad de iteración de la IA está aumentando rápidamente, pero el título podría inducir a error al dar a entender que la IA ya es capaz de “evolucionar por sí misma”. Hay dos significados ocultos en esto: primero, la IA确实 está acelerando su desarrollo, pero los humanos todavía controlan las decisiones clave; segundo, Anthropic está pidiendo regulación justo antes de su financiación y salida a bolsa, probablemente para asegurarse una ventaja competitiva.
1. Los ingenieros pasan de ser “artesanos” a ser “supervisores”: la capacidad de ejecución pierde valor
El 80% del código actual de Anthropic es escrito por Claude, y la cantidad diaria de código enviado por los ingenieros es ocho veces mayor que el año pasado (aunque el número de líneas no indica necesariamente calidad, la lógica revisada es correcta). Esto significa que el modo de trabajo de los programadores ha cambiado completamente: antes escribían, probaban y enviaban el código; ahora le indican a la IA los objetivos, la IA genera el código, ejecuta las pruebas y corrige los errores, mientras que los humanos solo se encargan de verificar si la dirección es correcta y si hay problemas en los resultados.
Por ejemplo: antes, un director tenía que manejar personalmente la cámara y editar el vídeo; ahora, con 10 equipos de producción AI, todo lo que necesita hacer es decir “¿Qué escena filmar?”, “¿Qué no está bien?” o “¡Párate!”. El valor de los humanos ya no radica en su capacidad para ejecutar, sino en saber qué hacer y cómo juzgar si algo es correcto. Al igual que con la fotografía móvil, lo que determina la calidad de una imagen no es la tecnología del obturador, sino la “visión” para elegir el ángulo y el contenido a capturar.
Conclusión: El precio de la capacidad de ejecución está disminuyendo; la “capacidad de juicio” será la verdadera fuerza competitiva en el futuro.
2. Un nuevo obstáculo: ¿puedes verificar los resultados de la IA?
La IA puede generar una gran cantidad de código, planes y experimentos, pero revisarlos todo a mano se ha convertido en un problema. Anthropic utiliza la IA para revisar el código generado por otra IA y logra encontrar una tercera parte de los errores en línea de forma anticipada. Sin embargo, hay un riesgo: cuando Claude revisa el código escrito por otro Claude, es como si estudiantes enseñados por el mismo profesor evalúen sus propios exámenes, lo que puede llevar a que pase por alto errores comunes.
Lo más importante es saber si entiendes por qué la IA ha tomado una decisión correcta. Por ejemplo, si la IA crea una función que funciona correctamente, pero no estás seguro de que su lógica no contenga riesgos ocultos, ese es el verdadero peligro. En el futuro, el problema no será la falta de ideas, sino elegir entre 100 propuestas de IA: ¿cuál realmente vale la pena seguir y cuál parece correcta pero en realidad está desviada?
Conclusión: La capacidad más escasa en el futuro no será “saber usar la IA”, sino “poder verificar los resultados de la IA”: seleccionar las opciones adecuadas, detectar errores ocultos y saber cuándo detener el proceso.
3. La IA avanza demasiado rápido para que los humanos puedan seguirle
El artículo menciona que el tiempo necesario para que la IA complete tareas complejas se ha reducido de 7 meses a 4 meses. En marzo de 2024, solo podía completar tareas de 4 minutos; en marzo de 2025, podría hacerlo durante 1,5 horas; y en marzo de 2026, durante 12 horas. Aunque la tasa de éxito es del 50% (todavía no se puede confiar al cien por ciento), la tendencia es clara: la IA está evolucionando rápidamente y podría incluso desarrollar su propia próxima generación sin estar limitada por el número de humanos, sino solo por la potencia de cómputo y los chips.
Pero hay un problema: existe una gran brecha entre la velocidad “máquina” de la IA y la velocidad “humana” de la sociedad. Por ejemplo, la IA puede desarrollar nuevos fármacos rápidamente, pero la aprobación de estos requiere décadas (es necesario verificar los efectos secundarios); la IA puede modificar el código con rapidez, pero se necesita tiempo para que los usuarios adopten nuevas prácticas (como aprender las funciones cerebrales, lo que implica recopilar una gran cantidad de comentarios de usuarios). Estas “variables lentas” (leyes, educación, psicología del usuario) no pueden ser reemplazadas por la IA, y esa es la verdadera preocupación para la gente común: no se trata de que los puestos de trabajo sean reemplazados, sino de que las reglas sociales no sigan el ritmo del cambio tecnológico.
Conclusión: Si tu trabajo incluye “variables lentas” (como comprender a los usuarios, perfeccionar los procesos o establecer confianza), eso te proporcionará una protección contra los cambios tecnológicos.
4. El título es engañoso: la IA aún no puede “evolucionar por sí misma”
El título del artículo, “When AI builds itself”, es impactante, pero en realidad la IA solo está “ayudando a los humanos en el desarrollo”; todavía no puede desarrollarse completamente por sí misma. La verdadera evolución autónoma significaría que la IA pudiera identificar sus propios puntos débiles, proponer soluciones y realizar las implementaciones necesarias. Anthropic reconoce que aún no han alcanzado ese nivel.
Por ejemplo, el nacimiento de la arquitectura Transformer se debió a una discusión entre ingenieros de Google en un pasillo, que fue escuchada por el experto Saulzer, quien decidió unirse y reescribir el código para superar los obstáculos. En este proceso, los intercambios fortuitos y las decisiones clave de los humanos fueron cruciales; el código fue solo el resultado. El hecho de que el 80% del código de Anthropic sea generado por la IA no significa que el 80% del desarrollo lo haya realizado la IA: quién elige los problemas a abordar, qué resultados se aceptan y cuándo detenerse sigue siendo decisión humana.
Conclusión: No te dejes engañar por el título; la IA es actualmente un “asistente superior”, no un “tomador de decisiones autónomo”.
5. El llamado a la regulación como una estrategia para asegurar la ventaja
Al final del artículo, se pide la implementación de mecanismos para detener el desarrollo de la IA de manera verificable, lo cual suena responsable. Sin embargo, hay un contexto detrás: Anthropic acaba de obtener una financiación de 650 millones de dólares y su valor se estima en casi un billón; además, ha presentado secretamente una solicitud de salida a bolsa. Pedir la regulación en este momento es una forma de asegurarse una ventaja competitiva, ya que solo las empresas líderes pueden costear los procesos de supervisión (como los mecanismos de verificación y los procedimientos de cumplimiento). Esto recuerda al Plan Baruch de 1946, cuando Estados Unidos pidió el establecimiento de un sistema internacional de control antes de deshacerse de las armas nucleares; el objetivo era mantener su posición dominante. La lógica de Anthropic es similar: si se detiene el desarrollo ahora, podrán mantener su ventaja tecnológica y evitar que otros los alcancen.
Conclusión: Al leer un artículo así, debes tener en cuenta quién se beneficia de las propuestas de regulación antes de aceptarlas.
Sugerencias para leer este artículo:
1. Confía en la tendencia: La IA está avanzando rápidamente y el modo de trabajo de los ingenieros cambiará.
2. Revisa los datos con cuidado: Los datos proporcionados por Anthropic (que utilizan a Claude para escribir código) no representan a toda la industria.
3. **No te creas lo de la “evolución autónoma”: es más una narrativa que la realidad.
4. Desconfía de los llamados a la regulación con fines comerciales; pueden esconder intereses ocultos.
En resumen, la IA es una herramienta, pero las estrategias de las personas y las empresas que la utilizan son lo que realmente importa.
Enlace al artículo original: https://www.anthropic.com/institute/recursive-self-improvement