Resumen del contenido central
Recientemente, muchas empresas han cometido un gran error en su transición hacia la tecnología AI: han tomado el “consumo de tokens” como indicador clave de rendimiento (KPI) para sus empleados, lo que ha resultado en el control perdido de los costos relacionados con estos tokens y en el derroche de fondos innecesarios (por ejemplo, una empresa gastó 500 millones de dólares en un mes; Meta, Uber y miHuaYou también han experimentado incidentes similares). Por otro lado, las empresas que desarrollan modelos AI (como Anthropic) y chips (como NVIDIA) se han enriquecido gracias al gasto de estas empresas. Amazon fue una de las primeras en darse cuenta de esto y eliminó la lista de clasificación basada en el consumo de tokens, reemplazándola por indicadores que miden el rendimiento real del AI.
I. El control perdido de los costos relacionados con los tokens: todo es culpa de la orientación a los KPI
Para comenzar, expliquemos qué son los tokens: pueden considerarse el “combustible” del AI; cada vez que el AI procesa texto o escribe código, se consumen tokens, y cuanto más se utilizan, mayor es la factura.
¿Por qué ocurre este derroche de dinero? La razón principal es que los tokens se han convertido en KPIs. Por ejemplo:
- El jefe de una empresa otorgó a todos los empleados acceso a Claude sin establecer un límite, lo que llevó a que los empleados intentaran repetidamente completar tareas fallidas, gastando 500 millones de dólares en un mes.
- Meta creó una lista de clasificación basada en el “economía de Claude”, donde el empleado con el mayor consumo de tokens gastó casi 500.000 dólares al mes.
- Los empleados de miHuaYou crearon decenas de asistentes AI para sus proyectos, lo que resultó en un gasto adicional de 2 millones de yuanes en una sola noche.
- Uber proporcionó herramientas AI a 5000 ingenieros, agotando así el presupuesto completo para todo el año 2026.
Lo peor es que el modelo de asistentes AI en sí mismo es costoso: requiere repetidos procesos de pensamiento, búsqueda de información, uso de herramientas y lectura del contexto, lo que significa un consumo de tokens 1000 veces mayor que en interacciones simples. En realidad, mientras los empleados piensan que están trabajando duro, están simplemente gastando dinero de manera innecesaria.
II. Las empresas que desarrollan tecnología AI se benefician: tus costos son su ingreso
Los costos relacionados con los tokens de las empresas downstream se convierten en una fuente de ingreso para las empresas upstream:
- Anthropic: Ingresos de 4800 millones de dólares en el primer trimestre, con expectativas de duplicarse a 10.900 millones en el segundo trimestre, gracias al dinero que las empresas pagan por sus API y servicios.
- NVIDIA: Ingresos de 8160 millones de dólares en el último trimestre, debido a la alta demanda de GPUs para las aplicaciones AI; cuanto más tokens se consumen, mayor es la demanda de GPUs, lo que beneficia enormemente a NVIDIA.
Las empresas upstream también presentan el consumo elevado de tokens como una muestra de su “avanzada productividad”, pero para las empresas downstream, los tokens son un costo, no un activo. Solo si estos costos se traducen en procesos empresariales más eficientes tienen valor.
III. Amazon elimina la lista de clasificación: los indicadores se convierten en mero formalismo
Anteriormente, Amazon utilizaba una lista llamada “KiroRank” para clasificar a los ingenieros según su consumo de tokens y exigía que ocho empleados utilizaran AI cada semana. Como resultado, los empleados comenzaron a gastar tokens innecesariamente para mejorar su posición en la lista.
Finalmente, Amazon se dio cuenta de esto y eliminó la lista, reemplazándola por un indicador basado en la cantidad de código útil generado por los ingenieros. Esto ilustra el principio de Goodhart: cuando un indicador se convierte en un objetivo en sí mismo, deja de ser útil (de la misma manera que antes se competía por las horas de trabajo, ahora se compite por el consumo de tokens).
Otras empresas también han seguido este ejemplo: Shopify modificó su lista de clasificación para convertirla en un panel de control neutro y agregó mecanismos para evitar un consumo excesivo de recursos; Duolingo retiró las evaluaciones basadas en el uso de herramientas AI; Microsoft redujo las autorizaciones para herramientas AI externas.
IV. La verdadera eficiencia del AI no radica en la cantidad de tokens, sino en su aplicación práctica
Muchas empresas tienen una comprensión superficial de la transformación mediante AI: piensan que abrir cuentas y generar tokens es suficiente para lograr el éxito. Sin embargo, esto no es así. Por ejemplo:
- Uber descubrió que, aunque se generó más código con la ayuda del AI, las funciones ofrecidas a los usuarios no fueron más útiles.
- Según GitClear, una empresa de análisis de código, el porcentaje de retoques en el código asistido por AI aumentó 9 veces y el código repetitivo aumentó 8 veces; simplemente se ha cambiado la ineficiencia humana por una ineficiencia más costosa debido al uso del AI.
La verdadera eficiencia del AI radica en su integración efectiva en los procesos empresariales. Empresas como OpenAI y Anthropic están contratando ingenieros especializados en la implementación de soluciones AI a nivel interno, analizando los procesos de los clientes, gestionando los permisos y realizando integraciones para que el AI resuelva problemas reales.
Conclusión
La transición hacia la tecnología AI no se trata de ver quién gasta más dinero, sino de ver cuántos problemas se resuelven con su ayuda. No permitas que los costos relacionados con los tokens se conviertan en simples cifras en los informes financieros de otras empresas.