虎嗅

¿Deben las empresas comprar modelos o cultivar el contexto?

原文:企业该买模型还是养上下文?

No te dejes engañar por los “modelos propios”: Jefes, ¿es justo gastar este dinero?

Jefes y CIOs (Directores de Información), ¿en los últimos seis meses no ha habido alguien que les haya presentado un PPT preguntando: “¿Deberíamos crear nuestro propio modelo grande?”

Esta palabra suena muy sofisticada, como si si no lo hiciéramos, la empresa fuera a quedarse atrás en la era. Pero, para ser honestos, gastar este dinero nos hace sentir inseguros. Hoy no hablaremos de términos técnicos vacíos; en lugar de eso, calcularemos claramente los costos en lenguaje sencillo.

En una frase, resumimos el punto central:

Los llamados “modelos propios” en realidad son una mezcla de tres “productos” que pierden valor (entrenamiento desde cero, microajuste y despliegue privado) y un “activo” que aumenta de valor (el contexto y la lógica empresarial únicos de la empresa). La mayoría de las empresas los compran como si fueran activos, pero al final, el dinero se va y las cosas se vuelven cada vez más obsoletas. El verdadero valor no está en el modelo en sí, sino en los datos y las reglas no escritas de la empresa.

A continuación, desglosaré todo esto en cinco partes para que lo entiendan mejor.

---

1. Desvelando los cuatro “disfrazes” de los “modelos propios”: ¿Qué estamos comprando realmente?

Los llamados “modelos propios” en el mercado son como una canasta en la que se mete de todo. Tenemos que ver su contenido: en realidad, solo hay cuatro elementos de naturalezas completamente diferentes:

  • Primero: Entrenamiento desde cero (el más caro y el más difícil)
  • Qué significa: Es como cultivar el propio campo, moler el propio grano y cocinar por uno mismo, entrenando el modelo desde el código más primitivo.
  • Costo: Entre 100 y 1000 millones de dólares, más un equipo de élite de cientos de personas.
  • Situación actual: Muy pocas empresas realmente lo logran.
  • Segundo: Microajuste (el que más se parece a algo “propio”)
  • Qué significa: Tomar un modelo abierto (como un modelo grande genérico) y alimentarlo con datos de la empresa para que aprenda el lenguaje específico de su industria.
  • Costo: Una tarjeta gráfica y unos días de trabajo.
  • Situación actual: Suena bien, y se puede usar para el servicio al cliente y la revisión de contratos. Pero es la trampa que más fácilmente crea la ilusión de que tenemos nuestro propio modelo.
  • Tercero: Despliegue privado (el más seguro, pero no necesariamente el más inteligente)
  • Qué significa: El modelo sigue siendo de otra empresa (como Huawei o Baidu), pero se instala en nuestras instalaciones. Los datos no salen, así que la seguridad está asegurada.
  • Costo: Comprar hardware y licencias.
  • Situación actual: Las empresas bancarias y gubernamentales lo prefieren. Pero ten en cuenta: lo que compras a menudo no es el modelo más inteligente, sino el que menos se mueve.
  • Cuarto: Contexto (el más valioso, pero invisible)
  • Qué significa: Los datos de la empresa, las reglas de negocio, la experiencia de los expertos y los procesos de aprobación. No están escritos en el contrato y no se pueden verificar, pero determinan si el AI funciona correctamente o causa problemas.
  • Costo: Requiere acumulación y organización a largo plazo.
  • Situación actual: Este es el verdadero valor “propio”.

Diferencia clave:

Los tres primeros son “productos” cuyo valor se estanca en el momento de la compra y solo disminuye con el tiempo (ya que la tecnología avanza rápidamente; los modelos de hoy serán obsoletos en tres años).

El cuarto es un “activo” que se vuelve más valioso con el uso; cuanto más datos acumules, mayor es la barrera competitiva, y permanece incluso al cambiar de modelo.

---

2. ¿Por qué los proveedores venden “productos” como “activos”?

Si solo el cuarto elemento (el contexto) es un activo, ¿por qué los vendedores hablan constantemente de “modelos propios”?

Porque mezclándolos se vende mejor y a un precio más alto.

  • Blanqueo de límites: Los proveedores rara vez dicen qué parte se compra en propiedad y qué parte se alquila, ni cuándo se necesita renovar. Si lo explican demasiado claro, es más difícil cerrar el contrato.
  • La verdad sobre los modelos industriales: Modelos como “Hengsheng Finance” o “iFlytek Medical” suenan personalizados, pero la propiedad legal pertenece al fabricante y se venden de forma generalizada. Lo que se llama “propio de la industria” es cierto, pero “propio” es falso.
  • Creación de ansiedad: El objetivo principal es hacer que piensen que si no lo compran, se quedarán atrás.

Por ejemplo:

Un producto es como un coche nuevo que se desvaloriza rápidamente después de comprarlo.

Un activo es como la base de una casa familiar que se fortalece con el tiempo y aumenta de valor.

El mercado actual trata de vender “coches nuevos” como si fueran “propiedades hereditarias”, haciéndote sentir que has obtenido una buena oferta.

---

3. Calculando los errores de estos tres “gastos innecesarios”: Bloomberg, microajuste y despliegue privado

Veamos algunos casos reales para ver dónde se pierde el dinero con estos productos.

**Primer caso: El sueño de entrenamiento desde cero de Bloomberg**

  • Contexto: Bloomberg tiene los mejores datos financieros del mundo. En 2023, gastó mucho dinero (1,3 millones de horas de GPU y más de 500 tarjetas gráficas de alta gama durante 53 días) para entrenar un modelo con 50 mil millones de parámetros.
  • Resultado: Tres años después, los ejecutivos de Bloomberg admitieron que ese modelo era solo un “modelo de investigación” y nunca se utilizó en ningún producto.
  • Razón: Los parámetros se congelaron en el momento del entrenamiento, mientras que los modelos genéricos se actualizan cada pocos meses. Tratar de mantener un modelo estático frente a uno en constante evolución es inútil.
  • Lección: Tener buenos recursos no significa poder superar a competidores que siguen avanzando. El entrenamiento desde cero es un juego para gigantes; los demás deberían evitarlo.

**Segundo caso: El “campo de minas” del microajuste**

  • Contexto: El microajuste parece barato y respetable; se puede hacer con una tarjeta gráfica en unos días.
  • Realidad: Una investigación de VentureBeat muestra que el 73% de los proyectos de microajuste fracasan o no se lanzan.
  • Problemas:

1. No se puede implementar en el entorno real: El 45% de las empresas se queda atascado en el desarrollo; el modelo funciona bien en el laboratorio, pero no en el entorno de producción.

2 Requisitos estrictos: Solo el 27% de los proyectos exitosos cumplen con requisitos de estabilidad, cantidad de datos y evaluación. Falta uno de estos y todo es en vano.

3 Instantáneas estáticas: El modelo es más inteligente el día del entrenamiento, pero cambia con el negocio y se convierte en un “activo obsoleto”. Reentrenarlo cuesta dinero.

**Tercer caso: El despliegue privado: “Rueda en vacío” y “seudo-soberanía”**

  • Contexto: El 82% de las empresas prefieren el despliegue privado por seguridad (los datos no salen).
  • Realidad:

1. Baja tasa de utilización: El promedio de utilización en los centros de computación inteligente es del 58.3%; en algunos lugares del oeste, es menos del 30%. El hardware funciona, pero el negocio no se desarrolla.

2 seudo-soberanía: Corea del Sur promueve la “soberanía AI”, exigiendo desarrollar modelos desde cero, pero NAVER fue desplazada por usar un codificador visual de Alibaba. Sin embargo, NAVER sigue siendo protagonista, y el costo lo pagó Nvidia.

3 Verdad: Lo que compras a menudo no es el modelo más inteligente, sino el que menos se mueve.

Conclusión: Estos gastos parecen buenos en la contabilidad, pero en realidad no aportan mucho valor y los recursos se desperdician.

---

4. ¿Por qué, a pesar de saber que son errores, seguimos comprando? (Humanidad y lógica laboral)

Si los cálculos son tan desfavorables, ¿por qué seguimos comprando? Porque se trata de una cuestión de responsabilidad y poder:

  • Desigualdad de responsabilidad: Si cometes un error, es una pérdida para la empresa; el jefe lamenta el dinero, pero normalmente no te despiden. Si no compras, asumes la responsabilidad de quedarte atrás. Nadie es despedido por comprar modelos, pero sí por no hacerlo.
  • Dilema del CIO: El 75% de los CIOs se arrepiente de sus compras de AI, pero fueron ellos quienes firmaron los contratos. El 30% tiene que explicar resultados de AI que no entienden. El 70% teme no poder demostrar el valor de las inversiones, lo que afecta el presupuesto y su posición.
  • Resultado: Comprar es una forma de cumplir con las expectativas; no comprar, convertirse en el culpable. Lo que compras por pánico al final solo trae más preocupación.

---

5. Cómo salir de este dilema: No compres “modelos”, construye “activos”

Para salir de esta situación, necesitas cambiar tu enfoque. Deja de preguntar “¿qué modelo es bueno?” y pregunta “¿dónde están mis activos?”.

**¿Qué deberíamos comprar? (Reglas para los productos?)**

1. Entrenamiento desde cero: Si no tienes un presupuesto de miles de millones ni un equipo de cientos de personas, ni siquiera pienses en ello.

2. Microajuste: Solo comienza si el proyecto es estable, tienes suficientes datos y puedes realizar evaluaciones adecuadas; de lo contrario, estás enviando dinero al “campo de minas”.

3. Despliegue privado: Considera el despliegue privado si los datos son sensibles (finanzas, gobierno, salud). Prioriza asegurar que los datos no salgan antes de pensar en la inteligencia del modelo.

4. Reglas generales: Si no puedes mantener un equipo de mantenimiento, no compras modelos; comprar un modelo solo representa la mitad del valor real; mantenerlo es lo que realmente importa.

**¿Qué deberíamos construir? (El núcleo de los activos?)**

El verdadero valor está en el contexto. Ve dos empresas que lo han hecho bien:

  • SAP (vende “memoria”): No vende modelos, sino “Company Memory” (los procesos, reglas y registros de aprobación de los clientes a lo largo de décadas). Esto ayuda al AI a entender las reglas antes de trabajar.
  • Palantir (vende la “esencia”): Su CEO dice: “En el asunto de los modelos, no tenemos nada que ver”. Venden la capa de aplicación sobre el modelo, es decir, la esencia del sistema.
  • Harvey (vende conocimiento especializado): Hacen AI legal sin entrenar modelos básicos; ganan al incorporar lenguaje legal, casos y procesos en su contexto.

Lista de acciones para tomar:

1. Para empresas con datos sensibles (finanzas, gobierno, salud): Comienza con un despliegue privado para cumplir con las regulaciones.

2. Para la mayoría de las empresas: Compra los modelos mejores, pero no ahorres en ellos (son productos que se desvalorizan). Usa el dinero y el esfuerzo en mejorar el contexto: organiza los datos, define claramente los parámetros y documenta las reglas.

3. Para empresas con datos abundantes, escenarios estables y equipos competentes: Puedes probar el microajuste, pero tratalo como un proyecto, no como una estrategia a largo plazo.

4. Aprovecha la experiencia de los expertos: ¿Por qué pagar más por un servicio si ese conocimiento no está documentado? Esa información es el verdadero activo. Saca ese conocimiento, documentalo e incorpóralo en el modelo.

Último consejo:

La potencia de cómputo se puede alquilar y los modelos se pueden comprar, pero los datos y los procesos son la inversión con el mayor retorno. Estos cambios no se anuncian en eventos ni se celebran con ceremonias; avanzan lentamente, pero son sólidos. Los modelos se desactualizan, pero el contexto permanece.

La próxima vez que alguien hable de “modelos propios”, no preguntes solo el precio; primero pregunta: “¿De qué tipo de activo estás hablando?”