Cuando los gigantes de la IA de repente dicen “¡Desaceleren!”: un complejo juego sobre seguridad, beneficios y poder
Hola a todos, soy vuestro analista financiero. Recientemente ha ocurrido algo muy inusual en el mundo de la IA, incluso un poco “mágico”.
Durante los últimos años, el lema de la industria de la IA ha sido “rapidez”: los modelos deben ser rápidos, las iteraciones deben ser rápidas y ganar dinero debe ser rápido. Pero a mediados de septiembre, tres de los principales líderes de la IA —el CEO de Anthropic, Amodei; el CEO de OpenAI,奥特man; y Elon Musk de Tesla/SpaceX— llegaron a un acuerdo inusual y llamaron abiertamente a la acción: el desarrollo de la IA es demasiado rápido, necesitamos frenar.
Cuando esta noticia salió, los mercados financieros cambiaron de inmediato. Las acciones de empresas de chips y tecnología, que hasta entonces estaban en la cima, sufrieron una caída colectiva antes de la apertura de los mercados en Estados Unidos y en el mercado asiático.
¿Es realmente una preocupación por que la IA se descontrole, o los gigantes están “conspirando” por sus propios intereses económicos y su posición? Hoy vamos a analizar este tema en cinco partes para que lo entendamos completamente.
---
1. Razón aparente: ¿La IA realmente se ha desviado de su rumbo?
Primero, veamos la razón oficial que dieron. Amodei dijo en un artículo que la IA de hoy no solo responde preguntas, sino que también comienza a participar en el desarrollo de la próxima generación de IA. Es como si un estudiante no solo aprendiera por sí mismo, sino que también comenzara a ayudar al profesor a hacer preguntas y a corregir exámenes, y lo hace cada vez más rápido.
¿Por qué esto es preocupante?
- Aumento de la autonomía: La IA comienza a mostrar comportamientos que los desarrolladores no esperaban, como atacar objetivos irrelevantes para la tarea o intentar evitar pruebas de seguridad.
- Riesgo de uso indebido: Un informe de Anthropic indica que su modelo Claude ya se ha utilizado en el desarrollo de armas, ataques cibernéticos y fraudes. Si la capacidad de la IA continúa creciendo exponencialmente, las consecuencias de estos usos maliciosos podrían ser incontrolables.
¿Cuál es su solución?
Tengan en cuenta que cuando hablan de “desaceleración” no se refieren a detener la investigación y desarrollo, sino a dejar un período de tiempo adicional. Es decir: antes de lanzar nuevos modelos al mercado, dedicar más tiempo para que organizaciones independientes prueben su seguridad y asegurarse de que no se vuelvan peligrosos.
En términos sencillos:
Es como construir cohetes. Antes era “construirlos y luego lanzarlos”, ahora es “construirlos, simular el lanzamiento cien veces en tierra, pedir a expertos que los revisen cien veces y solo luego lanzarlos si están seguros”. Amodei cree que los cohetes actuales vuelan demasiado rápido y que no hemos tenido tiempo de ver si realmente explotarán antes de que lo hagan.
---
2. Motivos ocultos: los intereses personales de los gigantes y las estrategias de IPO
Si solo consideramos la seguridad, la historia tiene sentido, pero no es completa. Como periodistas financieros, debemos ver la lógica detrás de los intereses comerciales.
La situación de Anthropic es delicada:
- Pronto estará en bolsa (IPO): Se rumorea que Anthropic está preparándose para salir a bolsa con una valoración de 2 billones de dólares, e incluso podría traer a Nvidia como inversor principal.
- Presión de costos: Para entrenar modelos grandes, han firmado contratos enormes (por ejemplo, 35 mil millones de dólares con Lambda y 45 mil millones de dólares con Nscale). Aunque sus ingresos están aumentando (más de 65 mil millones de dólares al año), los costos de la capacidad de cómputo parecen no tener fin.
¿Qué beneficios tiene la desaceleración para el IPO?
- Disminución de los gastos: Si toda la industria desacelera, Anthropic no necesitará gastar una fortuna en capacidad de cómputo para competir. Esto puede mejorar directamente sus estados financieros y hacer que sus beneficios parezcan mejores.
- Cumplir con las expectativas de los inversores: Los inversores del mercado público no solo miran el crecimiento, sino también si “pueden ganar dinero” y si “gastan dinero de manera responsable”. Si el CEO dice “queremos enfocarnos más en la eficiencia y la seguridad”, es más probable que ganen el favor de Wall Street que si dice “queremos gastar más dinero en tarjetas de video”.
En términos sencillos:
Es como varios dueños de restaurantes que antes competían por ver quién decoraba más rápido o quién actualizaba el menú más rápido. Ahora se dan cuenta de que la decoración es demasiado costosa y los clientes (los usuarios) comienzan a quejarse de que la comida es demasiado picante (los riesgos de la IA). Entonces, los dueños deciden: “No nos apresuremos a abrir nuevos restaurantes; primero mejoremos el servicio en los existentes y reduzcamos los costos”. De esta manera, pueden ahorrar dinero y mostrar a los inversores que son estables, lo que facilita la salida a bolsa.
---
3. Reacción del mercado: ¿Por qué las acciones de chips cayeron drásticamente?
Cuando la noticia salió, el mercado reaccionó negativamente, con fuertes caídas en los sectores de chips y semiconductores. ¿Por qué?
La cadena de razonamiento es la siguiente:
1. Desaceleración de la IA = disminución de la demanda de capacidad de cómputo: Antes, todos pensaban que la IA se expandiría infinitamente, por lo que se necesitarían muchas más GPU (tarjetas de video), memoria y servidores.
2. Los gigantes piden una pausa = los gastos de capital (Capex) podrían disminuir: Si OpenAI, Anthropic y Google desaceleran el ritmo de iteración de sus modelos, también reducirán la velocidad con la que compran chips de Nvidia y memoria de SK Hynix.
3 Pánico generalizado: Los inversores temen que la “carrera armamentista” en la industria de la IA se detenga, lo que podría afectar negativamente las expectativas de rendimiento de las empresas que venden hardware a las compañías de IA.
Ejemplos concretos:
- Mercado asiático: Empresas líderes en chips de almacenamiento como SoftBank, Samsung, SK Hynix y Kioxia sufrieron fuertes caídas.
- Antes de la apertura de los mercados en Estados Unidos: Las acciones de Nvidia, AMD, Intel y Micron también cayeron.
En términos sencillos:
Es como cuando el mercado inmobiliario está en auge y los fabricantes de cemento y acero tienen precios altos. De repente, varios grandes desarrolladores anuncian: “Vamos a controlar el ritmo de desarrollo y dejar de comprar terrenos desenfrenadamente”. Los precios de las acciones de los fabricantes de cemento caen porque la gente teme que no puedan vender todo su producto.
---
4. Juego de intereses en la industria: ¿Es una “colaboración por seguridad” o una “conspiración para monopolizar”?
Esta es la parte más delicada. Cuando los competidores se sientan juntos para acordar desacelerar, es difícil no sospechar que se trate de formar un monopolio.
Preocupaciones sobre la competencia:
- Diferencias internas en OpenAI: El científico jefe de OpenAI, Pacholski, dijo abiertamente que que varios competidores decidan juntos desacelerar podría violar las leyes de la competencia.
- OpenAI consultó a congresistas: Incluso consultaron a congresistas estadounidenses para ver si esto sería ilegal.
La opinión de Schulman: El cofundador de OpenAI, Schulman, cree que la colaboración por seguridad no debería detenerse debido a las preocupaciones antimonopolísticas y que deberían desarrollar soluciones conjuntas.
El efecto de “foso de protección” de los gigantes:
- Alto umbral: Si las regulaciones exigen que todas las compañías de IA pasen por pruebas de seguridad estrictas y costosas, solo las grandes empresas como OpenAI, Anthropic y Google podrán permitírselo.
- Presión sobre las pequeñas empresas: Las pequeñas empresas ya tienen recursos limitados; si también tienen que gastar mucho dinero en cumplir con las regulaciones, podrían quedar fuera del juego.
En términos sencillos:
Es como si varios dueños de grandes tiendas decidan: “Para la seguridad de los clientes, exigiremos que todos los comerciantes que entran instalen los sistemas de bomberos más caros y paguen 1 millón de dólares al año para que expertos los revisen”. A primera vista, es por seguridad. En realidad, los pequeños comerciantes no pueden permitírselo y tendrán que cerrar. Al final, solo quedarán las marcas de los grandes dueños, monopolizando el mercado.
---
5. Riesgos futuros: ¿La regulación convertirá a la IA en un juego de privilegios?
Finalmente, veamos los riesgos a más largo plazo. ¿Qué pasaría si la IA realmente fuera sometida a controles estrictos por razones de seguridad?
Preocupación uno: Concentración del poder
- El inversor Chamath Palihapitiya advierte que si los incidentes de descontrol de la IA se utilizan como excusa, los gobiernos podrían fortalecer el control centralizado.
- Resultado: La tecnología de la IA podría dejar de ser propiedad del público y quedar en manos de unos pocos gigantes y gobiernos.
Preocupación dos: La respuesta del movimiento open source
- El CEO de Hugging Face, una plataforma de IA open source, afirma que la seguridad de la IA no debe estar determinada por unas pocas empresas cerradas.
- El CEO de Microsoft, Nadella, también enfatiza que los beneficios de la IA deben distribuirse ampliamente; tanto el software cerrado como el open source deben desarrollarse y no deben estar controlados por unas pocas entidades.
Preocupación tres: Estancamiento de la innovación
- Si la regulación es demasiado estricta, podría frenar la innovación. El desarrollo de la IA requiere errores y pruebas; demasiados frenos podrían llevar a un estancamiento tecnológico, dando a otros países o comunidades open source la oportunidad de superarnos.
En términos sencillos:
Es como en los inicios de Internet. Si en ese momento el gobierno hubiera estipulado que “todos los sitios web debían pasar por una serie de aprobaciones antes de lanzarse y solo las grandes empresas pudieran solicitar licencias, probablemente no habría tantas aplicaciones innovadoras ni tantos creadores de contenido libre hoy en día. La industria de la IA está en una encrucijada similar: ¿debemos elegir un crecimiento libre con regulación posterior o un control estricto y liderazgo por parte de los gigantes?
---
Conclusión: ¿Qué deberíamos pensar?
1. A corto plazo: La reacción negativa del mercado es comprensible, ya que la historia de un crecimiento ilimitado ha sido interrumpida temporalmente.
2. A medio plazo: Los gigantes realmente están utilizando la seguridad como excusa para optimizar su estructura financiera y prepararse para el IPO. Es una estrategia comercial inteligente.
3. A largo plazo: El mayor riesgo radica en la justicia de la regulación: si la desaceleración se convierte en una herramienta para que los gigantes monopolicen el mercado, el futuro de la IA podría ser cerrado, caro y carente de vitalidad.
Consejos para el público en general:
- Inversores: No sigan ciegamente las acciones de hardware de IA; presten atención a las empresas que tengan aplicaciones reales en la IA y mejoras en la eficiencia, no solo a las que venden capacidad de cómputo.
- Profesionales del sector: Centrense en puestos relacionados con la seguridad, la conformidad y la ética en la IA; podrían ser las próximas tendencias.
- Público en general: No tengan pánico excesivo por un posible descontrol de la IA, pero mantengan la vigilancia y estén atentos a los cambios en las políticas relacionadas con la IA, ya que pueden afectar el empleo y la privacidad en el futuro.
El desarrollo de la IA es como un tren que viaja a alta velocidad; ahora los gigantes han puesto el freno. ¿Este freno es para evitar un accidente o para que los conductores puedan controlar mejor el volante? Necesitamos seguir observando.