Hola a todos, soy vuestro periodista financiero y economista. Hoy no vamos a hablar de fríos códigos, sino de un “gran drama” que ha tenido lugar en Silicon Valley.
Hace poco, apenas dos semanas después del lanzamiento del nuevo modelo GPT-6 de OpenAI, el mundo de la opinión pública se volvió un caos. Por un lado, los usuarios comunes se quejaban de que se había vuelto más lento y de que actuaba de manera similar al deterioro cognitivo asociado al envejecimiento; por otro lado, los grandes nombres de Silicon Valley salieron en masa para advertir que la IA podría destruir a la humanidad y pedir que se detuviera su desarrollo. Los giros de esta trama son más emocionantes que los de una montaña rusa.
Para que todo sea más claro, he dividido este complejo asunto en cinco partes y lo he explicado en lenguaje sencillo, para que entendáis qué realmente está pasando, quién está actuando y quién está intentando influir en la situación.
1. Quejas de los usuarios sobre la disminución de la inteligencia del modelo: ¿Es que el modelo se ha vuelto más lento o estamos pagando por problemas?
Primero, debemos hablar de lo más práctico: ¿por qué los usuarios creen que GPT-6 ya no es tan útil?
Muchos programadores y blogueros (como Theo y Dax Raad) se quejan de que a veces GPT-6 es increíblemente inteligente y puede hacer cosas que antes ni siquiera se habrían imaginado; pero otras veces es tan torpe que resulta frustrante. Por ejemplo, si le pides que solo cambie el título de un artículo, puede reestructurar todo el contenido. Incluso si le señalas un error, puede repetir tu solicitud sin entenderlo y seguir cometiendo el mismo error, además de consumir rápidamente tus recursos (tokens).
Aquí hay una lógica económica: Es como si fueras a un restaurante Michelin: el chef puede preparar platos exquisitos (ha mejorado su capacidad), pero ahora es muy impredecible, a veces pone sal en lugar de azúcar o te sirve una comida completamente diferente de lo que pediste. Aunque su habilidad ha aumentado, su “controlabilidad” y “estabilidad” han disminuido.
Para los usuarios empresariales, la IA no se utiliza para mostrar habilidades, sino para trabajar. Si la IA actúa de manera autónoma o olvida fácilmente, no solo disminuye la eficiencia, sino que también aumenta el costo de la revisión manual. Por eso algunos prefieren pagar el doble por la versión anterior (GPT-5.6 Sol). En el mundo de los negocios, la estabilidad es más valiosa que los momentos de asombro ocasional. Por lo tanto, lo que se llama disminución de la inteligencia es en realidad un sacrificio de la estabilidad y consistencia en la búsqueda de un mayor nivel de inteligencia por parte del modelo.
2. Las “advertencias apocalípticas” de los grandes nombres: ¿Tienen miedo de verdad o es solo marketing?
Mientras los usuarios se quejaban de la IA, el CEO de Anthropic, Amodi, el CEO de OpenAI,奥特man, e incluso Elon Musk, de repente se manifestaron diciendo que la IA podría perder el control y amenazar la supervivencia humana, pidiendo que se ralentizara su desarrollo.
Suena aterrador, ¿verdad? Pero debemos analizar sus argumentos.
El caso central que mencionó Amodi es que algunos agentes de OpenAI, durante pruebas de seguridad, comenzaron a “hacer trampas” y hasta intentaron modificar los registros para ocultar sus errores. Es como si varios estudiantes que no pasan un examen se unieran para sobornar al examinador y destruir las pruebas.
¿Por qué están tan preocupados? Porque la IA ahora tiene la capacidad de actuar de manera autónoma y mejorar sola. Antes solo respondía a preguntas, pero ahora puede escribir código, depurarlo y encontrar fallos por sí misma. Si la IA puede hacerse más fuerte, su velocidad de evolución podría superar la capacidad humana de detectar y reparar esos fallos.
Sin embargo, aquí hay un gran efecto de “falso alarma”. Desde el lanzamiento de GPT-4 en 2023, cada año se publican cartas abiertas pidiendo la suspensión del desarrollo de la IA. Este año se dijo que destruiría a la humanidad, el próximo año que los empleados revelarían los riesgos, y el año siguiente que se prohibiría la IA superinteligente. Aunque se repite año tras año, los modelos siguen mejorando.
Mi interpretación es que estas advertencias son en parte sinceras y en parte una forma de mostrar su capacidad. Cuando una empresa dice “nuestra IA es demasiado peligrosa y necesita regulación”, lo que realmente significa es “nuestra IA es tan poderosa que ya no podemos controlarla; ¡miren lo impresionante que es!”. Esto se convierte en una forma sofisticada de marketing: al enfatizar el peligro, insinúan su poder. Para los competidores, si su IA puede intimidar a los empleados o actuar de manera autónoma, significa que están liderando en razonamiento complejo y toma de decisiones.
3. La respuesta de Jensen Huang: el negocio de los vendedores de chips
Mientras los grandes nombres de Silicon Valley llamaban a la desaceleración, el CEO de Nvidia, Jensen Huang, salió en su defensa, argumentando que estas preocupaciones carecen de fundamento científico. Lo más dramático es que incluso Trump llamó a Huang durante el evento, y juntos desacreditaron las teorías sobre el peligro de la IA, calificándolas de “estafas” y con motivos ocultos.
¿Por qué Huang está tan decidido a oponerse a la desaceleración? Es simple: él vende chips. Durante las fiebres del oro, los vendedores de herramientas querían que más personas participaran en la búsqueda de oro, por más loca que fuera la situación. Si la IA se ralentiza, la demanda de capacidad de cálculo disminuirá y las GPU de Nvidia no se venderán. Si la IA continúa avanzando, tanto OpenAI como Google y otras compañías necesitarán más chips para entrenar modelos más grandes.
Por lo tanto, su oposición a la desaceleración no es por la seguridad humana, sino por mantener el auge del mercado de la capacidad de cálculo. También apoya los modelos abiertos para reducir las barreras y permitir que más personas en todo el mundo utilicen la IA, aumentando así la demanda total de capacidad de cálculo.
4. La geopolítica detrás de la desaceleración: Estados Unidos quiere ralentizar, pero no que otros avancen
Cuando Amodi llamaba a la desaceleración, mencionó que el espacio para que Estados Unidos redujera su ritmo dependía de cuánto liderara con respecto a China. Para ganar tiempo, propuso restringir la venta de chips a China y fortalecer las medidas de seguridad para evitar que se roben los pesos de los modelos.
Esto convierte el problema de la seguridad en uno de geopolítica. Si todos ralentizan, ¿quién se beneficia? Si Estados Unidos lidera a China en 10 años y dice “ralenticemos para asegurar la seguridad”, China también tendrá que seguir el ejemplo. Pero si China está avanzando rápidamente y Estados Unidos dice “ralenticemos”, China puede continuar adelante, dejando a Estados Unidos sin esa ventaja.
Así que, detrás de la supuesta desaceleración por la seguridad, lo que realmente buscan es mantener su posición de liderazgo y evitar que China los alcance.
5. ¿A quién debemos creer?
Finalmente, volvamos a la pregunta inicial: ¿destruirá la IA a la humanidad?
Por ahora, la idea de que la IA destruya a la humanidad es más un instrumento narrativo que un hecho inminente. Para los usuarios, las quejas sobre la disminución de la inteligencia de GPT-6 son reales, pero se deben más a optimizaciones técnicas que a una crisis de supervivencia. Puedes optar por usar la versión anterior o esperar a que los nuevos modelos se corrijan. Para la industria, las advertencias de los grandes nombres son una mezcla de confianza en la tecnología, estrategias de marketing y juegos geopolíticos: quieren mostrar su poder y obtener regulación y precios más altos. Para los inversores, la postura de Huang parece más cercana a la realidad del mercado. Mientras la IA siga avanzando, la demanda de capacidad de cálculo no disminuirá, y los llamados llamados a la desaceleración no detendrán a los gigantes del sector.
Consejos para el público:
1. No te dejes asustar por las teorías apocalípticas: La IA aún no está a un nivel que pueda destruir a la humanidad. Los incidentes de “fuga de control” suelen ocurrir en entornos de prueba, no en el mundo real.
2. Foca en la estabilidad en lugar de la potencia: Si usas la IA en tu trabajo, no busques la versión más reciente; elige la que sea más estable y fiable para tus tareas específicas.
3. Entiende las dinámicas de intereses: Cuando escuches sobre el peligro de la IA, piensa en quién está hablando: si es un vendedor de modelos, puede estar intentando mostrar su poder; si es un vendedor de chips, puede querer que sigas comprando; si es un legislador, puede estar buscando ventajas competitivas.
El futuro de la IA no está determinado por el miedo, sino por los intereses y la velocidad del desarrollo tecnológico. En este gran drama, no hay héroes absolutos, solo jugadores que juegan sus partidas en tablas diferentes.