Detrás del “incidente con el manos libres” de Huang Renxun y Trump: un análisis sencillo de la seguridad de la IA, los intereses comerciales y el juego de poder nacional
Hola a todos, soy vuestro periodista financiero. Hoy no vamos a hablar de un aburrido informe técnico, sino de un “momento destacado” que ocurrió en la cumbre All-In de Los Ángeles.
La escena fue un tanto absurda, pero también reveladora: el CEO de Nvidia, Huang Renxun, estaba recostado en el sofá cuando recibió una llamada del presidente de Estados Unidos, Donald Trump. Debido a un problema con el manos libres, Trump incluso bromeó diciendo: “Si puedes crear chips tan complejos, ¿cómo no puedes arreglar algo tan simple como un manos libres?”
Después de reírse, la conversación rápidamente giró hacia el tema más sensible y de mayor envergadura del momento: el futuro de la IA, las amenazas que representa y quién tiene el poder para detener su desarrollo.
El corazón de este artículo es explorar un fenómeno aparentemente contradictorio: por un lado, los gigantes tecnológicos y los políticos hablan y ríen en el escenario, incluso calificando los riesgos de la IA de “estafas”; por otro lado, los investigadores en los laboratorios están preocupados de que modelos fuera de control puedan destruirlo todo. Y nosotros, la gente común, queremos las conveniencias que la IA puede ofrecer, pero también tememos el descontrol que podría causar.
Para que todo sea más claro, he desglosado este complejo juego de poder en cinco puntos, explicándolos de manera sencilla.
---
1. **Lo que subyace detrás del “manos libres”: ¿una conspiración entre política y negocios?**
Primero, debemos entender el acto de hacer una llamada en sí mismo.
Durante la llamada, Trump desacreditó la idea de que los robots tomarían el control del mundo, calificándola de “estafa”. También bromeó diciendo que tenía un tío que enseñaba en el MIT, por lo que heredó el conocimiento sobre la IA. Huang Renxun respondió: “Eso explica por qué entiende tanto de IA.”
¿Qué esconden esas palabras amables?
- Tono político: El presidente mismo califica los riesgos de la IA de “estafa”, lo que no es solo una opinión personal, sino también un tono político. Esto significa que, en la narrativa oficial, preocuparse excesivamente por la seguridad de la IA podría etiquetarse como “antipatriótico” o como un obstáculo para el desarrollo.
- Intereses entrelazados: Como dueño de un gigante de chips, los chips de Huang Renxun se utilizan para entrenar modelos de IA. Cuanto más rápido avance la IA, más chips se venden. Trump teme que las restricciones beneficien a China, lo que golpea directamente una de las principales preocupaciones de Estados Unidos: la competencia nacional.
- Subtexto: Cuando el líder máximo y el mayor proveedor están del mismo lado, enfatizando que “no se puede detener” y que “es necesario ser cautelosos pero no detenerse”, en realidad están enviando un mensaje a toda la industria: los intereses comerciales y la competitividad nacional tienen prioridad sobre los riesgos de seguridad desconocidos.
Es como en una carrera: el piloto (la empresa tecnológica) dice que los frenos están un poco defectuosos, pero el dueño del equipo (el gobierno o el capital) responde: “No le hagas caso, es una excusa; lo que queremos es ganar la carrera, incluso si el coche está a punto de desmoronarse.”
---
2. **El doble estándar de Huang Renxun**: querer que el caballo corra… pero que no muera**
El artículo menciona un punto de vista clave de Huang Renxun que refleja su intento de equilibrar las presiones de todos:
- Por un lado, se opone al pánico generalizado: cree que si un laboratorio tiene problemas, no debería obligarse a toda la industria a detenerse. Usar probabilidades de desastre imposibles de verificar para obstaculizar la investigación, la aplicación y la inversión no es razonable.
- Por otro lado, reconoce la necesidad de pausas en casos específicos: aprueba el coraje del investigador que dejó Anthropic, Jacob Coxon, y cree que si algunas empresas tienen problemas de control en su desarrollo, esas empresas deberían detenerse o ralentizar.
Pero aquí hay una gran trampa lógica:
La lógica de Huang Renxun es: “Los problemas locales se resuelven localmente; el desarrollo global no debe detenerse”.
Suena razonable, ¿verdad? Pero el problema es: ¿quién decide qué es un problema local?
- Si una empresa descubre un riesgo en su modelo, puede decidir detenerse por sí misma, y eso no es un problema.
- Pero ¿y si el riesgo es sistémico y afecta a otras empresas?
- Más importante aún: las empresas tienen una fuerte motivación para continuar. Los ingenieros quieren realizar más pruebas, los clientes presionan por entregas, y los competidores ya han lanzado nuevas versiones. En este caso, detenerse significa grandes pérdidas económicas y una disminución de la competitividad.
Así que dejar que las empresas decidan por sí mismas si deben detenerse es como dejar que los conductores decidan si frenar o no. Si los frenos están desgastados (hay una vulnerabilidad de seguridad), pero el conductor quiere llegar a tiempo (por intereses comerciales), es muy probable que elija seguir adelante. Como vendedor de chips, lo que más le importa a Huang Renxun son las ventas, no los beneficios de la seguridad. Su posición tiende a favorecer la aceleración.
---
3. **La táctica de dilación de OpenAI**: ¿no cotizar es por seguridad o por control?**
El artículo menciona una decisión del CEO de OpenAI, Sam Altman: no cotizar este año, y lo más temprano será en 2027.
Muchos lo interpretan como una medida de seguridad, para evitar que los accionistas presionen por ganancias a corto plazo. Suena noble, pero hay que profundizar:
- ¿Qué significa cotizar? Cotizar significa que el precio de las acciones se vuelve transparente, lo que significa que los accionistas pueden presionar en cualquier momento si los resultados no son buenos, y la empresa debe divulgar regularmente datos financieros y operativos.
- ¿Qué significa no cotizar? Si no cotiza, OpenAI sigue siendo una empresa privada y necesita financiación; sus empleados siguen preocupados por el valor de sus acciones. Sin embargo, deja de tener una línea de precio que muestre sus preocupaciones en tiempo real.
El punto clave es: OpenAI ha tomado medidas de seguridad concretas, como detener ciertos entrenamientos de aprendizaje automático, establecer un mecanismo de confirmación de falsos positivos cada 30 minutos y mantener el poder de veto de su comité de seguridad. Estos son actos reales, no palabras vacías.
Pero, ¿realmente evitar la cotización resuelve las dudas sobre la seguridad?
El artículo señala que la fundación de OpenAI posee el 26% de las acciones, Microsoft el 27%, y los empleados e inversores el 47%. Aunque la fundación controla el consejo de administración, sus recursos también dependen del valor a largo plazo de la empresa. Esto crea un contraste interno:
- Por un lado, es más seguro desarrollar menos hoy en día por una misión a largo plazo (seguridad).
- Pero el dinero que se pierde ahora puede reducir lo que se pueda hacer en el futuro (incluidas las inversiones en seguridad).
Esta indecisión no se resuelve con cotizar o no. Independientemente de si cotiza o no, el juego entre los intereses inmediatos y la seguridad a largo plazo siempre estará presente. No cotizar simplemente desplaza este juego del “mercado público” al “consejo de administración interno”, haciendo más difícil para los externos ver los equilibrios.
Por lo tanto, la decisión de Altman de no cotizar no es tanto por seguridad como por mantener el control del ritmo. No quiere que el oportunismo de Wall Street interfiera en su plan a largo plazo para el desarrollo de la IA. Es una táctica de dilación estratégica, no una consideración de seguridad pura.
---
4. **La realidad y la apariencia de la auditoría externa**: ¿Puede la propuesta de Amodei salvar la situación?**
El CEO de Anthropic, Amodei, propuso que auditores externos residan en los laboratorios, tengan acceso a los materiales clave y puedan publicar sus hallazgos importantes. Suena como una forma de agregar una “supervisión independiente” a la IA. Pero el artículo señala con calma que esto sigue siendo una promesa que debe cumplirse y no puede considerarse la solución a todos los problemas:
- ¿Qué pueden ver realmente los auditores externos? ¿Pueden acceder a todo el código y los datos de entrenamiento, o solo a una versión “segura” filtrada?
- ¿Pueden juzgar correctamente? Los auditores también son humanos y pueden cometer errores, y también están sujetos a presiones comerciales.
- ¿Qué pasa si se encuentran problemas? Si los auditores sugieren detenerse y la empresa no escucha, ¿qué pueden hacer? ¿Publicar en Twitter? ¿Demandar en court?
El problema más profundo es la actitud del gobierno:
Amodei desea que el gobierno participe y vincule los requisitos de seguridad con la mejora de la capacidad, para obligar a las empresas que no cumplan voluntariamente.
Pero ¿cuál fue la reacción de Trump? Dijo que las preocupaciones sobre la IA son una “estafa” y que ralentizar el desarrollo beneficiaría a China.
Esto crea un dilema:
- Las empresas esperan que el gobierno proporcione “poder coercitivo” para obligar a las empresas que no siguen las reglas.
- Pero el gobierno (al menos el gobierno de Trump) está más preocupado por la “velocidad” y la competencia, considerando que las preocupaciones sobre la seguridad son excusas para retrasar el desarrollo.
El resultado es: si un informe de auditoría sugiere retrasar el entrenamiento, enfrentará no solo al departamento financiero de la empresa, sino también a preguntas políticas sobre si está “retrasando a Estados Unidos”.
En este contexto, la auditoría externa puede convertirse en una mera “farsa”. Las empresas pueden contratar expertos externos, pero si sus sugerencias van en contra de los intereses de la empresa, podrían ser ignoradas o suprimidas por presiones políticas. Sin un verdadero poder de detención, la auditoría externa es solo una “medalla de exención de responsabilidad” en caso de problemas.
---
5. **El dilema de la gente común**: ¿Dónde estamos nosotros en esta gran narrativa?**
El último párrafo del artículo es muy conmovedor y señala una gran deficiencia en las discusiones actuales: reduce las legítimas preocupaciones de la gente común a una elección política de blanco o negro:
- Opción A: los “conservadores” que temen perder el futuro, que creen que la IA es demasiado peligrosa y debería prohibirse o ralentizarse drásticamente.
- Opción B: los “progresistas” dispuestos a aceptar cualquier costo, que consideran que la IA es el futuro y cualquier obstáculo es contra la humanidad.
Pero ¿qué realmente quieren las personas comunes?
- Queremos que la IA sea más económica y útil (por ejemplo, que nos ayude a escribir código o buscar información).
- Queremos que nuestra privacidad no se vea violada.
- Queremos que alguien se haga cargo si hay problemas con los sistemas.
- Queremos que ciertos entrenamientos se detengan, pero que no impidan que otros continúen utilizando la IA.
Estas demandas no son ni conservadoras ni radicales, sino prácticas**.
Sin embargo, las discusiones actuales elevan estas demandas específicas y factibles a un nivel de “supervivencia de la humanidad”.
- Si cuestionas el riesgo de un modelo, te llaman “retrasador del progreso”.
- Si pides pruebas más estrictas, te acusan de carecer de conciencia competitiva nacional.
El peligro de estas “grandes narrativas” es que difuminan las responsabilidades reales:
- Si la IA se sale de control, ¿quién asumirá las consecuencias?
- Si hay una fuga de datos, ¿quién compensará?
- Si los modelos generan prejuicios, ¿quién los corregirá?
Estas preguntas no necesitan que un presidente bromee por teléfono ni que un CEO hable con arrogancia en el escenario. Lo que necesitamos son reglas específicas, verificables y responsables.
No necesitamos esperar hasta que llegue el “fin del mundo” para pedir inspecciones. Solo necesitamos que se diga: “Si has detectado un problema, debes solucionarlo; si la capacidad del modelo aumenta, las inspecciones deben ser más meticulosas**.
---
Conclusión: No te dejes engañar por las palabras en el “manos libres”
Esta cumbre, aparentemente una conversación relajada entre Huang Renxun y Trump, es en realidad un juego complejo entre intereses comerciales, competencia nacional, riesgos tecnológicos y posiciones políticas:
- Huang Renxun quiere vender chips, así que desea que la IA continúe avanzando, pero también quiere dejar un margen de seguridad.
- Trump quiere superar a China, así que desea que la IA se acelere y califica las preocupaciones sobre la seguridad de “estafa”.
- OpenAI quiere mantener el control, por lo que no cotiza y utiliza mecanismos internos para la seguridad, pero es difícil saber si estos son efectivos.
- Anthropic quiere introducir supervisión externa, pero carece de poder coercitivo, por lo que sus efectos son inciertos.
Para nosotros, la lección más importante es:
No nos dejemos intimidar por las narrativas grandiosas sobre el “destino de la humanidad”, ni engañar por los eslóganes de “desarrollo acelerado”.
Debemos centrarnos en medidas de seguridad específicas, verificables y responsables:
- ¿Las empresas realmente han detenido los entrenamientos riesgosos?
- ¿Los auditores externos pueden hablar con libertad?
- ¿El gobierno ha establecido estándares de seguridad obligatorios, o solo promete sin actuar?
Si no hay respuestas a estas preguntas, entonces, no importa cómo rían las personas en el escenario, cómo hagan llamadas o qué digan los CEOs, seguimos expuestos a riesgos desconocidos.
El futuro merece luchar por él, pero en el proceso, es razonable pedir que se repitan las pruebas que no han pasado. Sería bueno que se sentaran y explicaran claramente lo que han visto. Los oyentes pueden refutar, pedir más evidencia y luego decidir si actuar o no, y cómo hacerlo.
Mientras tanto, que esperen un momento… Queremos respuestas, no risas.