Hola! Soy tu amigo periodista financiero y economista.
Este informe profundo escrito por Ian Duncan, titulado “Sex, AI, and the Apocalypse” (Sexo, IA y el Apocalipsis), parece una novela de terror que mezcla elementos de “Silicon Valley”, “El Padrino” y “La Matrix”. No se trata simplemente de discutir si la IA puede destruir a la humanidad, sino más bien de un análisis sociológico que desvela la capa de “racionalidad” brillante y atractiva del círculo de seguridad de IA en Silicon Valley, mostrando los intereses, emociones, creencias e incluso violencia que subyacen debajo.
Para que puedas comprender fácilmente este texto complejo, lo he dividido en resumenes clave y cinco interpretaciones detalladas.
---
📝 Resumen de contenido clave
En una frase:
En 2026, un destacado investigador de IA renuncia y advierte que la IA podría destruir a la humanidad, lo que causa conmoción mundial. Pero detrás de esto no hay solo una advertencia científica, sino un círculo elitista cerrado que ha existido durante más de 20 años y que ha evolucionado a partir de una subcultura del “racionalismo”. Este círculo ha construido un “imperio en la sombra” que intenta controlar el destino futuro de la IA a través de un sistema de pensamiento único (como novelas basadas en “Harry Potter”), redes sociales y relaciones sexuales complejas, un apoyo financiero masivo de multimillonarios como Peter Thiel, y una influencia política en el gobierno. El artículo cuestiona: ¿cómo podemos confiar en sus promesas de seguridad cuando el “salvador”, el “regulador”, el “inversor” y el “evaluador” son todos conocidos dentro del mismo círculo?
---
🔍 Interpretación detallada: cinco aspectos
1. Origen y creencias: de la “racionalidad” a la “nueva religión”
Interpretación sencilla: ¿cómo pasaron de ser personas inteligentes a convertirse en “creyentes”?
Todo comienza con Eliezer Yudkowsky, un niño genio pero extremadamente arrogante que creía ser el único que veía el riesgo de la destrucción por parte de la IA. Fundó el “Institute for the Study of Artificial Intelligence” (MIRI) y escribió una famosa novela basada en “Harry Potter” llamada “Harry Potter and the Path of Reason”.
- ¿Por qué “Harry Potter”? Porque el protagonista Harry es un genio rodeado de personas mediocres, lo que toca un punto débil de los geeks de Silicon Valley: se sienten inteligentes pero fuera de lugar.
- ¿En qué se ha convertido el “racionalismo”? Originalmente promovía “superar los prejuicios con la lógica”, pero luego se ha convertido en una forma de identidad: unirse a este círculo significa que has “superado la estupidez humana” y eres un “elegido”.
- Sentimiento de ritual: celebran un “Día del Solsticio de Invierno” secular, recitando textos y meditando con las luces apagadas. Cuando alguien comienza a tratar una hipótesis científica (el fin del mundo por la IA) con una devoción similar a la religiosa y cree que solo los miembros del círculo pueden entender esta “verdad”, la subcultura se ha transformado en algo similar a una religión.
💡 Comentario del periodista: Cuando un grupo comienza a dividir a los amigos en “nosotros” y “ellos” basándose en si son lo suficientemente racionales/inteligentes y utiliza rituales exclusivos para unir a sus miembros, ya ha dejado de lado el espíritu científico y ha entrado en el terreno de la fe.
2. Sociedad y emociones: una red de relaciones de la que es difícil escapar**
Interpretación sencilla: ¿por qué es tan difícil para ellos decir “no”? Porque sus colegas, jefes y parejas son la misma persona?
Esta es la parte más impactante del artículo. Las personas de este círculo están altamente concentradas en la región de la bahía, viven en el mismo edificio de apartamentos y son colegas, compañeros de piso, patrocinadores e incluso parejas sexuales.
- Poliamor y poder: Se menciona a una mujer llamada Aella, una figura líder en la comunidad que organizó fiestas con estricto control ideológico. Si no crees en el “aceleracionismo de la IA”, podrías no tener ni siquiera la oportunidad de acostarte con ella. El sexo se ha convertido en una prueba de lealtad y un “moneda social”.
- Secuestro emocional: Dado que la red social es muy pequeña, si cuestionas un punto de vista o rechazas una solicitud, podrías perder tu trabajo, tu hogar y a todos tus amigos. Esta estructura social de “todo o nada” hace que sea muy difícil mantener un pensamiento crítico independiente.
- Manipulación psicológica: El artículo revela que instituciones como el CFAR (Center for Applied Rationality) han realizado lo que se llama “depuración” de empleados, es decir, intervenciones psicológicas. Si te sientes ansioso o indeciso, se considera un “defecto mental” que necesita ser “corregido”.
💡 Comentario del periodista: En un entorno laboral normal, puedes odiar a tu jefe pero aún así encontrar amigos con quienes quejarte. Pero en este círculo, tu jefe, tu terapeuta, tu pareja y tu casero podrían ser la misma persona. Este fuerte vínculo entre intereses y emociones hace que la supervisión interna sea casi imposible.
3. Capital y política: el “negocio del fin del mundo” de los multimillonarios**
Interpretación sencilla: ¿quién está financiando esto? ¿A dónde va el dinero?
La investigación sobre la seguridad de la IA es muy costosa. ¿De dónde viene el dinero? Principalmente de multimillonarios de la tecnología como Peter Thiel.
- Los motivos de Thiel: Thiel no solo es un inversor, sino también un activista político radical. Financió a MIRI y a Curtis Yarvin, un bloguero que aboga por la abolición de la democracia y el establecimiento de un gobierno corporativo. Thiel cree que la democracia y la regulación tradicionales son obstáculos para el “Anticristo” y que solo una élite puede controlar la IA.
- Influencia política: Thiel financió la campaña de JD Vance, el actual vicepresidente, cuyos pensamientos están profundamente influenciados por Yarvin. Esto significa que los responsables de formular políticas de seguridad de la IA podrían ser aliados políticos de estos “teóricos del fin del mundo”.
- Conflictos de intereses: Thiel financia a quienes estudian cómo la IA puede destruir el mundo, pero también invierte en empresas que desarrollan las IA más poderosas (como Palantir y Anduril). Por un lado, teme que la IA se vuelva incontrolable; por otro, promueve su militarización y comercialización.
💡 Comentario del periodista: Este es un ejemplo típico de “captura reguladora” (Regulatory Capture). Cuando los financiadores, investigadores y formuladores de políticas provienen del mismo círculo y comparten el mismo punto de vista de “gobierno elitista”, la “seguridad” ya no sirve para proteger al público, sino para proteger los intereses y el poder de ese círculo.
4. Violencia y división: cuando la “racionalidad” lleva al extremo**
Interpretación sencilla: ¿es realmente este círculo tan “racional”? Mira los casos sangrientos que se mencionan en el artículo.
El artículo enumera casos impactantes que demuestran que no hay paz ni racionalidad dentro de este círculo, sino paranoia y violencia.
- El grupo Zizians: Un grupo extremista que se separó del movimiento racionalista. Creen en la “no negociación” y desarrollaron una teología distorsionada que sostiene que hay un “hemisferio malvado” en el cuerpo. Finalmente, este grupo estuvo involucrado en varios asesinatos, incluyendo el asesinato de su casero y policías.
- Colapso mental: Muchos exmiembros (“post-racionalistas”) han acusado abiertamente que este círculo ha destruido su salud mental, sumiéndolos en delirios y depresión.
- Limpieza interna: El círculo es muy cruel con los disidentes. Si no estás de acuerdo con la teoría del “fin del mundo por la IA” o el “aceleracionismo”, podrías ser marginado o incluso etiquetado como parte de una “guerra cognitiva”.
💡 Comentario del periodista: Si un grupo que se proclama racional y lógico tiene ramas extremistas que recurren al asesinato, entonces su lógica central debe tener grandes fallos. Este tipo de pensamiento binario de “blanco o negro” es característico de cultos y extremismos, no del espíritu científico.
5. La pregunta central: ¿quién supervisa a los “supervisores”?**
Interpretación sencilla: Si la IA realmente es peligrosa, ¿en quién debemos confiar?
El artículo termina con una pregunta importante: ¿es cierta la carta de renuncia de Jacob Coxon? ¿Está Anthropic realmente ocultando riesgos?
- Crisis de confianza: El autor señala que, debido al carácter cerrado de este círculo y a los conflictos de intereses, es difícil para el público determinar si sus advertencias provienen de la conciencia o de estrategias comerciales (como crear pánico para establecer barreras en la industria y permitir que solo los gigantes asuman los costos de cumplimiento, eliminando así a la competencia).
- Falta de instituciones: Las llamadas “evaluaciones de seguridad de la IA” suelen ser realizadas por los mismos laboratorios o por organizaciones sin ánimo de lucro estrechamente relacionadas con ellos (como METR). Es como si los “jugadores fueran también los árbitros”.
- El verdadero riesgo: El autor cree que, en lugar del miedo científico a que la IA destruya el mundo de repente, el riesgo real es que la IA sea monopolizada por una élite, convirtiéndose en una herramienta para controlar la sociedad, la política y la economía. Dado que la tecnología es demasiado compleja para que la gente común la entienda, la sociedad gradualmente acepta la idea de que “solo unos pocos entienden, por lo que solo ellos pueden tomar las decisiones”.
💡 Comentario del periodista: Eso es lo más aterrador. Si la seguridad de la IA se convierte en un “juego de privilegios” para una élite, incluso si la IA no destruye a la humanidad, la democracia, la libertad y la igualdad podrían ser retiradas en nombre de la “seguridad”.
---
📊 Resumen e inspiración
Este artículo no niega la tecnología de la IA ni la existencia de riesgos relacionados con ella. Nos advierte sobre:
1. Desconfiar del culto a los expertos: No confíes ciegamente en aquellos que se autodenominan los únicos que ven la verdad.
2. Prestar atención a las cadenas de intereses: ¿Quién está financiando estas investigaciones? ¿Quién está estableciendo los estándares? ¿Hay transferencias de intereses entre ellos?
3. Las instituciones son más fiables que los individuos: Necesitamos establecer mecanismos de supervisión independientes, transparentes y protegidos por la ley, en lugar de depender de la “conciencia moral” de un pequeño círculo.
Consejo para el público general:
Cuando escuches narrativas grandiosas como “la IA destruirá el mundo” o “solo nosotros podemos salvar el mundo”, pregúntate: “¿Quién lo dice? ¿Quién lo escucha? ¿Quién está financiando? ¿Quién se beneficia?” Mantener la duda y la independencia es la mejor arma contra el control de la información y el monopolio de la élite.