Resumen del contenido principal
Recientemente, ha estallado un gran evento en el mundo de la IA que ha generado más de 100 millones de visitas: en los últimos 4 días, siete investigadores clave de tres de las instituciones más destacadas en IA a nivel mundial (OpenAI, Anthropic y Google DeepMind, de las cuales la mitad ocupan puestos clave relacionados con la seguridad de la IA) han hablado públicamente, afirmando que los superinteligentes artificiales capaces de autoiterar y mejorar podrían representar una amenaza para la supervivencia de la humanidad antes de 2030, e incluso podrían llevar directamente a la extinción de la especie. Coxon, el investigador de Anthropic que lideró estas declaraciones, renunció voluntariamente a una importante participación accionaria de la empresa que estaba a solo dos meses de obtener, perdiendo así millones de beneficios, para decir la verdad y desacreditar completamente las acusaciones de que su objetivo era inflar el precio de las acciones de la empresa con el fin de atraer más atención. Estas declaraciones no son simples chismes del sector, sino que revelan una situación compleja y conflictiva que ha estado oculta durante mucho tiempo en el mundo de la IA: el grupo de personas que mejor entienden la IA teme que las tecnologías que están creando puedan destruir la humanidad, pero al mismo tiempo no pueden detener su investigación y desarrollo. Esto evidencia un grave problema en los mecanismos de incentivo del sector y también nos recuerda a todos que no necesitamos oscilarnos entre los extremos de la “deificación de la IA” y el “fin del mundo por la IA”; ahora es el momento de reclamar nuestro derecho a participar en la definición del futuro de esta tecnología.
---
Desglose detallado de la noticia
1. Esta alerta sobre la IA no es una táctica de marketing habitual
Anteriormente, cuando las empresas de IA anunciaban que sus tecnologías eran peligrosas, la reacción común era una forma de autopromoción: “Miren cuán avanzada es nuestra tecnología, ¡pueden destruir el mundo! Compren nuestros servicios o inviertan en nuestras acciones”. Pero esta vez es completamente diferente:
- Coxon, el autor de las revelaciones, renunció voluntariamente a su participación accionaria, lo que indica que no tenía ningún interés en beneficiarse inflando el valor de la empresa;
- Entre los siete investigadores que hablaron, hay quienes están a cargo de la supervisión escalable y de la ciencia de la alineación en Anthropic, es decir, personas encargadas de prevenir que la IA se descontrole. Es como si los ingenieros clave que desarrollaron las bombas atómicas salieran y dijeran: “Lo que estamos creando realmente podría destruir el planeta”; no se trata de rumores de aficionados;
- El antiguo chiste de Silicon Valley que decía que los empleados de la IA dejan el trabajo para escribir poesía y pasar tiempo con sus familias era una broma que se refería a la alta presión y los riesgos excesivos del sector, pero ahora se ha convertido en realidad, lo que demuestra que el pánico en el sector ya es incontrolable.
2. El paradoja más absurda del sector: las personas que temen la extinción por la IA están impulsando su rápido desarrollo
Muchas personas se sienten confundidas al leer esta noticia: si saben que la IA podría destruir la humanidad, ¿por qué no dejan de trabajar y en cambio siguen desarrollándola? En realidad, no se trata de hipocresía, sino de que todo el sector está atrapado en un círculo vicioso del que nadie puede escapar:
La lógica de las principales empresas de IA es la misma: si nos detenemos, las empresas más deshonestas y que no se preocupan por la seguridad desarrollarán superinteligentes artificiales primero, lo que sería aún más peligroso. Por lo tanto, tenemos que ser más rápidos que todos para garantizar la seguridad. Como resultado, cada empresa utiliza la excusa de que su liderazgo es para proteger a la humanidad, pero este comportamiento solo acelera el ritmo del desarrollo de la IA, y nadie se atreve a frenar. Al final, las empresas se benefician de todo el proceso, mientras que las consecuencias negativas recaen sobre toda la humanidad. No es realista esperar que los profesionales actúen con conciencia.
3. No dejarse llevar por el “relato del fin del mundo”: los daños causados por la IA son más reales que los peligros futuros
Muchas personas se sienten asustadas o piensan que estas declaraciones son exageradas, pero no es necesario. El debate actual sobre si la IA destruirá a la humanidad en 10 años oculta un efecto secundario importante: cuando todos se centran en este peligro lejano, ignoran los daños que la IA ya está causando en la vida cotidiana: las estafas relacionadas con la IA han arruinado a muchas personas, las entrevistas de trabajo basadas en la IA están eliminando oportunidades para muchos trabajadores, y las pocas empresas líderes en la IA controlan más datos y poder que muchos países. Estos daños ya están ocurriendo sin que la IA tenga que actuar de manera deliberada.
Lo peor es que si el público concentra toda su atención en el “peligro futuro”, se crea una situación en la que solo las empresas que desarrollan la IA podrían definir sus propios riesgos, lo que las deja sin poder intervenir y fortalece su poder.
4. Nosotros, las personas comunes, no necesitamos tomar partido; solo debemos reclamar tres derechos básicos
La opinión pública a menudo nos empuja a extremos: o pensamos que estos investigadores son estafadores que buscan aumentar el precio de las acciones, o creemos que la IA destruirá pronto y deberíamos rendirnos. Pero no es necesario. Un estudio con más de 2700 destacados investigadores en IA a nivel mundial muestra que el 38% cree que hay al menos un 10% de posibilidad de que la IA cause la extinción de la humanidad, y el 70% considera que la inversión en la seguridad de la IA es insuficiente. Esto no es el producto de la imaginación de unos pocos locos, pero tampoco hay pruebas contundentes de que la extinción por la IA sea inevitable.
Nosotros, las personas comunes, no necesitamos entender los detalles técnicos de los modelos de IA; solo debemos exigir tres cosas con firmeza: primero, cuando las empresas lancen nuevos modelos poderosos, no deben hacerlo a su antojo; deben haber organismos independientes que verifiquen su seguridad. Segundo, si los empleados detectan riesgos relacionados con la IA, no deben ser silenciados por acuerdos de confidencialidad; deben existir canales seguros para denunciar estos problemas. Tercero, si la IA causa daños, las empresas deben asumir toda la responsabilidad.
Después de todo, nadie tiene el derecho a arriesgar el destino de la humanidad con el éxito de sus negocios, incluso si afirman que lo hacen por el bien de la humanidad.