Resumen del contenido principal
Este artículo presenta un nuevo enfoque de seguridad denominado “integridad combativa”, que rompe con las limitaciones de la tradicional defensa pasiva. La seguridad tradicional considera que los peligros son eventos “anormales” que ocurren ocasionalmente, por lo que se busca bloquearlos construyendo muros, instalando cerraduras y estableciendo líneas de defensa. Sin embargo, la “integridad combativa” sostiene que el engaño, los conflictos, los errores y las diferencias de intereses son parte de la realidad. La seguridad de los sistemas no debe depender de “agentes perfectos” (personas o IA que siempre tengan razón), sino de diseñar estructuras confiables que permitan que los sistemas sigan funcionando de manera integral y normal incluso en medio de un constante enfrentamiento. En otras palabras, se trata de pasar de intentar mantener los peligros fuera a asegurarse de que el sistema no se derrumbe, incluso si estos están dentro.
Desglose detallado del texto
1. “La enfermedad de la ingenuidad” de la seguridad tradicional: pensar que los peligros están “afuera”
La lógica subyacente de la seguridad tradicional es que el mundo es en sí mismo normal: las personas buenas actúan según las reglas y los malos son entidades externas anormales. Por ejemplo, se construyen murallas para protegerse de los enemigos, se instalan firewalls contra los hackers y se realizan auditorías para evitar robos externos. Pero la realidad demuestra lo contrario:
- La quiebra de empresas a menudo se debe al abuso de poder por parte de ejecutivos internos (como el desvío de fondos);
- Las crisis financieras no son causadas por unos pocos malhechores, sino por decisiones que benefician a individuos a expensas del conjunto (como cuando todos toman préstamos para comprar casas, lo que eventualmente conduce a la explosión de burbujas económicas);
- Incluso el consumo impulsivo de uno mismo puede ser más perjudicial que los robos.
Pregunta clave: Los peligros no siempre están “afuera”; en realidad, se esconden dentro de los sistemas (la codicia humana, los errores de juicio y las vulnerabilidades organizativas). La defensa pasiva es como instalar puertas de seguridad en una casa sin controlar a quienes viven en ella; no protege realmente los riesgos más importantes.
2. El secreto del progreso civilizatorio: pasar de buscar “personas buenas” a construir “estructuras”
En la antigüedad, el gobierno se basaba en la esperanza de que los gobernantes fueran perfectos. Pero la historia demuestra que no existen personas perfectas (los emperadores pueden ser incompetentes y los ministros pueden corromperse). La inteligencia de los sistemas modernos radica en abandonar la idea de buscar individuos perfectos y en diseñar estructuras que funcionen incluso cuando las personas no lo son:
- Separación de poderes (legislativo, ejecutivo y judicial): incluso si el presidente intenta actuar de manera ilegal, el congreso puede vetarlo y los tribunales pueden condenarlo;
- Aprobación financiera en empresas: el CEO no puede gastar dinero a su antojo; hay controles internos que lo detienen;
- Control de riesgos en bancos: incluso los clientes habituales son sometidos a revisiones de crédito, ya que pueden necesitar dinero repentinamente.
Lógica clave: Los sistemas maduros no confían en la moralidad humana, sino que utilizan estructuras para limitar los efectos de los errores; incluso si las personas buenas cometen errores, el sistema no se derrumba.
3. Cambio en la visión del mundo: de “hacer frente a los riesgos” a “jugar juegos de estrategia”
Antes, los riesgos eran considerados algo estático (terremotos, caídas de servidores, etc.), pero ahora se trata de enfrentar situaciones dinámicas donde los adversarios ajustan sus acciones en respuesta a las nuestras:
- Si se implementan controles de reembolsos en una empresa, los empleados pueden buscar facturas más disimuladas;
- Si se establecen políticas de restricción de compra, algunas personas pueden falsificar divorcios para comprar propiedades;
- Si se restringen los permisos de la IA, los hackers pueden encontrar nuevas formas de atacar.
Diferencia clave: Los riesgos son “inmóviles”, pero los juegos de estrategia son dinámicos; si bloqueas una vulnerabilidad, los adversarios encontrarán otra. El objetivo de la seguridad no es eliminar los peligros, sino asegurarse de que el sistema no se derrumbe, incluso bajo ataques. Por ejemplo, una decisión que requiere la firma de varios departamentos hace más difícil que alguien abuse de las reglas.
4. La “integridad combativa”: permite la imperfección, pero no que esta arruine todo
“Integridad” no significa que los sistemas nunca tengan problemas, sino que puedan soportarlos:
- Un puente es completo si no se derrumba en fuertes vientos (por tener un diseño resistente a terremotos);
- Un avión es completo si tiene repuestos en caso de que algún componente se dañe (con motores dobles);
- Un sistema democrático es completo si puede resolver diferencias de opinión según las reglas.
El núcleo de la integridad combativa: la resiliencia. Permite que los errores existan, pero evita que uno solo cause un desastre. Por ejemplo, un sistema de pago en una aplicación puede manejar errores sin que el dinero de los usuarios desaparezca, gracias a registros de transacciones, mecanismos de reembolso y verificación en múltiples puntos.
5. En la era de la IA, no cometamos los mismos errores del pasado: no busquemos modelos “perfectos”, sino que gestionemos los límites de sus acciones
Actualmente, hay cada vez más agentes inteligentes (IA) que realizan tareas como redactar informes o operar software. Muchas personas quieren entrenar IA que siempre tengan razón, pero esto es tan ilusorio como buscar un gobernante perfecto en la antigüedad: las IA pueden tener ilusiones, malinterpretar instrucciones o ser atacadas. La estrategia correcta es:
- No buscar que la IA siempre tenga razón, sino restringir sus acciones; por ejemplo, puede sugerir inversiones, pero no transferir dinero directamente; puede escribir correos electrónicos, pero no enviar información sensible automáticamente;
- Separar la “evaluación” de la “ejecución”: la IA analiza, pero las personas toman las decisiones finales;
- Conservar el derecho de veto: incluso si la IA dice que no hay problemas, las personas pueden detenerla.
Analogía: No dejarías que un niño gastara dinero directamente con su tarjeta bancaria; le darías dinero en efectivo para que use con responsabilidad. Lo mismo ocurre con la IA: sus funciones deben estar limitadas por estructuras establecidas.
Conclusión final
La “integridad combativa” no es más pesimista, sino más realista: reconoce que el mundo no es perfecto, pero podemos diseñar sistemas que puedan adaptarse a la imperfección y seguir funcionando de manera efectiva. Esa es la verdadera madurez.