Resumen del contenido principal
Este artículo analiza las predicciones contenidas en el libro “Out of Control” de Kevin Kelly (KK), comparando sus expectativas optimistas sobre el concepto de “descontrol” hace 30 años con la ansiedad que hoy en día sienten las personas en la era del AI. En aquel entonces, KK creía que abandonar el control centralizado de la era mecánica y permitir que los sistemas crecieran de manera descentralizada, similar a una colmena o un ecosistema, liberaría la libertad individual y la inteligencia distribuida. Sin embargo, hoy en día, mientras el AI y los algoritmos provocan un descontrol en los sistemas, las personas han pasado de ser usuarios de herramientas a convertirse en “puntos de feedback” para estos sistemas; nuestros juicios, elecciones e incluso deseos son manipulados por el AI, lo que lleva a la disminución de nuestra sensación de control. El artículo analiza las causas de este cambio (el desplazamiento del poder hacia las plataformas, la sustitución de los procesos y la dilución del significado) y ofrece sugerencias para mantener nuestra autonomía: proteger algunos “interruptores” clave que garantizan nuestra identidad como seres humanos.
I. El concepto de “descontrol” según KK: un romanticismo tecnológico hacia la libertad
El “descontrol” al que se refería KK en 1994 no significaba una rebelión de las máquinas, sino que los sistemas debían liberarse del control centralizado y desarrollarse de manera autónoma, como lo hace la vida. Citó varios ejemplos:
- Internet, sin un interruptor principal, se ha convertido en un entorno global conectado;
- Las comunidades de código abierto, sin una estructura jerárquica, crearon el sistema operativo Linux;
- Wikipedia, sin un comité editorial, se ha convertido en la mayor obra de ingeniería del conocimiento.
Para él, el “control” característico de la era industrial (como las líneas de producción en fábricas o los planes detallados de los ingenieros jefes) era demasiado rígido; lo más poderoso de la vida es la capacidad de adaptación, variación y autoorganización. Por eso propuso nueve principios para el diseño tecnológico, como la distribución de riesgos (no poner todos los huevos en la misma canasta) y fomentar los errores (los pequeños errores pueden prevenir errores mayores). Estos principios se han convertido en guías prácticas en la industria tecnológica (por ejemplo, el uso de microservicios o las pruebas A/B).
La visión optimista de KK era que abandonar el control centralizado devolvería la libertad a los individuos. En aquel entonces, las personas eran actores activos en los sistemas: buscaban información, publicaban contenidos y escribían código de manera proactiva.
II. El “descontrol” de hoy ha cambiado de significado: las personas han pasado de ser el centro a ser partes de los sistemas
El descontrol de hoy no es lo que KK imaginaba: los sistemas sí están fuera de control, pero las personas ya no son el eje central.
- Antes buscábamos respuestas; ahora el AI nos las ofrece directamente.
- Antes elegíamos el contenido; ahora los sistemas de recomendación lo ordenan por nosotros.
- Antes usábamos herramientas para llevar a cabo nuestras ideas; ahora el AI se encarga de dividir tareas y utilizar herramientas en nuestro lugar.
El AI ha pasado de ser una herramienta a un “agente” que actúa en nombre del usuario: amplifica nuestras intenciones, pero al mismo tiempo determina cómo las expresamos. Por ejemplo, pedirle al AI que genere respuestas racionales durante una discusión puede parecer eficiente, pero en realidad perdemos el proceso de expresar nuestras emociones.
El artículo utiliza una metáfora dolorosa: las personas son como si llevaran un sombrero verde; los algoritmos se han apoderado de la mayor parte de nuestra capacidad de acción, y nosotros simplemente hacemos clics o deslizamos nuestros dedos en la pantalla, votando para el sistema. No somos las abejas que guían la colmena; más bien, somos los “ojos” que son alimentados por ella.
III. El poder no ha desaparecido, solo ha cambiado de forma
KK pensaba que abandonar el control centralizado devolvería el poder a los individuos, pero en realidad este se ha trasladado a las plataformas que pueden manejar los sistemas distribuidos. Por ejemplo, el AI reduce los costos de producción a casi cero, pero aquellos que controlan a los usuarios, su atención y los canales de distribución son quienes tienen el verdadero poder. Unas pocas empresas (como Google, Meta o ByteDance) poseen la capacidad de procesamiento, los datos y los modelos necesarios para influir en nuestra experiencia: determinan qué vemos, cuánto tiempo permanecemos en una página web y qué contenido omitimos. El sistema recopila esta información y luego nos muestra contenidos que “se ajustan” a nuestros gustos, atrapándonos en lo que él considera “nuestro entorno ideal”. Pensamos que estamos eligiendo lo que queremos, pero en realidad el sistema está moldeando nuestro comportamiento.
Werner von Neumann, el fundador de la cibernética, ya advirtió que cuando dejamos que los sistemas automatizados gestionen los ciclos de feedback, estos pueden “enseñarnos” cómo actuar. Este tipo de control es más sutil: no nos damos cuenta de estar siendo controlados; simplemente pensamos que eso es lo que queremos.
IV. Las razones del desvanecimiento de la sensación de control: los procesos se han homogeneizado y el significado se ha vaciado
¿Por qué nos sentimos impotentes? Porque el AI hace todo el trabajo “difícil” por nosotros, y precisamente esos procesos son clave para nuestra sensación de control:
- Escribir no es simplemente transmitir un mensaje; es un proceso en el que descubrimos lo que realmente queremos decir.
- Leer no es solo descargar información; es un proceso de reflexión y toma de decisiones.
-Elegir no significa encontrar la solución óptima; implica asumir las consecuencias de nuestras elecciones.
El AI hace que todo sea más “fácil”, pero a costa de una sensación de vacío interior: somos más rápidos, pero no sabemos por qué tomamos esas decisiones; sabemos mucho, pero no estamos seguros de en qué creemos.
Otro cambio oculto es la desconexión con el mundo real: antes de viajar a un lugar, buscamos información sobre cómo hacerlo; antes de conocer a alguien, pedimos al AI que analice su personalidad; antes de crear algo, obtenemos sugerencias. Estas “prácticas ineficientes” son precisamente lo que da calidad a la vida.
V. ¿Qué podemos hacer? Proteger esos “interruptores” esenciales
Rechazar completamente el AI es inviable; lo importante es mantener nuestra autonomía en un mundo de descontrol. El artículo sugiere cuatro “interruptores” clave:
1. Derecho a definir los problemas: En lugar de preguntarle al AI qué hacer, primero piensa en cuál es el problema que realmente necesitas resolver. Por ejemplo, antes de cambiar de trabajo, preguntate por qué no estás satisfecho con tu actual empleo, en lugar de dejar que el AI te recomiende opciones.
2. Derecho a priorizar los valores: El AI puede sugerir cuál opción es más eficiente, pero tú debes decidir qué es realmente importante para ti (por ejemplo, si prefieres ganar dinero o tener tiempo libre).
3. Derecho a tomar las decisiones finales: El AI puede ayudarte a organizar la información, pero las decisiones importantes (como cambiar de trabajo o casarte) deben tomarse por ti mismo, ya que tú asumirás sus consecuencias.
4. Feedback del mundo real: Conoce personas reales y realiza actividades físicas; usa tu experiencia personal para corregir los resultados proporcionados por los sistemas. Por ejemplo, en lugar de leer solo guías sobre comida, ve una comida callejera y siente la realidad.
También es importante mantener ciertas actividades “ineficientes”: paseos sin un objetivo claro, conversaciones cara a cara con amigos, escritura que no busca ganancias monetarias… Estas son las anclas que te mantienen conectado al mundo real.
Conclusión
El “descontrol” descrito por KK se ha hecho realidad, pero no hemos experimentado la libertad prometida. El verdadero problema no es si los sistemas tienen o no “vida”, sino si, al darles vida, las personas pierden su propio sentido de existencia.
En la era del AI, lo que realmente importa no es si las máquinas pueden superarnos, sino si, cuando el AI hace todo por nosotros, todavía somos capaces de reconocer quiénes somos en realidad.
Dejar ir no significa abandonar completamente; el descontrol no implica perder nuestra identidad. Si protegemos aquellas decisiones que debemos tomar personalmente, no nos perderemos en los sistemas automatizados.
(El texto ha sido traducido utilizando lenguaje claro y cotidiano para que incluso aquellos sin conocimientos financieros o empresariales puedan entenderlo fácilmente.)