El ganador del Premio Fields, Terence Tao, advierte sobre el peligro de que la IA “agote” las matemáticas; los académicos responden: La humanidad no está desempleada, solo ha cambiado de trabajo
Hola a todos, soy vuestro periodista financiero y economista. Hoy no hablaremos de las fluctuaciones del mercado bursátil ni de las empresas que se lanzan al mercado, sino de un tema que puede parecer complejo pero que afecta el futuro profesional de cada uno de nosotros: ¿Qué valor queda para la humanidad cuando la IA comienza a “producir” respuestas de manera desenfrenada, como una impresora de dinero?
Recientemente, Terence Tao, el ganador del Premio Fields y una figura de referencia en el mundo matemático, publicó una serie de posts en las redes sociales y, junto con otros 24 expertos de su nivel, emitió una declaración advirtiendo que la IA está “explotando” en exceso los problemas matemáticos y que podría erosionar las bases de la investigación matemática humana.
El autor de este artículo, Zhao Bin de la Universidad Fudan, presenta una réplica muy aguda y práctica a las opiniones de Tao. Argumenta que lo que realmente preocupa a Tao es que se agote el “agua” (la capacidad para resolver problemas), pero lo que realmente tiene valor no es el agua en sí, sino la persona que controla la llave del agua (quién decide qué recoger, para quién y con qué fin).
A continuación, desglosaré este debate entre expertos en cinco puntos para que lo entiendan completamente.
---
¿De qué tiene miedo Tao? – Los “respuestas basura” están inundando los “buenos problemas”
Primero, debemos aclarar qué es lo que realmente preocupa a Tao. Muchas personas piensan que se opone a la IA, pero no es así; en realidad, se opone a la contaminación del ecosistema científico por parte de los resultados de baja calidad generados por la IA.
Tao hizo una comparación muy ilustrativa: los bancos de alimentos de hoy en día no pueden aceptar cualquier donación. Si se dona un cartón de alimentos caducados o mohosos que no se pueden distribuir, no solo no pueden entregarse, sino que también se necesita personal para clasificarlos, almacenarlos e incluso deshacerse de ellos. Este “basura” no solo no ayuda, sino que también consume recursos y crea la ilusión de que la demanda está satisfecha, excluyendo a quienes realmente necesitan alimentos frescos.
Aplicado al mundo matemático:
1. Demasiados problemas, pocos buenos problemas: Hay una infinidad de problemas matemáticos, pero los realmente valiosos y que impulsan el conocimiento humano son escasos.
2. La IA está “minando”: Los modelos de IA actuales (como los de OpenAI) pueden generar pruebas y respuestas matemáticas de manera masiva. Sin embargo, muchas de estas respuestas son “inútiles”, ya que solo ofrecen el resultado sin explicar el proceso y a menudo no se pueden verificar.
3. El ecosistema está dañado: Si los laboratorios solo publican los casos de éxito de la IA y no los de fracaso, o si difunden muchas respuestas inverificables o inviables, se desvía la atención de los investigadores de explorar los problemas realmente difíciles y valiosos.
Resumen sencillo: Tao teme que la IA, como una impresora incesante, genere montones de textos incomprensibles que llenen las bibliotecas, impidiendo que los verdaderos académicos se dediquen a los problemas que realmente merecen estudio.
---
La réplica del autor: Estás usando la medida equivocada – El “mapa de dificultad” no sirve para la IA
El autor cree que, aunque las preocupaciones de Tao son válidas, comete un error fundamental: **está utilizando las medidas de la “era humana” para juzgar los cambios de la “era de la IA”.
Tao cuenta con dos “medidas antiguas”:
1. El mapa de dificultad: Este mapa indica dónde es difícil y dónde es fácil avanzar. Por ejemplo, un problema matemático que requiere tres años de reflexión para resolver es considerado valioso.
- Crítica del autor: ¡Esto no tiene sentido para la IA! A la IA no le afectan las dificultades humanas; no se cansa ni se rinde. Es como mostrarle a un coche un mapa de caminos peligrosos: al coche no le sirve esa información. Tao confunde lo que para los humanos es difícil con lo que hace que un problema sea valioso, lo cual es obsoleto.
2. Criterios para definir buenos problemas: En el mundo matemático, lo que se considera un buen problema a menudo depende de los gustos, las tradiciones y el poder de un pequeño círculo.
- Crítica del autor: Esto es similar al ajedrez. Antes, los humanos consideraban ciertas jugadas “correctas”, pero AlphaGo Zero las ignoró y desarrolló estrategias mejores que las humanas. Esto demuestra que lo que los humanos han considerado correcto puede ser solo una solución local óptima. Si los matemáticos siguen juzgando los problemas basándose en estos criterios limitados, la IA podría ser una ventaja, ya que puede romper esas limitaciones.
Resumen sencillo: Tao teme que la IA igualice los niveles de dificultad matemática, pero el autor sostiene que la dificultad es un producto de las limitaciones humanas, no de la esencia de las matemáticas. A la IA no le importa la dificultad; solo le importan la lógica y el resultado. Por lo tanto, usar lo que para los humanos es difícil como criterio de valor no es relevante en la era de la IA.
---
La principal discrepancia: ¿Lo que queda de la capacidad humana es la “investigación” o la “curaduría”?
Este es el punto más interesante y profundo del artículo. La discrepancia fundamental entre el autor y Tao radica en si lo que queda de la capacidad humana después de que la IA asume la resolución de problemas puede seguir llamándose “investigación”:
- Punto de vista de Tao: Sí. Cree que la investigación pura, motivada por el amor a las matemáticas, es sagrada y es el núcleo de la inteligencia humana. Aunque la IA resuelve problemas, la capacidad humana para identificar los buenos problemas sigue siendo valiosa.
- Punto de vista del autor: No. Esto se asemeja más a la “curaduría” (el proceso de seleccionar y organizar información).
El autor introduce el concepto de anclaje de intereses:
- La IA no tiene intereses personales: No tiene deseos; simplemente sigue instrucciones.
- Los humanos sí tienen intereses: La investigación humana tiene un propósito: comprender el universo, desarrollar tecnologías, ganar premios Nobel o simplemente por curiosidad. El propósito proviene de los humanos.
Por lo tanto, aunque la IA se encarga de encontrar direcciones y resolver problemas, los humanos deben mantener el control sobre quién recoge el agua (identificar los intereses y decidir su uso).
- Antes: Los humanos tenían que encontrar direcciones, resolver problemas y juzgar su valor.
- Ahora: La IA genera una gran cantidad de información, y los humanos deben seleccionar lo que es valioso, estéticamente o prácticamente, como si recogieran conchas en el mar.
Resumen sencillo:
Antes, los humanos eran “mineros” que extraían carbón, lo procesaban y decidían qué era útil. Ahora, la IA es como una “excavadora” que puede despejar montañas y filtrar el mineral. Los humanos ya no son mineros, sino “evaluadores de joyas” o “curadores”. No necesitan extraer el material por sí mismos; lo importante es tener el “ojos para ver” qué es valioso y para quién.
El autor sostiene que llamar a esta capacidad “investigación” es exagerado; en realidad, se trata más de “curaduría”. Pero esto no significa que haya disminuido su valor; al contrario, con tantas opciones, el poder de elegir se ha vuelto aún más importante.
---
Un punto crítico: Los laboratorios solo muestran los éxitos, no los fracasos
Aunque el autor refuta a Tao desde un punto de vista filosófico, reconoce que tiene una advertencia muy acertada y urgente en términos prácticos:
Tao señala que los laboratorios de IA solo publican los casos de éxito y no los fracasos. Esto crea una distorsión en la percepción de su capacidad. Si los laboratorios solo informan de los éxitos, los investigadores no pueden conocer los límites reales de la IA. Esto puede llevarlos a intentar problemas que la IA ya no puede resolver o a ignorar aquellos que sí puede resolver. Es como en la guerra: si solo se ven los informes de victorias, no se pueden evaluar las verdaderas capacidades del enemigo.
Resumen sencillo: Es un ejemplo de asimetría de información. Las empresas de IA, al igual que las compañías de seguros, solo muestran sus éxitos y no sus fracasos, lo que distorsiona la comprensión del público sobre su capacidad. El autor cree que este es el aspecto más concreto y solucionable de la advertencia de Tao. Si los laboratorios publicaran los fracasos, se podría reducir gran parte de la ansiedad.
---
Conclusión: No preocuparse por que se agote el “río”, sino por quién controla la llave del agua
El autor resume el artículo con una metáfora:
- Tao teme que se agote el “río” de problemas y soluciones matemáticas.
- El autor ve la “llave del agua”: La IA puede generar infinitos resultados, pero lo realmente valioso es quien decide qué recoger, para quién y con qué fin.
Pensamiento clave:
La IA se encarga de generar información, mientras que los humanos deben decidir su uso y su significado. Esto cambia la naturaleza del trabajo humano: ya no se trata de resolver problemas, sino de seleccionar y dar sentido a esa información.
Implicaciones para el público general:
1. No preocuparse por ser reemplazados: Si tu trabajo es meramente ejecutivo, computacional o repetitivo, la IA puede reemplazarte.
2. Desarrolla tu capacidad de curaduría: La competitividad futura no radica en cuánto código escribas o datos proceses, sino en tu capacidad para identificar lo valioso entre la información generada por la IA y decidir su propósito.
3. El anclaje de intereses es clave: Independientemente del desarrollo tecnológico, el “porqué hacerlo” y el “para quién hacerlo” siempre estarán en manos humanas. La IA es una herramienta; tú eres el dueño de tu trabajo. Mientras conserves el poder de definir el significado, no estarás desempleado; simplemente pasarás de ser un “trabajador manual” a un “diseñador”.
En resumen:
Tao teme que la IA agote los problemas matemáticos, pero lo realmente importante es quién controla el proceso de selección y uso de esa información. La capacidad humana puede no ser la misma que antes, pero eso no significa que haya disminuido su valor; al contrario, se ha vuelto aún más crucial.