虎嗅

Tao Zhe-xuan, Deng Yu y otros 25 matemáticos lanzan una “declaración de guerra” conjunta contra las compañías de IA

原文:陶哲轩、邓煜等25位数学家,联名向AI公司“宣战”

Hola a todos, soy vuestro periodista financiero y economista. Hoy no vamos a hablar de códigos fríos ni fórmulas complejas, sino de un “conflicto de valores” que ocurre entre el apogeo de la inteligencia humana y la inteligencia artificial.

Recientemente, ha ocurrido algo importante en el mundo matemático: 25 matemáticos de primer nivel, incluyendo a Terence Tao y Deng Yu (muchos de los cuales son ganadores del Premio Fields, el equivalente al Nobel en matemáticas), publicaron una declaración contundente declarando la “guerra” a las empresas de IA.

No os asustéis por la palabra “guerra”; no quieren destruir ordenadores, sino defender el alma de la investigación matemática. Para que lo entiendáis mejor, he dividido este largo texto en cinco dimensiones clave y lo explicaré en lenguaje sencillo para que comprendáis la lógica detrás de todo esto, las controversias y su impacto en nosotros, los ciudadanos comunes.

1. El desencadenante: La IA “superó” los problemas matemáticos más difíciles de los humanos

Evento clave:

OpenAI anunció que uno de sus modelos de IA, en menos de 4 días y utilizando alrededor de 10,000 entidades inteligentes, resolvió una parte clave de las ecuaciones de Navier-Stokes.

¿Por qué es tan impactante?

  • Nivel de dificultad: Este problema forma parte de los “Problemas del Milenio”, considerados uno de los siete problemas más difíciles de la matemática. En los últimos 20 años, los humanos solo han resuelto uno de ellos.
  • Comparación de velocidad: Deng Yu, uno de los matemáticos más destacados, tardó más de una década en desarrollar una cadena de razonamiento completa desde la mecánica newtoniana hasta las ecuaciones de flujo. La IA, en cambio, lo logró en solo 4 días.

Controversia:

Justo antes de que OpenAI anunciara el resultado, los matemáticos Tristan Buckmaster de la Universidad de Nueva York y Levent Alpöge de la empresa Anthropic estaban trabajando en un estudio similar. Cuestionan si OpenAI pudo haber visto sus avances de investigación no publicados, o si los datos utilizados en sus investigaciones previas fueron usados por la empresa para entrenar al modelo, lo que les permitió “superar” a los humanos.

Explicación sencilla:

Es como si dos chefs estuvieran preparando un plato nuevo y, antes de que lo sirvan, el restaurante de al lado anuncie: “Nuestro chef IA ya lo ha preparado, y tiene el mismo sabor”. Seguramente os sentiríais incómodos: ¿es mérito nuestro o del restaurante? ¿O quizás el restaurante robó nuestra receta? Ese es el punto de partida de la ira de los matemáticos: la atribución de la originalidad y los derechos de autor se vuelve incierta.

2. El conflicto central: ¿La IA está “haciendo matemáticas” o “solo acumulando puntos”?

¿Qué objetan los matemáticos?

Muchos preguntarán: ¿No es bueno que la IA resuelva problemas rápidamente? ¿Por qué oponerse entonces?

Tao y otros lo explicaron claramente en su declaración: No nos oponemos a que la IA participe en la matemática, sino a que la matemática se convierta en una “carrera de puntuación” para las empresas de IA.

¿Qué es una “carrera de puntuación”?

En la industria de la IA, resolver problemas matemáticos se considera la prueba más contundente de “superinteligencia”. Dado que la matemática representa la verdad objetiva (lo correcto es correcto y lo incorrecto es incorrecto, sin sesgos subjetivos), si la IA puede resolver problemas matemáticos, los inversores pensarán: “¡Miren, la IA realmente se está convirtiendo en un dios! ¡Invertimos dinero ahora mismo!”

Metáfora:

Es como un gimnasio que no se preocupa por lo fuertes que sean tus músculos o si tus movimientos son precisos, sino por cuántos segundos puedes mantener la postura del plancho. Simplifica el proceso de resolver problemas, que es lleno de belleza, exploración y creatividad, en un procedimiento mecánico de “introducir una pregunta y obtener una respuesta”.

¿Qué importa a los matemáticos?

A los matemáticos les importa el proceso:

  • Al resolver problemas, los humanos descubren nuevos métodos, entienden nuevas estructuras y plantean nuevas preguntas.
  • Este proceso es como escalar una montaña; el paisaje es parte del camino.
  • La IA resuelve problemas de manera instantánea, proporcionando directamente las coordenadas de la cima, pero omitiendo todo el camino y el pensamiento que lo precede.

Consecuencias:

Si la IA produce en masa conclusiones “verificadas pero incomprensibles”, los humanos perderán la oportunidad de “comprender”. La declaración advierte: “Si olvidamos que resolver problemas es solo un medio para llegar a la comprensión... podríamos estar destruyendo el terreno fértil para el surgimiento de nuevos pensamientos”. En otras palabras, la IA podría estar eliminando el “alma” de la matemática, dejando solo un “cuerpo” frío (las respuestas).

3. Dos opciones: Irse o quedarse

Frente al impacto de la IA, los matemáticos de primer nivel tomaron decisiones muy diferentes, reflejando dos actitudes distintas.

Opción uno: Jacob Tsimerman (irse)

  • Identidad: Ganador del Premio Fields de este año, experto en teoría de números y geometría.
  • Acción: Anunció que dejaría la investigación matemática para trabajar en seguridad de IA en OpenAI.
  • Razón: Cree que la IA podría llevar a la extinción de la humanidad y quiere trabajar desde dentro de la industria para instalar “barrejas de protección”. Dijo: “Quiero romper un tabú: pensar que algo es terrible significa que no deberíamos hablar de ello es incorrecto”.
  • Opiniones: Algunos lo acusan de traición, pero él considera que es una actitud responsable.

Opción dos: Deng Yu (quedarse)

  • Identidad: Ganador del Premio Fields de este año, matemático chino.
  • Acción: Compuso un mensaje en sus redes sociales para tranquilizar a los preocupados y continuó con su investigación.
  • Razón: Cree que la IA evoluciona rápidamente, pero la sociedad humana se adapta más lentamente. Cree que en uno o dos años las cosas se aclararán y se formará un nuevo ecosistema. Sigue teniendo curiosidad por la matemática: “En cualquier teoría de EDP, puedes plantear infinitas preguntas...”.
  • Cita: “Si puedo ser testigo de un milagro en mi vida, no me quejaré; después simplemente volveré a casa a escribir mis novelas de lirios.” (Nota: Es una broma; aclaró que no cree que la IA pueda resolver todos los problemas matemáticos, pero su broma alivió las preocupaciones de todos.)

Explicación sencilla:

Uno piensa: “Es demasiado peligroso, debo hacer algo al respecto”; el otro piensa: “No hay prisa, podemos manejarlo”. No hay un ganador o perdedor; son simplemente dos reacciones instintivas de los humanos frente a la tecnología desconocida: miedo y curiosidad.

4. Lecciones para la educación: En la era de la IA, ¿deben los niños seguir aprendiendo por sí mismos?

Esta es la parte que más nos preocupa a nosotros, los ciudadanos comunes. Si la IA puede hacer todo, ¿para qué los niños siguen esforzándose por aprender matemáticas y memorizar palabras?

La profesora Wang Qiong de la Universidad de Pekín lo explicó en la conferencia del Bund de Shanghái: En la era de la IA, el conocimiento < la capacidad < la metacognición, pero este orden es incorrecto.

La lógica correcta es:

1. Algunos conocimientos deben memorizarse: Como las tablas de multiplicación y la gramática básica. Solo cuando los dominas al punto de poder usarlos automáticamente puedes liberar tu mente para pensar en problemas más complejos.

2. Tener conocimiento no significa saber usarlo adecuadamente: La IA puede darte respuestas, pero ¿cómo sabes si esa respuesta es adecuada para una situación concreta? Esto requiere pensamiento crítico.

3. El pensamiento crítico se aprende en disciplinas específicas: No puedes aprender a pensar críticamente en el vacío; debe desarrollarse a través de disciplinas como las matemáticas y la física.

4. Entender la lógica de la disciplina es clave para controlar a la IA: Si no entiendes la lógica básica de las matemáticas, no podrás even siquiera reconocer las respuestas incorrectas de la IA.

Principios clave: Refuerzo cognitivo vs externalización cognitiva

  • Refuerzo cognitivo (bueno): Los estudiantes primero piensan por sí mismos, luchan, fallan y luego reciben feedback de la IA. Esto se llama “fracaso productivo”; los estudios demuestran que entender mejor y tener una mayor tasa de éxito ocurre cuando primero te atas y luego escuchas la explicación.
  • Externalización cognitiva (malo): Los estudiantes preguntan directamente a la IA, que les da las respuestas. Al invertir el orden, el aprendizaje se vuelve inútil.

Explicación sencilla:

La IA no elimina el trabajo, sino el ejercicio. Antes, los jóvenes podían cometer errores, ser reprendidos y desarrollar su capacidad de juicio gradualmente. Ahora, la IA hace ese trabajo, pero las empresas esperan que los empleados tengan ese juicio desde el principio.

Datos que lo respaldan:

PwC analizó que los puestos de trabajo que se ven afectados por la IA han aumentado un 35%, pero los requisitos han cambiado: ahora se necesitan capacidad de juicio, creatividad y habilidades de comunicación. Los puestos que no requieren estas habilidades han disminuido.

Conclusión: La IA reemplaza el “trabajo repetitivo”, pero lo que necesitamos es la capacidad de juicio, que solo se puede desarrollar a través de experiencias difíciles.

5. Reflexión final: En geometría, no hay camino rápido

El artículo termina con una historia de hace 2300 años:

El rey Tolomeo le preguntó a Euclides: “¿Existe un camino más rápido para aprender geometría?”

Euclides respondió: “En geometría, no hay camino rápido.”

Hoy, la IA parece haber construido ese “camino rápido”. Pero lleva a una respuesta brillante, sin ningún paisaje en el camino.

Los matemáticos nos advierten de esto:

Se preocupan de que si nos acostumbramos a la “teletransportación instantánea”, perdamos la capacidad de “caminar”. La matemática no es solo sobre resolver problemas, sino también sobre la racionalidad, la lógica y la estética humana.

Consejo para los padres:

Apoyad la “guerra” de los matemáticos, pero ellos no pueden ganar esta batalla por sí solos. Debemos pensar por nosotros mismos: ¿Estamos dispuestos a acompañar a nuestros hijos en ese camino viejo, lento y lleno de errores?

En resumen:

  • La IA no es el enemigo, es una herramienta, pero las herramientas no pueden reemplazar el pensamiento.
  • Las respuestas no son importantes; el proceso lo es. La comprensión es más valiosa que las conclusiones.
  • **La educación debe volver al “esfuerzo”. Dejemos que los niños experimenten las dificultades en una edad en la que aún pueden cometer errores, para desarrollar su capacidad de juicio.
  • **Mantén la curiosidad; no te asustes*. Como dijo Deng Yu, la IA evoluciona rápidamente, pero también lo hace la humanidad. Es bueno presenciar “milagros”, pero crear “comprensión” es aún más emocionante.

Esta “guerra” es, en esencia, una batalla por la dignidad humana y la soberanía cognitiva. Nos recuerda que, en la búsqueda de la eficiencia, no debemos perder esos procesos que parecen ineficientes pero que en realidad son valiosos.