Resumen del contenido principal
El “contenido basura” generado por la IA (como recetas sin sentido, biografías falsas e imágenes y videos extraños) se ha vuelto un problema generalizado en plataformas como Google, Amazon y Facebook, contaminando el entorno de información en línea. Ahora, las empresas tecnológicas de Silicon Valley (Spotify, YouTube, LinkedIn, etc.) han comenzado a limpiar estas basuras a gran escala, pero enfrentan muchos problemas: muchas de estas compañías fueron las que promovieron los herramientas de IA que dieron lugar a la creación de dicho contenido. Al eliminarlo, es fácil dañar a creadores legítimos, y la definición y gestión del contenido basura son un desafío sistemático que no se puede resolver con simples eliminaciones.
I. ¿Hasta qué punto está extendido el contenido basura generado por la IA? Por todas partes hay “pizza de pegamento” y “Jesús de camarones”
Si buscas recetas en Google, podrías encontrar cosas sin sentido como la “pizza de pegamento”; las biografías vendidas en Amazon pueden ser falsas generadas por la IA; en Facebook, puedes ver imágenes sin sentido como el “Jesús de camarones”. Los datos son aún más alarmantes:
- Spotify eliminó 75 millones de canciones basura el año pasado (canciones subidas en masa o repetidas), lo que representa una gran parte de su biblioteca musical;
- YouTube eliminó 130,000 canales de baja calidad generados por la IA en seis meses;
- Casi la mitad de las nuevas canciones subidas a Deezer cada día son generadas por la IA y muchas no han sido escuchadas nunca;
- Una tercera parte del contenido subido a Apple Music es creado por la IA;
- En X (anteriormente Twitter), casi la mitad de los posts de más de 50 palabras fueron escritos por la IA.
Incluso la compañía de diccionarios Merriam-Webster eligió “basura generada por la IA” como la palabra del año 2025, lo que demuestra la gravedad del problema.
II. ¿Por qué las empresas de Silicon Valley solo ahora comienzan a tomar medidas? Los usuarios ya no lo soportan y las plataformas tampoco pueden seguir así
Antes, las plataformas podrían haber pensado que el contenido generado por la IA aumentaría los clics de los usuarios, pero la situación ha cambiado:
- Los usuarios están cada vez más insatisfechos: todo lo que ven son titulares de baja calidad y no encuentran el contenido que realmente desean. Por ejemplo, el flujo de videos generados por la IA de Meta fue criticado como una “vitrina de basura”;
- La carga para las plataformas ha aumentado: hay demasiado contenido basura, ocupando espacio que debería estar reservado para contenido de calidad. Por ejemplo, el 20% de los videos recomendados a nuevos usuarios en YouTube son basura generada por la IA; algunos canales basura ganan hasta 4.25 millones al año, pero las plataformas tienen que suspender su capacidad de generar ingresos;
- La opinión pública ha cambiado: los expertos dicen que permitir que el contenido basura “sopresa la creatividad humana y corroe la cultura”, y los usuarios se quejan de no poder distinguir lo que es real en línea. Si las plataformas no limpian, perderán usuarios.
III. ¿Qué métodos están utilizando las plataformas para limpiar? Eliminación de contenido, denuncias de usuarios, contramedidas basadas en la IA y opciones para que los usuarios elijan por sí mismos
Las plataformas están empleando una variedad de estrategias:
- Eliminación directa: Spotify elimina canciones repetidas; YouTube elimina canales de baja calidad; TikTok eliminó 377,000 videos generados por la IA en los primeros tres meses del año;
- Participación de usuarios: LinkedIn ha añadido botones para denunciar contenido basura generado por la IA; Pinterest y TikTok permiten a los usuarios configurar qué tipo de contenido basura quieren ver menos;
- Contramedidas basadas en la IA: YouTube utiliza la IA para analizar la velocidad de carga y los patrones repetidos para identificar cuentas generadas por la IA; Substack utiliza herramientas de IA para verificar si los posts largos están escritos por personas o por la IA;
- Restricciones a los ingresos: X ha bloqueado aplicaciones que pagan a robots para publicar contenido basura; YouTube ha suspendido la capacidad de generación de ingresos de canales basura.
IV. La limpieza no es tan sencilla: se dañan creadores legítimos, las definiciones son ambiguas y las plataformas tienen dobles estándares
El proceso de limpieza presenta varios desafíos:
- Daño a creadores legítimos: YouTube puede eliminar a creadores que publican contenido de calidad en masa; las herramientas de IA de Substack pueden confundir posts escritos por personas con contenido generado por la IA, obligando a los autores a demostrar su legitimidad;
- Definiciones ambiguas: No todo el contenido generado por la IA es basura. Por ejemplo, ¿se considera basura un artículo escrito con ayuda de la IA? Es difícil para las plataformas establecer límites claros;
- Dobles estándares de las plataformas: Muchas de las plataformas que limpian el contenido basura fueron las mismas que promovieron las herramientas de IA que causaron el problema. Por ejemplo, Meta prometió gestionar el contenido basura generado por la IA, pero luego lanzó generadores de imágenes que abusaban de los datos de los usuarios y tuvo que desactivar esas funciones tras la oposición.
V. Advertencia de expertos: Es un problema sistemático que no se puede resolver con simples eliminaciones
Un experto de la Universidad de Columbia afirma que el contenido basura generado por la IA no es simplemente “un tipo de contenido malo”, sino un problema sistémico en todo el entorno de información:
- La IA es una espada de doble filo: las plataformas dependen de ella para aumentar la participación de los usuarios, pero también se ven afectadas por el contenido basura que genera;
- No se puede adoptar una solución generalizada: la IA es una herramienta creativa y el uso legítimo de la misma no debería verse afectado negativamente;
- Si las plataformas no manejan bien el problema, perderán usuarios: si los usuarios no pueden encontrar contenido de calidad, buscarán otras opciones.
En resumen, limpiar el contenido basura generado por la IA no es tan simple como barrer basura física; se necesita abordar los mecanismos de incentivo de las plataformas (como no centrarse únicamente en los clics) y equilibrar el potencial creativo de la IA con sus efectos negativos.
Esta noticia nos indica que, aunque la IA ha traído conveniencias, también ha creado nuevos problemas. Ahora las plataformas finalmente están comenzando a prestar atención, pero todavía hay un largo camino por recorrer. Los usuarios también deben estar atentos cuando navegan en línea para no ser engañados por contenido de baja calidad generado por la IA.