Resumen del contenido principal
Anthropic (la empresa matriz de Claude) ha añadido marcas de agua invisibles de IA a todo el texto, las imágenes y los archivos generados por Claude (en respuesta a la regulación de la UE y para obtener el control del discurso en la industria). Sin embargo, estas marcas fueron desactivadas en solo 3 días por una herramienta open source de GitHub llamada watermarks-remover, que puede eliminar las marcas estadísticas del texto, extraer los metadatos de los archivos e incluso generar nuevas imágenes sin las marcas visibles. Detrás de esta “batalla de marcas de agua” se esconden necesidades contradictorias de los usuarios: por un lado, quieren poder identificar el contenido generado por IA para evitar fraudes; por otro, temen que sus obras creadas con la ayuda de IA sean etiquetadas como “completamente generadas por IA”, lo que negaría su valor laboral.
I. Las marcas de agua de Claude: ¿Cómo se añaden?
Las marcas de agua de Claude no son logotipos o textos visibles a simple vista, sino patrones estadísticos ocultos en el proceso de generación. Cuando Claude genera texto, selecciona la palabra con mayor probabilidad de entre varias opciones (por ejemplo, “la tasa de crecimiento es muy XX”, donde las opciones posibles son “rápido”, “veloz” o “asombroso”). Después de añadir las marcas de agua, ajusta sutilmente las probabilidades de selección de algunas palabras (por ejemplo, aumentando la probabilidad de “rápido” y disminuyendo la de “veloz”). Esto no se nota en palabras individuales, pero al acumularse en un texto largo, se crea un “código” que solo puede ser reconocido por las máquinas.
En el caso de imágenes y archivos, las marcas son aún más evidentes: las imágenes reciben metadatos con firmas numéricas, y los archivos PDF/Word incluyen etiquetas de origen ocultas. Anthropic aseguraba que estas marcas no se podrían copiar ni eliminar con ediciones simples, pero su afirmación fue rápidamente desmentida.
II. La herramienta de desactivación de marcas de agua de GitHub: limpia completamente el contenido generado por IA
La herramienta watermarks-remover es muy efectiva y cubre todo tipo de escenarios:
1. Marcas de agua en texto: elimina los caracteres ocultos (como los espacios anchos Unicode) o reescribe el texto utilizando otro modelo de IA, desordenando así las reglas estadísticas utilizadas para generar las marcas (lo que puede llevar a la pérdida del tono y la calidad del texto original).
2. Marcas de agua en imágenes: utiliza la herramienta CtrlRegen para “reconstruir” las imágenes, manteniendo el contenido pero generando nuevos píxeles que eliminan completamente las marcas.
3. Marcas de agua en archivos: extrae metadatos como EXIF/XMP de los archivos PDF/Word (equivalente a arrancar la “tarjeta de identidad” del archivo).
4. Función de autocomprobación: se integra con un framework de detección de la Universidad de Tsinghua para verificar si las marcas realmente han sido eliminadas.
Lo irónico es que Claude misma se niega a ejecutar esta herramienta, incluso cuando los usuarios solicitan eliminar las marcas, lo que implica que “no pueden deshacerse de las etiquetas que ellos mismos han añadido”.
III. ¿Por qué ha comenzado esta guerra?
No fue un evento casual:
1. Presión regulatoria: Más de 190 empresas de IA han firmado los Criterios de Transparencia para el Contenido Generado por IA de la UE, que exigen que el contenido generado por IA cuente con marcas reconocibles por las máquinas. Anthropic fue una de las primeras en responder a estos requisitos, buscando obtener el control del discurso sobre la seguridad de la IA.
2. Intereses empresariales: La empresa que desarrolle primero una tecnología de marcas de agua efectiva tendrá una ventaja en las futuras normativas de la industria (Anthropic utilizó la solución SynthID de Google DeepMind para demostrar su capacidad técnica).
3. Reacción de los usuarios: Las marcas de agua se han convertido en un símbolo negativo del contenido generado por IA; si un usuario invierte 10 horas investigando y creando un framework, y luego utiliza Claude solo para mejorar el texto, su obra termina con la misma marca que las generadas completamente por IA. ¿Es justo? Los usuarios temen que su trabajo sea desvalorizado por esta etiqueta.
IV. Lo que realmente molesta a los usuarios: las marcas de agua como una etiqueta generalizada e injusta
Los usuarios no se oponen en sí al uso de marcas para identificar el contenido generado por IA, sino a su aplicación brusca:
- Borrosa distinción: No hay diferencia entre obras creadas con la ayuda de IA (por ejemplo, para mejorar el texto o buscar información) y aquellas generadas en su totalidad por IA; esto hace que las obras “semiautomáticas” sean etiquetadas como “completamente automatizadas”.
- Negación del valor: Los usuarios temen que los contenidos con marcas sean restringidos por las plataformas o cuestionados por los lectores, lo que ignora el valor de su trabajo.
- Falta de opción: Claude aplica estas marcas a todos los usuarios sin consultarles, lo que les parece una usurpación de su control sobre sus propios contenidos.
V. ¿Esta batalla tendrá un final? Se necesitan reglas más inteligentes
La lucha entre las marcas de agua y las herramientas de desactivación continuará: a medida que Anthropic mejore sus tecnologías, la comunidad open source desarrollará herramientas más eficaces para eliminarlas. Pero el problema real no es técnico, sino cómo equilibrar la necesidad de identificar el contenido generado por IA con la protección de los derechos de los creadores:
- ¿Sería posible establecer diferentes tipos de marcas (por ejemplo, “generado con ayuda de IA” o “completamente generado por IA”)?
- ¿Los usuarios podrían optar por no recibir estas marcas (por ejemplo, mediante pago)?
- ¿La regulación podría ser más flexible (exigiendo marcas solo para contenidos de alto riesgo, como noticias o publicidad, y permitiendo su omisión para otros)?
Si seguimos en un ciclo de “añadir marcas y luego eliminarlas, y viceversa”), los usuarios serán los más perjudicados: podrían ser víctimas de fraudes relacionados con la IA o ver sus obras calificadas erróneamente como generadas por ella. Quizás las marcas de agua pierdan su sentido cuando el contenido generado por IA no se diferencie en nada del creado por humanos, pero ese día todavía está lejos.
En esencia, esta guerra representa un problema de identidad en la era de la IA: debemos evitar que la IA se haga pasar por humana y asegurarnos de que los logros obtenidos con ella sean reconocidos. La tecnología actual de marcas de agua aún no ha encontrado el equilibrio adecuado.