Resumen en lenguaje sencillo
Las nuevas regulaciones de juicio de disputas relacionadas con la IA, publicadas recientemente en septiembre de 2026 por la Corte Suprema, representan una gran ventaja para los desarrolladores de IA de código abierto: siempre y cuando informen de manera clara y anticipada sobre las funciones y los posibles riesgos de su código o modelo de IA de código abierto a todos los usuarios, no tendrán que asumir responsabilidad si alguien utiliza dicho código para cometer actos de infracción o ilegalidad. Sin embargo, los abogados han analizado los acuerdos de usuario de los principales productos de IA de código abierto en China y han descubierto que todos contienen declaraciones de exención de responsabilidad obsoletas, utilizadas desde hace décadas en el ámbito de los software tradicionales, lo que significa que lo que muchos consideran un “salvo de responsabilidad” es en realidad inútil. Si no se corrige esta situación, es muy probable que los desarrolladores sufran graves consecuencias.
---
Descripción detallada
1. Entendamos primero: el “salvo de responsabilidad” ofrecido por la Corte Suprema para la IA de código abierto no es automático
Muchas personas pensaban que, al compartir su código de IA de código abierto de manera gratuita, no tenían que asumir responsabilidad alguna. Pero antes de la existencia de regulaciones claras, era común que los usuarios finales utilizaran dicho código para realizar actos ilegales, y las víctimas demandaran tanto a los desarrolladores como a los propios usuarios finales, con los desarrolladores siendo condenados según el criterio del juez. Las nuevas regulaciones establecen claramente las condiciones para obtener este exención: no basta con compartir el código de forma gratuita o con una simple declaración de no asumir responsabilidad; se requiere que los desarrolladores informen de manera proactiva sobre las características reales de su código de IA y que demuestren que no participaron ni se beneficiaron de cualquier actividad ilegal que se haya llevado a cabo con él. Esto proporciona a los desarrolladores de código abierto una mayor seguridad y los alienta a compartir su trabajo sin temor a ser implicados en problemas.
2. Cuán absurda es la situación actual: los acuerdos de exención de responsabilidad de la IA de código abierto son prácticamente inútiles
Los abogados han examinado los acuerdos de varios modelos de IA de código abierto populares en China y han encontrado que son extremadamente deficientes. Por ejemplo, los acuerdos de modelos como DeepSeek, GLM y Kimi contienen solo unas pocas cláusulas, que se reducen a una frase que dice: “El desarrollador no ofrece ninguna garantía y el usuario asume todas las consecuencias”. Incluso el acuerdo de Alibaba Tongyi Qianwen de código abierto, que es relativamente completo, utiliza el estándar Apache 2.0, que es básicamente el mismo que se ha utilizado en software tradicional, lo que significa que no ofrece ninguna garantía real. Es como vender una herramienta y solo indicar en el empaque que no se reembolsará en caso de daño, sin informar al comprador de sus limitaciones (por ejemplo, que no puede utilizarse para perforar concreto o que puede causar accidentes). Si alguien utiliza dicho código para un propósito peligroso y ocurre un accidente, una declaración de exención estándar no servirá como prueba de que se cumplió con la obligación de advertir al usuario.
3. Advertencia sobre posibles problemas: lo que consideramos una forma de “echarle la culpa” a otros no es lo mismo que una exención legal
Los acuerdos de los desarrolladores de IA de código abierto actuales incumplen con tres requisitos esenciales de las nuevas regulaciones:
- Divulgación proactiva de riesgos: Los desarrolladores deben informar claramente sobre los riesgos específicos de su código de IA (por ejemplo, que el modelo puede generar contenido falso o que puede violar derechos de autor).
- Definición clara de las capacidades del modelo: Los acuerdos deben especificar qué puede y qué no puede hacer el modelo (si solo está destinado a uso académico o también a aplicaciones comerciales).
- Delimitación de escenarios de alto riesgo: Los desarrolladores deben indicar qué usos están prohibidos para su código de IA.
4. Por qué los desarrolladores no modifican sus acuerdos
Muchos desarrolladores se resisten a actualizar sus acuerdos, a pesar de los riesgos. Esto se debe a la competencia en el mercado de la IA de código abierto, donde los acuerdos más detallados pueden disuadir a los usuarios finales. Además, la industria ha dependido durante décadas de acuerdos tradicionales como Apache 2.0, y no se ha reconocido que estos no son adecuados para la IA. Además, hay una tendencia a priorizar la velocidad y la simplicidad en la redacción de los acuerdos para atraer más usuarios.
5. Previsión futura: una gran actualización de los acuerdos de código abierto
Con las nuevas regulaciones claras de la Corte Suprema, aquellos que sigan utilizando acuerdos obsoletos no podrán beneficiarse de la exención de responsabilidad. En los próximos seis meses, casi todos los desarrolladores de IA de código abierto actualizarán sus acuerdos para incluir información más completa sobre las funciones, los riesgos y los usos permitidos. Esto será beneficioso tanto para los usuarios como para la industria en su conjunto, ya que reducirá el riesgo de que los modelos de código abierto se utilicen de manera insegura y promoverá un desarrollo más estable y responsable de la IA de código abierto.