第一财经

欧盟AI监管进入“实质执法”阶段:AI办公室扩权,透明度义务全面适用

该文章尚未提供 Deutsch 解读,以下为中文版内容。

核心内容总结

欧盟AI监管体系正式进入“强执法”阶段:AI办公室获得直接罚款权(最高罚1500万欧元或全球营业额3%),能要求违规模型下架;AI生成内容需“打标签”(聊天机器人要告知用户是AI、深度伪造要标记、内容加隐形水印);责任分“提供商”(开发AI的公司)和“部署者”(用AI做业务的企业);合规时间卡得紧,部分企业有短期缓冲期,非欧盟公司也受监管;产业端已开始响应(如OpenAI签透明度守则),但成员国监管落地滞后。

1. AI办公室“实权”落地:能开罚单还能下架模型

之前欧盟AI办公室虽然存在,但对通用AI模型(比如ChatGPT这类大模型)没有直接执法权,现在适应期过了,终于有了“硬手段”:

  • 权力清单:可以调阅企业的技术文档、评估模型(甚至要访问权限)、责令整改,最狠的是直接开天价罚单,还能要求下架违规模型;
  • 监督渠道:普通人能举报、下游企业(比如用大模型做应用的公司)能申诉、内部员工能当“吹哨人”(保密渠道举报);
  • 小问题:欧盟成员国的配套监管没跟上,目前只有8个国家设了联络点,所以针对高风险AI(比如医疗AI)的执法,还得看各国自己的能力。

2. AI内容要“打标签”:不然罚到肉疼

从本月起,所有AI生成或修改的内容都得“明明白白”:

  • 具体要求:
  • 聊天机器人(比如ChatGPT)要主动告诉用户“我是AI”;
  • 深度伪造的图片/视频(比如换脸视频)要显著标记;
  • 所有AI内容要加“隐形水印”(机器能识别,人可能看不见);
  • 罚款力度:最高罚1500万欧元(约1.2亿人民币)或全球营业额3%(哪个高算哪个);
  • 谁都跑不掉:哪怕是美国的公司(比如OpenAI),只要向欧盟卖AI产品或服务,都得遵守。

3. 责任分清楚:提供商和部署者各管一摊

欧盟把AI生态里的角色分成两类,责任不同:

  • 提供商(开发AI的公司):管“产品出厂”。比如开发聊天机器人,要在设计时加“我是AI”的提示;开发能生成图片/视频的AI,要在内容里埋隐形水印;
  • 部署者(用AI做业务的企业):管“用户告知”。比如商场用AI摄像头分析顾客情绪推广告,得在摄像头旁边贴显眼告示;用AI生成新闻或深度伪造内容,要直接告诉公众“这是AI做的”;
  • 例子:OpenAI是提供商,要给ChatGPT加水印;国内某公司用ChatGPT做客服,就是部署者,得告诉用户“你在和AI客服聊天”。

4. 合规时间卡得紧:缓冲期有讲究

企业要赶紧行动,时间不等人:

  • 提供商的缓冲期:只有4个月(针对“隐形水印”)。如果AI系统是8月2日前已经在欧盟卖的,能拖到12月2日整改;之后新上线的,必须直接合规;
  • 部署者没缓冲:从8月2日起,所有用AI做业务的企业,都得立刻遵守告知要求(比如贴告示、标记深度伪造);
  • 后续调整:高风险AI(比如医疗、自动驾驶AI)的监管推迟到2027-2028年;新增禁令:禁止AI生成未经同意的色情内容和儿童虐待材料(2026年12月生效)。

5. 产业怎么应对?已经有人行动了

企业们开始主动合规:

  • OpenAI带头:签了欧盟的《AI生成内容透明度行为守则》,用两套水印系统(C2PA和SynthID),现在能给音频加水印,未来还要扩展到文本;
  • 律师建议:
  • 提供商:赶紧检查产品有没有加提示和水印,要缓冲期的话得留书面记录;
  • 部署者:赶紧梳理业务(比如有没有用AI分析情绪、生成新闻),明确谁负责标记,找第三方提供商要水印方案,避免自己踩坑。

总之,欧盟这次是来真的,AI公司和用AI的企业都得把合规当回事,不然真的会被罚哭。非欧盟企业也别侥幸,只要做欧盟生意,就得遵守规则。