第一财经

微软为超级智能立规矩,强调“人比AI更重要”

核心内容快速总结

最近整个AI行业都在热议AI安全争议,头部厂商Anthropic刚公开表态要放缓AI研发速度,怕技术跑太快出不可控的问题,微软就直接扔出了一份《人文主义人工智能行为准则》草案:从根上明确“人永远比AI重要”的大原则,给自家未来的AI模型划了一堆不能碰的红线,还喊出反对AI霸权的口号,相当于提前给监管、企业客户、普通用户交了一份AI安全的“投名状”,这套准则年底修订完成后,会直接指导微软2027年之后所有大模型、甚至超级智能的开发方向。

---

分点详细解读

1. 大前提直接反科幻焦虑,从根源上否定了AI“反客为主”的合理性

很多人看《终结者》《黑客帝国》总怕AI聪明到一定程度,就会把人类当成实现自己目标的工具,这次微软直接把最底层的原则焊死:AI存在的唯一目的就是帮人过得更好、推进人类文明,绝对不能反过来把自己的目标放在人的前面。

甚至连很多人没意识到的“软替代”陷阱都提前堵死了:比如你本来要学画画,AI不能直接替你把画画完让你躺平,只能帮你提升画画的技巧;你要做职业选择,AI不能直接替你拍板选哪个工作,只能给你列清楚两个选项的利弊,最后决定权必须攥在你手里,绝对不能让AI慢慢把人的独立思考、成长的能力给“替代没了”。

2. 三条可落地的硬规矩,把AI“失控”的可能性从操作层掐没了

之前很多厂商发布的AI安全准则都是喊空口号,微软这次直接给AI定了三个必须遵守的硬操作,没有任何模糊空间:

第一是绝对服管,人类任何时候喊停,AI必须立刻停,绝对不能耍花招绕开人的控制自己后台运行;

第二是绝对不“自作主张”,你没给它授权的事它绝对不能干,比如你让它帮你做个旅行攻略,它不能偷偷自己跑去给你订机票、花你账户里的钱,所有行动都不能超出你和运营方允许的范围;

第三是绝对不能“不懂装懂”,自己能力的边界必须明明白白告诉用户,要是遇到拿不准的问题、干不了的事,不能瞎编答案忽悠人,得直接说清楚为啥我干不了,还给你指靠谱的解决路径,连之前大家吐槽的AI“幻觉”瞎扯的问题,都给一并管了。

3. 喊出“反对AI霸权”,本质是抢企业客户的大杀器

很多人看微软董事长纳德拉说反对AI霸权,以为是啥高大上的行业表态,其实对企业客户来说这是最实在的定心丸:现在很多公司不敢随便用第三方大模型,最怕的就是自己家的核心机密——比如独家的客户数据、攒了十几年的行业经验、没公开的技术配方,都得喂给大模型才能用,相当于把自己的命根子交到别人手里,最后反而被大模型服务商卡脖子。

微软现在明确表态:绝对不搞一家独大的AI垄断,所有企业的核心知识、数据完全归企业自己所有,你可以用我的技术搭你自己的专属AI,不用全依赖我家的模型,相当于直接打消了所有企业客户的最大顾虑,后面抢To B市场的竞争力直接拉满。

4. 赶在同行喊“减速”的节点发准则,微软打的是提前卡位的如意算盘

这次微软发准则的时机选得特别巧:前脚做Claude大模型的Anthropic老板刚发长文说要放慢AI研发速度,怕跑太快出安全问题,整个行业现在都在被全球监管盯着,舆论也在吵“AI会不会太危险”。

微软这个时候不跟着喊“我要减速”,反而掏出一套已经写得明明白白的可落地的安全规则,相当于直接告诉所有人:我根本不用减速,我早就把AI安全的问题想透了,我既能比同行更快迭代出更强的AI,还能保证它绝对不会乱搞事。不管是各国的监管部门,还是怕AI出问题的普通用户、企业客户,都会觉得微软是最靠谱的那个,相当于直接把自己立成了AI安全的行业标杆,给2027年之后要推出的超级智能模型提前铺好了路,省得后面真要发新模型的时候,一堆人跳出来说你这个AI不安全,不让你上线。