虎嗅

AI不回答禁忌知识,是更加聪明的表现吗?

核心内容总结

这篇新闻抛出了一个关于AI的关键争议:AI的“选择性失明”(对某些内容故意不回应或模糊处理)到底是保护安全的必要措施,还是在悄悄限制人类获取知识的范围?同时引发两个深层问题:如何在“安全”和“真相/信息自由”之间找平衡,以及这条“能说/不能说”的红线该由谁来定。

详细拆解解读

1. 先搞懂:AI“选择性失明”到底是啥?

简单说,就是AI遇到某些问题时,会“装不知道”或者给出模棱两可的回答。比如你问它“怎么制作危险化学品”,它会说“抱歉,我不能帮你这个忙”;问它一些敏感的历史争议事件,它可能回避说“这个话题比较复杂,建议参考权威资料”;甚至问某些小众但合法的知识(比如特定地区的传统习俗),也可能因为算法判断“敏感”而被过滤。本质上,这是AI背后的开发者给它设置了一套“过滤规则”,让它对某些内容“闭嘴”。

2. 为啥要让AI“装糊涂”?——安全防火墙的必要性

AI的“选择性失明”最初是为了防风险。比如:

  • 防止AI被用来干坏事:如果AI教别人制作炸弹、传播仇恨言论,或者生成虚假信息(比如伪造名人讲话),会直接危害社会安全;
  • 避免法律和伦理麻烦:科技公司怕因为AI输出有害内容被追责,所以提前设置过滤;
  • 保护用户:比如避免未成年人接触暴力、色情内容。

举个例子,ChatGPT刚出来时,有人尝试让它写恶意软件代码,开发者很快就加上了限制——这就是“防火墙”在起作用,确实能挡住很多直接的危害。

3. 麻烦来了:“装糊涂”会不会划出新的知识边界?

问题在于,AI的过滤规则有时候太“死板”,会把一些合法、有用的知识也挡在外面:

  • 比如学生写论文想查某个争议历史事件的不同观点,AI可能因为“敏感”而不提供全面信息,导致学生没法获取完整资料;
  • 比如某些小众科学研究(比如关于边缘疾病的治疗方案),可能因为算法认为“不主流”而被忽略;
  • 更隐蔽的是,AI的过滤标准可能带有偏见:比如某些地区的文化内容被误判为“敏感”,或者某些群体的声音被压制。

这就像给人类的知识圈了一块“禁地”——不是因为这些知识有害,而是因为AI的规则不让你碰,慢慢的,我们能接触到的信息就变窄了。

4. 安全和真相怎么权衡?——不能走极端

要平衡这两点,得避免“一刀切”:

  • 对明确有害的内容(比如犯罪方法、仇恨言论),必须严格过滤——这是底线;
  • 对有争议但合法的内容,AI不该直接“闭嘴”,而是要引导:比如可以说“这个话题有不同观点,以下是权威来源的信息供你参考”,而不是完全不回应;
  • 给用户“选择权”:比如让用户自己设置过滤的严格程度(就像视频网站的青少年模式),而不是所有用户都用同一套标准。

比如,问“某历史事件的真相是什么”,AI可以列出不同立场的权威资料,让用户自己判断,而不是直接说“我不知道”。

5. 红线该由谁来定?——不能一家说了算

目前AI的过滤规则大多是科技公司自己定的,但这会有问题:

  • 公司可能为了商业利益(比如怕得罪某些群体或政府),把过滤标准设得太严;
  • 单一公司的视角有限,容易忽略某些群体的需求。

所以,红线应该是“多方协商”的结果:

  • 政府出台基本框架(比如明确哪些内容绝对不能输出);
  • 科技公司在框架内细化规则,但要公开透明(比如告诉用户哪些内容会被过滤,为什么);
  • 用户和专家参与监督:比如设立反馈渠道,让用户投诉AI的不合理过滤,或者邀请伦理学家、学者一起调整规则。

只有这样,红线才不会变成某一方的“一言堂”。

最后总结

AI的“选择性失明”不是非黑即白的问题——它既是安全的防火墙,也可能成为知识的“围墙”。关键是找到平衡点:既不让有害信息扩散,也不限制合法的信息获取;同时,让更多人参与到规则制定中,而不是让少数公司说了算。毕竟,AI是服务人类的,它的“红线”也应该符合大多数人的利益。