虎嗅

教皇也开始忧心AI,诺奖得主回应:人类尚未对AI引发的最隐蔽风险采取措施

该文章尚未提供 Español 解读,以下为中文版内容。

核心内容总结

罗马教皇发布了天主教会史上首份AI伦理通谕《伟大的人性》,聚焦AI时代的伦理挑战,呼吁维护人类责任、防止技术权力集中等;同时,诺贝尔物理学奖得主帕里西接受采访,从科学家视角回应了AI的非中立性、黑箱特性、人类决策权、劳动影响及全球治理等关键问题,强调AI应是工具而非权威,需多元参与和国际规则约束。

详细拆解解读

1. AI不是“中立工具”,它藏着设计者的价值观

帕里西说“技术从来不是中立的”,这点在AI上特别明显。比如AI算法学习的样本(数据)不是客观的——假设训练招聘AI时用的历史数据里男性被录用更多,机器就会学这种偏见,甚至放大它(比如更倾向拒绝女性简历)。设计者的选择(选什么数据、怎么设计模型)早就把价值观嵌进去了。他还说,科学家别假装“绝对中立”,承认这点才能主动决定AI该有什么价值观(比如公平、尊重)。

2. AI像“黑箱”但不是完全摸不透,未来可能需要“AI心理学家”

AI的深度神经网络是个“黑箱”——我们知道它输入输出什么,但中间层怎么运作(比如怎么从图片里识别猫)说不清楚,像帕里西研究的复杂系统(比如天气)一样难预测。但他觉得不是“永远看不懂”:物理学能提供工具,甚至未来可能出现新职业——像心理学家研究人那样,通过观察AI的行为(比如给它不同输入看反应)来理解它,而不是靠方程式推导。

3. 人类必须攥紧“最终决策权”,机器不能替我们做道德选择

教皇说“最终决定权在人类”,帕里西完全同意。机器可以帮忙处理数据、提建议,但不能做需要负责的决定——因为机器没有意识,不懂“对错”,也没有同情心。比如:不能让AI决定谁能贷款(可能歧视穷人)、谁该被录用(偏见),更不能让AI决定战争中攻击谁(通谕也反对这个)。最隐蔽的风险是:把本来是政治或道德的决定(比如“该给哪些人福利”)说成是“技术性决定”,悄悄让机器背锅。

4. AI改变劳动和权力:速度太快怕适应不了,控制“数字门户”的人会很有权

AI对劳动的影响比工业革命快——过去变一代,现在变几年,人们没足够时间适应。更关键的是:AI可能成我们进入数字世界的“门户”(比如你刷的信息、学的课程、找的工作都经过AI过滤),控制这个门户的公司或机构会有巨大权力。帕里西说,这不是技术的错,是社会怎么分配收益的问题——比如减少工作时间,让大家都有活干,而不是少数人拿所有好处。

5. AI需要全球管起来,还要哲学家和公共研究一起上

帕里西觉得AI不是“无法治理”(比如城市交通复杂但有红绿灯就能管),但现在缺国际规则。他支持欧洲建公共AI研究机构(像核物理的CERN),因为现在前沿AI都在大公司手里,他们会保密;公共机构能让知识共享,让更多小公司参与。另外,AI问题不只是技术——比如“什么是意识”“谁该负责”是哲学家想了几百年的问题,工程师搞不定,所以得让哲学家、人文学者和道德机构一起参与讨论。最后,他呼吁重建国际治理体系(比如联合国更给力),甚至签国际条约设“红线”(比如禁止AI自主杀人)。

总结

这篇采访和通谕的核心是:AI是把双刃剑,它的好坏取决于人类怎么设计、怎么用、怎么管。不能让技术“失控”,得把人类的尊严和责任放在第一位,还要靠全球合作和多元智慧来应对挑战。