第一财经

壹快评|不要把所有锅都甩给AI

该文章尚未提供 Français 解读,以下为中文版内容。

核心内容总结

近期AI在公益广告、比赛获奖作品、日常实用场景(如识别蘑菇、查机票、写研报)等领域频繁“翻车”,但多数使用者第一反应是甩锅给AI。文章指出这种做法不合理:AI只是工具,责任最终在人;过度信任AI源于对技术原理的不了解;用好AI需具备“工具素养”(懂原理、知边界、会验证);同时AI提供者和监管部门也需尽责,共同推动AI的合理应用。

详细拆解解读

1. AI“翻车”花样百出,锅却全让它背?

最近AI闹的笑话和麻烦真不少:山西临汾公益广告里行人头脚颠倒、垃圾袋钻出扫帚;呼和浩特摄影赛一等奖、东莞应急书法奖作品都是AI生成的“一眼假”;有人用AI识别野生蘑菇中毒,查机票退改规则亏了钱,订包间扑空,写研报把旧政策当新的,甚至律师用AI捏造的案例打官司被法官当庭打脸。这些事里,当事人几乎都把责任推给AI,让它成了“背锅侠”。

2. 甩锅AI合理吗?常识法律都不答应

从常识看,AI就是个工具——像菜刀或马路。菜刀能切菜也能伤人,马路能走路也能摔跤,关键看怎么用。AI的输出结果由人的指令决定,而且它本身会“幻觉”(乱编不存在的内容)。你用AI时不检查结果,出问题怪AI,就像闭眼走路摔了怪路不平、拿刀伤人怪刀锋利,完全是胡扯。

从法律讲,AI不是“人”,没有民事主体资格,不能独立担责。比如员工用AI写合同出错,公司可追责员工;学生用AI抄论文,学校按学术不端处理;公益广告审核不严闹笑话,就得追究相关部门责任。责任链条的终点永远是人。

3. 为啥过度信任AI?因为没搞懂它的“底细”

很多人信AI到盲目,是因为不了解它的工作原理:AI不是真的会思考,它是从海量数据里学规律,再根据概率算出“最可能的答案”。比如你问它问题,它会从学过的内容里找最像正确答案的,但有时会编出假案例、假法条(这叫“AI幻觉”)。正因为它是“猜”答案,所以不能完全信——盲目依赖肯定会踩坑。

4. 用好AI得有“工具素养”,不是谁都能随便用

AI不用考“驾照”,但用好它得有三个本事:①懂它的原理(知道它是概率计算,不是真思考);②知它的边界(比如不能让它单独写研报、看病);③会验证结果(比如用AI查信息后,自己再核对一遍)。普通人用AI查天气、找餐馆没问题,但分析师全靠AI写研报、医生全靠AI看病就太冒险了——不懂AI的话,还可能被换声换脸诈骗。

5. AI提供者和监管,也得负起责任

除了使用者,AI公司也得尽责:要改进产品减少错误,依法公布AI的参数和风险,还可以做科普让大家更懂AI。法律和监管部门也要完善规则,通过执法案例让责任落实(比如处罚审核不严的广告公司)。这样AI行业才能健康发展,大家用起来也更放心。

最后一句话总结

AI是好工具,但不能啥锅都让它背。每个人用AI时要承担责任、提升素养;提供者和监管也要出力,这样才能真正享受技术带来的好处。