当AI越来越像人，我们该如何守住“做人”的底线？
—— 深度解读外滩大会张容南教授演讲
一、 核心内容总结
在2026年外滩大会的一场论坛上，华东师范大学哲学系教授张容南抛出了一个直击当下痛点的问题：当人工智能（AI）越来越像人、甚至能模仿人的行为时，我们最大的风险不是机器失控，而是“人”被降格了。
简单来说，现在的技术正在跨越人类的边界。如果我们要警惕什么，不是怕AI太聪明，而是怕我们反过来用“机器的标准”去衡量“人”。比如，如果一个人不能像机器那样高效、精准、24小时待命，我们是否就会觉得他“不够好”？
张容南教授指出了AI损害人类尊严的三大风险：
1. 主体性丧失：算法替我们做决定，我们失去了“做主”的感觉。
2. 劳动价值被掏空：我们独特的经验被提取、复制，变得廉价。
3. 关系被替代：真实的人际互动被冷冰冰的技术取代，导致我们在情感上被贬低。
为了应对这些风险，他提出了一套“七项尊严原则”和“三层落地路径”，核心思想是：AI应该是人的助手，而不是人的替代者；技术必须服务于人，而不是让人适应技术。 这需要制度、市场和文化三方一起发力，确保在关键决策、隐私保护、情感关怀等方面，人类始终掌握主导权。
---
二、 深度拆解：五个维度看懂“AI时代的人类尊严”
1. 别做算法的“傀儡”：关键决定必须有人拍板
（对应原则：人类主导权原则）
想象一下，如果你去银行贷款、去医院做手术、或者去大公司面试，最后决定你命运的不是一个活生生的人，而是一个你看不见的“黑箱算法”。
- 现状风险：现在越来越多的场景，比如招聘筛选简历、医院初步诊断、司法量刑建议，都依赖AI。如果算法说“你不合格”或“你有病”，你往往不知道它为什么这么想，也没法找个人去吵架或申诉。这就叫“主体性被剥夺”——你不再是自己命运的主人，而是数据的奴隶。
- 通俗解读：张教授强调，越是影响你人生重大节点的事（如司法、医疗、招聘），越必须保留“人类复核节点”。
- 打个比方：AI可以像个超级高效的秘书，帮你整理资料、列出选项，但最后签字的笔，必须握在人类手里。
- 关键点：算法给出的结论必须是可解释、可纠正的。如果错了，你得知道错在哪，并且能找到一个具体的责任人（比如某个医生、某个法官、某个HR经理）去追责，而不是对着空气喊“我投诉那个代码”。
2. 你的身体和数据，不是公司的“免费午餐”
（对应原则：数据自决原则 + 数据与叙事自主原则）
现在的应用APP，动不动就要你的位置、你的健康数据、甚至你的脑电波或情绪状态。张教授指出，这些高度敏感的数据，不能成为你使用服务的“门票”。
- 现状风险：很多产品逻辑是：“想用微信/用这个APP？先交出你的隐私。”如果你不交，你就用不了基础功能。更可怕的是，企业拿到你的数据后，可能未经你二次同意，就拿去训练AI模型，甚至做成商品卖钱。你的个人经历、故事、情感波动，变成了别人的“训练素材”。
- 通俗解读：
- 知情同意要具体：不能只有一行小字让你勾选“我同意”。你要清楚地知道，他们拿你的心跳数据干什么，拿你的聊天记录干什么。
- 随时能撤回：就像你租房子，随时可以退租。如果有一天你不想让AI知道你的情绪了，必须有一个简单的按钮让你“断开连接”。
- 基础功能不能绑架隐私：你不想分享位置，APP依然应该能正常发消息，而不是直接把你踢出去。
- 数据主权归你：你和AI聊天的记录、生成的内容，那是你的“数字资产”。企业不能偷偷摸摸拿去赚钱。你想删就删，想改就改，控制权在你手里。
3. AI是“拐杖”，不是“轮椅”：防止能力萎缩
（对应原则：能力支持而非取代原则）
我们常说“用进废退”。如果AI什么都替我们做了，我们的能力会不会退化？
- 现状风险：以前我们要查资料、要思考、要判断，现在AI一键生成答案。长期依赖，可能导致我们的批判性思维、独立判断能力、甚至基本的生活技能（如写作、计算、方向感）出现“萎缩”。我们变成了AI的“遥控器”，而不是AI的“主人”。
- 通俗解读：
- 定位要摆正：AI应该是“补足”你的能力，而不是“接管”你的能力。
- 保留“练习”的机会：就像学开车，AI可以当教练，但不能一直替你踩油门。我们要保留独立思考和练习的空间。
- 警惕“舒适区陷阱”：如果因为用了AI，我们不再愿意动脑子去质疑、去验证，那我们的智力水平就会慢慢退化。张教授提醒，要防止长期依赖自动化，导致人变得“懒”且“钝”。
4. 别把真人变成“数字商品”：反物化与拟像警示
（对应原则：反物化与拟像警示原则）
现在AI可以克隆你的声音、你的脸，甚至你的性格。这带来了一个可怕的问题：人变成了可以被随意拼装的“零件”。
- 现状风险：
- 形象被盗用：没经过你同意，你的脸、声音被做成虚拟偶像、广告素材，甚至被用来诈骗。
- 认知混淆：很多AI聊天机器人、虚拟伴侣，做得太像真人了。用户（尤其是老人、孩子、孤独者）可能分不清对面是机器还是人，产生情感依赖，一旦得知真相，会产生巨大的心理落差和被欺骗感。
- 通俗解读：
- 身体和形象是神圣的：没有你的明确许可，任何人不能把你的形象、声音做成可以随意买卖、拼装的“数字商品”。
- 必须“亮明身份”：所有拟人化的AI产品，必须有清晰、持续的标识，告诉用户：“我是机器，不是真人。” 就像电影里的特效演员要标注一样，AI也要“持证上岗”，避免用户产生认知混淆，保护用户的心理边界。
5. 技术不能成为“甩锅”的借口：关怀底线不可破
（对应原则：响应脆弱性原则 + 人机关系是补充，绝不可以替代人际交往）
这是最温情也最沉重的一点。在老人、儿童、病患这些最需要关怀的场景，AI能替代真人吗？
- 现状风险：
- 情感替代的幻觉：有些公司推出AI陪伴机器人，卖给独居老人。表面上看，老人有“人”说话了，但实际上，机器无法提供真正的共情、理解和温暖。
- 社会责任的逃避：政府或机构可能因为有了AI，就削减真人护理员、教师、社工的投入。理由是“AI更便宜、更高效”。这其实是用技术掩盖了社会结构性责任的缺失。
- 脆弱时刻的冷漠：当人处于极度脆弱、痛苦、需要被“看见”的时刻，AI只能给出标准化的、冰冷的反馈，甚至因为识别到风险而直接切断服务，而不是提供人工接管。
- 通俗解读：
- AI只是辅助，不是唯一：在养老、育儿、医疗等高依赖场景，AI只能是辅助工具。它不能成为人类唯一的互动对象。
- 必须有人工“兜底”：系统要设计“停止、求助、人工接管”的入口。当AI发现用户情绪异常、风险信号时，必须立刻降低自动化程度，把真人照护者请到前台。
- 财政和人员不能减：公共层面，政府不能因为有了AI，就减少真人服务投入。技术不能成为社会结构性弃责的借口。真实的关怀、拥抱、眼神交流，是机器永远无法替代的。如果因为用了AI，老人更孤独了，孩子更缺爱了，那这个技术就是失败的。
---
三、 如何落地？三层路径与三个关键词
张教授最后强调，这套理念不能只停留在口号上，需要三层实施路径：
1. 部署前：独立伦理审查。在AI产品上线前，必须有独立的第三方机构审查它是否侵犯了人类尊严，而不是企业自己审自己。
2. 制度层：建立约束。法律、法规要明确规定AI的边界，比如数据怎么采、责任谁承担、标识怎么做。
3. 架构层：提前预设保护。在技术设计之初，就要把“人类主导”、“隐私保护”、“人工接管”等功能写进代码里，而不是事后打补丁。
最后，他总结了三个值得每个人记住的关键词：
- 责任在场：关键决策必须有人类负责，算法可以被解释、被质疑、被纠正。别把锅甩给“系统错误”。
- 人类主导：你的身体、数据、人生故事，决定权属于你本人。你是主人，AI是工具。
- 关怀底线：技术不能消解人际责任。脆弱群体（老人、病人、孩子）不能只收到冰冷的自动化反馈。人类真实的关怀，永远不可替代。
结语：
AI浪潮不可阻挡，但“人”的价值也不应被稀释。守护人类尊严，不是反对技术，而是要求技术“懂分寸”。我们要做的，是确保在享受AI便利的同时，依然能感受到作为“人”的尊严、自主和温暖。