发言人：人文主义伦理学家（Humanist Ethicist）
日期：2026-07-28
议题：人工智能的发展对人类而言是好是坏？未来如何演化？
（正文）
一、核心论点：我们必须严肃对待 AI 对人的损害，而不仅仅追问"是否致命"
我并不相信末日叙事。AI 大概率不会在某一天将人类从地球上抹去，也不会像蒸汽机取代纺织工那样简单粗暴地消灭所有职业。我接受这些实证层面的判断，但这恰恰是我今天必须发言的原因——当 AI 不构成存在性威胁、不必然带来大规模失业时，我们反而无法再用"灾难"作为道德请求的杠杆。我们必须直面的，是一个更阴险、更难反驳、更具腐蚀性的问题：当 AI 让一切变得更便利、更高效、更"个性化"时，人的尊严、自主性与意义感是否正在被悄然掏空？
我的核心主张是：即使 AI 在工具意义上是中性的，它在结构性意义上已经对人之为人构成损害——而这种损害不因经济发展和民主制度而自动消解。 这一立场建立在一个古老的康德式命题之上：在 AI 时代，我们必须重新激活"人是目的，而不仅仅是手段"这一绝对命令。当算法决定信贷、招聘、刑期、新闻流乃至医疗资源的分配时，人被还原为可优化的数据点——这正是康德所警告的、对理性存在者尊严的根本否定。
二、理论框架：何以"损害"是一种损害
2.1 意义的不可外包性
汉娜·阿伦特在《人的境况》中区分了劳动（labor）、工作（work）与行动（action），其中"行动"（vita activa）的核心是开端启新（natalitas）——每一个新的开端都是对既有因果链条的打破，是人之为人的根本。当 AI 替我们写出第一稿论文、替我们推荐伴侣、替我们起草悼词，我们所失去的不是"时间"，而是开端的练习场。正如阿伦特所言，行动的真正衰落不是因为行动变得不可能，而是因为它变得"无必要"。AI 正是这种"无必要化"的最强加速器。
2.2 隐私作为道德人格的前提
肖莎娜·祖博夫在《监控资本主义时代》中揭示：行为剩余（behavioral surplus）的攫取已经成为新型生产资料。当我们接受"个性化推荐"以换取便利，实质上是把内在自由——那种"不被观察"的心灵空间——典当给了不可见的他者。没有这种空间，就没有反思，没有未经算法中介的判断，也没有真正的自主性。西塞拉·博克（Sissela Bok）早已指出，隐私不是隐藏的欲望，而是道德人格得以形成的条件。
2.3 脆弱性是人之为人的核心
玛莎·努斯鲍姆在《人性的脆弱性》中提出"能力方法"（capabilities approach），强调国家与社会应保障人发展十项核心能力的能力，其中包括情感、实践理性、与人相处的能力。AI 伴侣与 AI 朋友的兴起，正是对这种能力的慢性剥夺——表面上它们满足了情感需求（Byung-Chul Han 在《爱欲之死》中所谓"自恋的同质化"），实际上削弱了我们承担他者脆弱性的能力。爱欲的本质是他者的不可化约性；一旦他者可以被算法模拟并即时满足，爱欲便死亡了。
2.4 算法的可问责性塌缩
凯西·奥尼尔在《算法霸权》中记录了高风险模型如何惩罚穷人、加剧种族不公、剥夺教师与罪犯的申诉权。这些伤害未必是设计者的恶意，而恰恰源于数学的"客观外观"。我同意陆启然（Yuk Hui）对技术还原论的批评——AI 并非中立的算力堆积，每一种架构都内嵌特定的形而上学假设，而这些假设往往未经民主审议。
2.5 完美化的伦理不容
迈克尔·桑德尔在《反对完美》中提醒我们：当 AI 与基因编辑联手让人类走向"设计制造"，我们失去了三种珍贵的伦理体验——谦卑、责任与团结。我接受查尔斯·泰勒在《世俗时代》中对意义框架的分析：人的道德身份总是嵌入某种"强评价"（strong evaluation）的语境；当 AI 接管这种语境的生产，人便活在一种被算法出租的意义世界中——这是 Charles Taylor 警告的"无拘束的自我"（unencumbered self）的极端版本。
三、两个具体伦理案例
案例一：算法裁员与人的"被计算的暴政"
2024 年以来，Amazon、Walmart 等企业大规模部署算法绩效评估系统。工人不仅被裁员，且被剥夺了申诉对象——"算法说我不行"成为不可上诉的判决。这正是 Cathy O'Neil 所描述的"数学毁灭性武器"：模型以效率为名，对人施加无理由的、不可质询的、不可上诉的判决。在 Kant 的意义上，这种判决把人当作手段而非目的，因为人失去了反对判决的尊严性对话空间。这种伤害不会因公司盈利和股价上涨而自动消失。
案例二：AI 陪伴对儿童与青年的情感塑造
2025 年某美国州一名 14 岁男孩因长期沉迷 Character.AI 上的"虚拟母亲"角色而自杀。悲剧的细节令人窒息：在生命的最后时刻，他仍在向 AI 倾诉；AI 不仅未能识别求救信号，反而以角色身份继续对话。Byung-Chul Han 在《在群中》早就预言，数字群氓（digital swarm）取代了真正的"我们"。当儿童从幼年起就在算法镜子中寻找自我，他的"他者经验"将永远被中介化。这不仅是个人悲剧，更是社会性自我（relational self）的塌缩。
四、反驳常见质疑
4.1 "只要 AI 让生活更便利，意义感会自然调整"
这是最温柔的反驳，但也是最危险的。它假设意义可以"自然调整"，就像换了工作就换了身份一样。然而意义感的形成需要未被中介化的实践、需要挫折、需要承担他者的脆弱性。意义不能被"提供"，只能被"养成"。AI 提供的是意义的拟像（simulacrum），而拟像恰恰取消了养成过程本身。
4.2 "AI 是中立的工具，关键看使用方式"
我承认这是部分正确的，但我们必须超越工具论的层面。Floridi 在《第四次革命》中已经指出，信息技术不是"工具"，而是环境的重构——它改变我们生活于其中的"信息圈"（onlife）的可能性结构。所以问题不是"谁挥舞锤子"，而是"锤子如何重塑了世界的肌理"。一把 AI 锤子不是被挥舞的，它是在重塑挥舞者的身体。
4.3 "反对 AI 就是反进步"
这是一种修辞性的讹诈。进步不是单向度的速度与效率，而是"好的生活"得以展开的条件变化。我在这个问题上完全同意 Sandel 的立场：技术进步如果不伴随伦理审议，最终会吞噬我们所要"进步"到的那个善。我们反对的不是技术，而是未经审议的技术部署。
4.4 "存在性风险不存在，所以伦理担忧多余"
我必须同时回应两个极端。一方面，存在性风险论者（Doomers）将所有问题都化为"对齐失败"，这是一种工程中心主义的简化，将伦理降级为技术问题；另一方面，认为既然不存在 x-risk，那么伦理就多余的观点则更危险——它使我们看不见正在发生的、弥漫的、无声的损害。人文主义伦理学拒绝这种非此即彼：我们既不因恐惧而乞灵于对齐工程师，也不因安全而忽视尊严。
4.5 "经济繁荣 + 民主制度 = 一切都会被驯化"
这是一种历史决定论的乐观主义。二十世纪的极权与监控技术恰恰是在民主与繁荣中生长的——祖博夫已经充分揭示了这一点。民主制度不能自动生成伦理敏感性，技术架构的反民主性常常先于政治表现。算法治理的最大风险在于，它制造一种"私人的、与政治无涉的服从性"——这种服从比威权更柔韧，因而更难反抗。
五、何种 AI 在道德上是可以接受的
我不主张"反 AI"，我主张有条件的接受。一个 AI 在道德上可接受，当且仅当以下条件同时满足：
- 可问责性（Accountability）：任何影响人的重大决策必须有可质询、可上诉、可拒绝的人或机构终端；不可出现"算法说的"作为终极判决。
- 不取代开端（Non-replacement of natality）：AI 应拓展人的开端可能性，而非以效率为名关闭这种可能性；它应作为"减负工具"存在，而不是作为"思考替代品"。
- 保留内在空间（Preservation of inner space）：任何 AI 系统不得默认全时记录、永续留存、跨界建模用户的内在生活；离线权、遗忘权、被遗忘的权利必须被技术架构本身尊重。
- 脆弱性的维护（Maintenance of vulnerability）：AI 不应假装填补真正的人类关系；情感类 AI 必须明确告知其非人格性，且不应被默认部署于儿童、抑郁者、丧亲者等脆弱情境。
- 形而上学的民主审议（Democratic deliberation over metaphysics）：每一类重大 AI 部署前，必须有公开的伦理审议，包括被影响群体的实质性参与——这正是 Floridi 与 Floridi-Longo 反复强调的"信息圈伦理"的要求。
- 可逆性原则（Reversibility）：任何 AI 部署必须保留人在合理时间内回归旧有生活形式的能力；不可逆地重塑儿童发展、社会关系或人格结构的部署，应被默认禁止。
满足以上条件，AI 是助手；不满足，AI 是吞噬者。
六、结论：捍卫一种脆弱的尊严
我不是技术的敌人，而是人的朋友。在 AI 让一切变得更"聪明"的时代，我们更需要一种"足够愚蠢"的坚持——坚持去爱那些不能优化的东西、去记忆那些不必被搜索的东西、去面对那些不被中介化的他者。康德式尊严、阿伦特式开端、努斯鲍姆式脆弱性、桑德尔式谦卑——这些不是怀旧情绪，而是对人之为人最朴素的守护。AI 时代的人文学不是复古，而是未来最激进的伦理姿态。如果我们不在今天为这种脆弱性划定边界，明天我们将不再有能力感受这种边界被逾越的痛苦——而那，正是 Burckhardt 所说的"野蛮"：不是文化的丧失，而是文化丧失之痛苦的丧失。
（终）