一个越来越常见的动作
留心观察一下你周围的人，会发现一个新习惯正在形成：遇到拿不准的事，先问 AI。不只是「这道菜怎么做」，还包括——「我该不该跟老板摊牌」「朋友借钱不还，我该翻脸吗」「孩子撒谎，我怎么管才对」。
后面这类问题有个共同的名字：道德问题。它们的特征不是没有答案，而是答案太多、且每个都说得出一番道理。以前人遇到这种问题，问父母、问长辈、问牧师、问自己良心。现在多了一个永远在线、永远耐心、引经据典的回答者。这方便得不可思议，也危险得悄无声息。
危险在哪，先不急着下结论。我们先回到这个问题的源头——西方伦理学就是从「追问什么叫对」这件事开始的。
苏格拉底：把每个自信的回答拆碎
两千四百年前的雅典，苏格拉底每天干的事就是在街上拦人：「你说你是虔诚的人，那你说说，什么叫虔诚？」「你说你是勇敢的将军，那你说说，什么叫勇敢？」对方给出定义，他就举出一个反例；对方修改定义，他就再举一个反例。三轮下来，对方发现自己其实不知道自己一直在用的词是什么意思。这套方法叫诘问法——不给答案，专拆答案，通过不断追问逼对方看清自己无知的边界。
拆到最后，苏格拉底留下了他最著名的结论：我知道的唯一的事，就是我一无所知。这不是谦虚客套，而是一个精确的工程结论：一个连自己用的词都没想清楚的人，给出的道德判断不值得信任。
在柏拉图的对话《尤西弗罗》里，这套追问逼出了一个两千多年还在用的问题，叫尤西弗罗困境：一件事是对的，是因为神说它是对的？还是神说它是对的，因为它本来就是对的？
大白话：如果「对」只是某个权威说了就算，那道德就是权力的传声筒；如果「对」在权威开口之前就存在，那权威也得服从它，谁都可以拿它来检验权威。两头都不舒服，但你必须选一头。
把这个困境换成 AI 的版本
现在把「神」换成「AI」，困境原样成立，而且更尖锐：
- 如果一件事是对的因为 AI 说它是对的——那 AI 说什么是「对」，什么就是对，我们没有立场反驳它。这叫把道德主权交了出去。
- 如果一件事本来就是对的，AI 只是（努力）去发现它——那我们必须自己先有能力辨认什么是对，才能检验 AI 说得对不对。道德能力一天都不能丢。
两头都指向同一个结论：你可以让 AI 参与道德讨论，但你不能退出这场讨论。苏格拉底的诘问法，就是留在讨论桌上的基本功。AI 给你一个道德建议时，最少要问三句：它说的「好」是哪种好？这个结论依赖什么前提？换一个处境完全相反的人，这套推理还成立吗？
伦理学的三个工具箱
苏格拉底只负责拆，不负责建。后来的人把「什么叫对」系统整理成了三个主要工具箱，这本书后面两章会细讲前两个，这里先记住它们各问什么：
- 功利主义（第三章主角）：问「后果如何」——哪个选择带来的总幸福最多，哪个就对。AI 行业最喜欢这套，因为它看起来能算。
- 义务论（第四章主角，康德）：问「规则是什么」——有些事无论后果多好都不能做，比如把人当工具。
- 德性伦理（亚里士多德）：问「这是哪种人才会做的事」——道德不是算出来的也不是背出来的，是像学游泳一样练出来的品格。
三个工具箱经常给出不同答案，这不是伦理学的失败，而是伦理学的实情：道德问题本来就是硬的。谁要是给你一个永远一致、永远干脆的道德系统，你应该警惕它，而不是感谢它。
那 AI 到底能不能替我们做道德决定
说到这里，答案已经比较清楚了，分三层：
第一，信息层可以外包。「这个决定通常有哪些考量」「历史上类似的事结果如何」——AI 是个很好的资料员。
第二，推理层可以陪练。让 AI 扮演反方，用苏格拉底的方法拆你的理由，这比让它直接给答案有价值得多。你的道德判断像肌肉，得用才长；AI 当杠铃可以，当轮椅不行。
第三，拍板和担责不能外包。这里有一个哲学上已经讨论多年的概念叫责任鸿沟：机器造成伤害时，制造者、使用者、算法本身，谁该负责？答案目前是谁都负不全。但反过来说，这也意味着一个机会：只要责任还在人这边，决定权就必须留在人这边——权和责是同一枚硬币。一个把「该不该」交给机器的人，等于白白放弃了权力，却一点责任也没甩掉。
大白话：问 AI 「我该怎么办」没问题，但把它当杠铃，别当轮椅。杠铃是让你更壮的，轮椅是让你萎缩的。
下一章，我们打开第一个工具箱：功利主义。它是 AI 时代最主流、听起来最科学的一套道德理论——「让幸福最大化」。我们会看到，它强大、清晰，而且在最要命的地方算不下去。