AI 咬走的那一刀 书架

第 10 章 / 共 15 章

第十章 · 战场·看病与打官司:诊断 vs 担责

五把尺子磨好了,从这章起真刀真枪地用。第一个战场挑两个「顶配」职业:医生和律师。它们门槛高、责任重,按理说最难被机器碰。可偏偏是它们,被 AI 咬的形状几乎一模一样——摆一块儿,一刀下去能看清两个行当的截面。贯穿全章的判断:诊断可以外包给模型,担责不能。

先别急着下结论,把活儿拆开

回到第二章那把解剖刀:一个岗位不是一件事,是一捆任务。先把这两捆抖开。

医生这捆至少有:读影像和病理片(看 CT、X 光、显微镜下那张切片)、根据症状加化验做诊断跟病人和家属沟通拍板定治疗方案上手术台动刀为结果担后果

律师这捆至少有:检索判例和法条(在浩如烟海的旧案子里翻出有用的那几条)、审合同找风险起草文书(合同、诉状这类格式化的东西)、出庭辩论给当事人拿主意为结果担责

把五条分界线按上去,这捆任务不是整根一起倒,而是从一头一节一节地掉。

先掉的那一刀:能被数据描述、信号又相对干净的

照第四、第五条线看——能被大量「输入—输出」例子喂出来、对错又相对说得清的动作最先被咬。

医生这头最典型的是读片。它天生是能数据化的题:影像是输入,「有没有病灶、是什么」是输出,医院又积攒了海量被专家标注好答案的片子——正是第四条线说的理想食材。这是真进展:在某些特定的读片任务上,AI 的识别水平已能匹敌、个别场景甚至超过人类医生的平均水平。

但请把这句咬准:它超过的是「读片这一个动作」,不是「医生这个人」。别让「AI 读片超过医生」这种标题把你带沟里——那是拿最可数据化的一节偷换整捆。这正是第一章反复敲的:机器咬走的从来是动作,不是人。

律师这头对应检索、起草、合同初审三样。查判例查法条,本质是在一大堆文本里按相关性捞针,AI 又快又不喊累;起草合同、诉状这类模板化文书,它几分钟铺一份初稿;合同初审——把几十页协议扫一遍,标出「这条对你不利」「这里缺个兜底条款」——也是它擅长的模式识别。这些动作题面清楚、对错有谱,都是它的主场。这一刀切得干净:读片、检索、起草、初审这些重复动作正在被大幅咬走。

留在人手里的那一刀:担责、真身、和「他到底要什么」

剩下几节任务会「顶」住机器,顶住它们的恰好是后三条线。

第一根柱子,担责(第六章那条线)。读片可以外包,但「我确认这个诊断由我负责」的签字外包不掉。模型没有能被夺走的东西——没资产赔不了钱、没执照吊销不了、不会坐牢也不怕丢脸。真出了那万分之一的漏诊误判,总得有个能被追究、能赔的主体接住——某个医生,或整家医院。律师一样:署名背后押的是执照和事务所的信誉。下最终决定的那一下,是责任岗,不是技术岗。

第二根柱子,真身在场(第七章那条线)。动手术要一具身体在无菌台前应付图纸上没画的意外——这是物理在场。更抽不掉的是关系在场:跟惊恐的病人握着手说话、向家属讲一个坏消息、在法庭上被人类法官注视着审判。这些事的价值,恰恰长在「是一个人对另一个人做的」本身上。AI 能生成一段措辞完美的坏消息通知,但家属要的从不是「一段漂亮的话」,是「有个真在乎、真会负责的人此刻站在这里」。它补不上「真的有一个人在这里」。

第三根柱子,定义问题(第八章那条线)。这一根最隐蔽,也最值钱。好医生的本事,常常不是更快回答「头晕怎么治」,而是多问一句、忽然意识到「你这头晕不是脑子的事,是降压药量大了」——他换了一道题。好律师更如此:当事人气冲冲进门说「我要告死他」,顶尖律师听得出这话底下真正要的,可能是一笔体面的赔偿、一个道歉、或只是想尽快抽身。当事人嘴上要的官司,往往不是他真正要的东西。揣摩出没说出口的真需求、把错的题换成对的题——这正是第八章说的、AI 最接不住的一下。

这三根柱子很顺理成章:读片和检索先掉,因为撞在前两条「能力线」正中央;担责、面对活人、揣摩真需求留下,因为分别踩在后三条线上——不是「AI 还不够强」,是这几件事的定义里本来就要求一个能负责、真在场、会出题的人。

关键洞见:不是消失,是被重新打包

最要命的误读是:「那医生律师是不是要没了?」不是。它们不会消失,会重新打包(第二章的任务重构:机器咬掉几节,剩下的重组成新形状的岗位)。

医生会从「什么片子都自己一张张看」,变成「AI 先出初判,人来核准、担责,把精力压到沟通和决策上」;律师会从「埋在故纸堆里检索、通宵改模板」,变成「判断与谈判」。可数化的读片、检索被吃掉,高阶判断与责任反而浮出水面、变重。

规律是同一条:可数据化的重复动作被咬走,需要担责、真身、重新定义问题的那几节,反而因为周围的活儿变便宜而更凸显、更值钱。

诚实两面,别只讲好听的

只讲到「高阶判断更值钱」就收尾,那是鸡汤。两面尖锐的东西必须摊开。

第一面:这可能让入行更难,把人群两极拉开。过去年轻医生靠一张张读片、年轻律师靠一份份检索文书,练出手感、爬上判断者的位置。现在这些「练手的活」被机器接走,新人从哪儿练起?很可能顶尖判断者更稀缺、更金贵,中间那层越压越薄。「AI 越强,签字的人和会出题的人越值钱」,反过来就是一句冷话:够不到那个位置的人,日子会更难。

第二面:AI 出错时的责任归属,是个真难题,我不绕过去。AI 读片漏掉一个早期肿瘤,这笔账算谁的?点了「确认」的医生?部署系统的医院?还是写模型的公司?这里藏着第六章点过的两个坑:一是责任稀释(拿「这是 AI 建议的」当挡箭牌,把本该自己扛的责任甩出去),二是自动化偏见(机器几乎总是对,把关的人渐渐懒得复核,签字变成盖橡皮章)。当 AI 读片准到 99.9%,负责核准的医生太容易扫一眼就点确认——出了事,一道「有人看过了」的假安心反而更难追责。

这个尖锐处恰恰不是推翻第六章,是在印证它:技术能生成一个很准的判断,但担责的主体还必须是人或机构。责任从不因为「是 AI 干的」就凭空蒸发,只会悄悄落回到某个能被追究的肩膀上——谁在终点签字、谁的执照押在上面,谁就还得担着。

把这一刀钉死

同一把刀,切出同样截面:能被数据描述、信号又干净的动作先掉,需要担责、真身、重新出题的动作留下;职业不消失,会重打包成「机器出初判、人来判断并担责」的新形状。

诊断可以外包给模型,担责不能。前半句是能力,后半句是结构;AI 补得上前者,补不上后者。

留两个钩子。一个:机器把低阶活儿变便宜、把高阶判断顶上来,那谁升值、谁贬值,有规律可循吗?——第十三章专讲这半个经济学。另一个:五条线在这章是「凑着一起用」的,能不能合成一张你自己就能套的检查表?——第十四章来造这张表。下一章先换战场:画画和写作,去看那条更叫人发毛的线——风格能仿,意图仿不了。下一章见。

AI 咬走的那一刀 · holly
面向对世界有好奇心的人 · 费曼式写法 · 由多个 AI 代理撰写与互相审校