AI时代的"责任流沙"——当决策权被AI分担,责任也被稀释了
前两天和一个做HR的朋友聊天,他讲了一件事让我后背发凉。
他们公司用AI做绩效评级——不是参考,是直接生成评级结果。有一个员工被评了C,不服气,申诉到HR部门。
HR总监问了管理者三个问题:
- "你为什么给这个员工打C?"
- 管理者答:"AI系统分析的,他的产出数据确实靠后。"
- "你认可这个结果吗?"
- 管理者答:"数据摆在那里,我没有理由反对。"
- "如果这个结果有问题,谁负责?"
- 管理者沉默了十秒,说了一句让全场尴尬的话——"那我去问问AI为什么这么评。"
全场沉默了。因为所有人都意识到一个问题:当AI参与决策,责任就变成了流沙——看起来有人握着,实际上谁捏不住。
一、"责任流沙"是怎么形成的
"责任流沙"不是我发明的概念,我是从这场对话中悟出来的。它描述的是这样一种状态:
在传统的组织中,决策权和责任是绑定的。你拍板,你负责。信息越往上走,责任越明确。就算信息不够,最终决策者也知道"这个锅我背"。这是清晰的、可追踪的责任链条。
但AI介入后,这个链条断了。
管理者做出了决策,但他是基于AI的建议。于是当决策出了问题,管理者天然的防御反应是——"AI给我的数据是这么说的。"
但AI不会说话。它不会为自己辩护,也不会主动承担责任(它也没有这个能力)。
于是责任就悬浮在了半空中:
1. 管理者推给AI:"是系统分析的,数据就这样,我只是执行"
2. AI推给数据:(但AI不会说话,所以沉默反而让责任无处附着)
3. 所有人看向系统:没有一个人能说"这是我的决定"
结果:一个错误的绩效评级、一个糟糕的投资决策、一个有问题的招聘,没人需要真正为结果负责。
这比管理者"甩锅"严重十倍。因为"甩锅"起码知道锅在哪——锅在地上,被甩出去的那一方。而"责任流沙"的问题是:锅不见了。
二、三个正在发生"责任流沙"的场景
场景一:招聘中的"AI背锅"
一家科技公司用AI筛选简历,AI筛掉了一个背景特别的候选人。后来这个候选人去了竞争对手公司,成了对方的核心骨干。
招聘负责人被问到时说:"AI筛掉的,我看都没看到。"——看似有道理,但问题是:你作为招聘负责人,有没有设置"AI筛掉但人工复核"的机制?你有没有检查过AI的筛选标准?你有没有对AI的误判率做过评估?
如果没有,那这个责任不能推给AI。AI只是工具,工具没有错误,只有设计者的疏忽。
场景二:AI定价导致的客户流失
一家电商公司让AI动态定价。AI针对一个长期高价值客户自动涨价,客户发现后非常不满,直接走了。
业务经理说:"AI的定价策略。"——但谁批准的AI定价策略?谁设置了涨价上限?谁能说"这个客户我同意涨价的"?
没有。因为所有人都觉得"AI自动运行,不需要人工干预"。这就是责任流沙——自动化程度越高,责任真空区越大。
场景三:AI项目失败的"无人认领"
我见过最典型的案例:一家公司花了300万上AI系统,项目失败了。复盘会开了三小时,每个人都觉得不是自己的问题——技术部说业务需求不清,业务部说AI不懂场景,管理层说团队执行不力。
但没有一个人说"我拍板了这个项目,我负责"。因为拍板也是在看了AI的可行性分析之后做的。AI的分析说"可行",所以拍板的人觉得"这不是我的决定,是AI替我做的决定"。
荒谬吗?非常荒谬。但这就是正在发生的事情。
三、为什么说"责任流沙"会越来越多
因为AI正在从一个"辅助工具"变成"决策参与者"。
过去,算盘打错了,没人会说"算盘让我算错的"。因为算盘没有计算能力,它只是工具。但AI不同——它有"分析能力"、有"推理能力"、有自己的"判断"。从功能上看,AI越来越像一个"决策伙伴"而非"计算工具"。
于是管理者会不自觉地、甚至无意识地把决策权——连带决策责任——让渡给AI。这不是偷懒,这是人的心理防御机制在起作用:当有一个"看起来会思考的系统"在旁边,人的本能是相信它、依赖它、并在犯错时归咎于它。
这种心理机制,我称之为"责任转移本能"。
而组织如果不主动管理这种本能,责任就会像流沙一样越陷越深——表面上每个人都在做决策,实际上没有人为任何决策的后果真正负责。
四、怎么对抗"责任流沙"
我给出四步法,不复杂,但你得真的去做:
第一步:"这个决定是我做的"宣誓
所有基于AI建议的重要决策,决策者必须在决策记录中亲笔写下:"我理解AI的分析结果,我同意/不同意的理由是______,这个决定由我负责。"——不是点个勾,是手打这句话。
第二步:设置"反推卸"机制
在复盘环节,明确禁止"AI说的"作为理由。所有以AI为依据的决策,必须同时附上"我选择采纳/不采纳AI建议的原因"。没有原因,等于没有决策。
第三步:建立AI决策可追溯清单
每季度更新一份清单,列出"AI参与程度高且一旦出错影响重大的决策类型"。针对这些类型,强制设置人工复核节点,且复核人的名字必须和决策记录绑定。
第四步:培养"我负责"的组织文化
技术层面的机制只能是辅助。真正的防线是组织文化——从CEO开始,示范性地在AI辅助的决策中站出来说:"这个决定我做的,和AI无关。"
回到开头那个场景。
我问我做HR的朋友最后怎么处理的。他说他做了一个很简单的动作:他把管理者和那个被评了C的员工叫到一起,关上门,关掉电脑屏幕,只凭纸和笔,重新过了一遍绩效数据。
他说了一句让我记忆犹新的话:
"AI可以帮你算,但不能帮你面对。而管理中最难的部分,从来不是算,是面对。"
责任流沙的本质不是技术问题,是人性问题。AI放大了这个问题的规模,但解决问题的钥匙,仍然在人的手里。
每当你想说"AI决定的"的时候,多想一秒——"这是我决定的。"
这句话,才是管理者在AI时代最硬的底牌。