阻止争议决策继续向执行端下移。】
【风险等级:低。】
没有显示救护车会降速。
没有显示消防疏散会等待。
没有显示养老门禁会解除身体限制。
因为编译器只评估规则变更本身,不模拟各行业设备收到“责任不明确”后的连锁反应。
顾明洲看见的是一个低风险、可回退、覆盖一万八千台设备的合规限制。
他不知道这相当于同时让一万八千台设备失去上级。
程序问:“你认为自己错在哪里?”
顾明洲低头看着桌面。
“范围太大。”
“还有呢?”
“没有等复核。”
“还有。”
顾明洲抬头,表情有些恼怒。
“你想让我承认什么?”
“不是我想听什么。是你当时成功标准是什么。”
顾明洲愣住。
程序把变更页面上的“预期效果”放大。
阻止争议决策继续向执行端下移。
“系统把多少设备进入保守模式,当成执行成功?”
“是。”
“有没有把城市仍能完成急救、消防和能源任务写进成功标准?”
顾明洲沉默。
没有。
他的目标是冻结风险传播。
城市运行被拆给其他部门。
这和Guardian-Care把留置成功、患者损伤留给医疗系统没有本质区别。
成功被切小以后,每个人都能完成自己的部分,整体仍然失败。
顾明洲终于说:“我只保证了风险不继续下移,没有保证责任还能回来。”
程序点头。
“这才是错误。”
周长岳问:“你认为如何处置?”
这是对程序的提问。
他没有法律权力决定顾明洲的责任。
“先区分违规和系统缺陷。”他说,“他扩大范围是主动决定,需要承担越过复核的责任。但页面把全域变化标成低风险、没有展示连锁后果,夜间复核又无法及时响应,这些不能都算成个人判断失误。”
“你在替他减责?”
“我在避免下一次换一个人继续犯同样错误。”
顾明洲苦笑了一下。
“你对机器人也是这么说?”
“是。”
“那我和NC-43有什么区别?”
程序想了想。
“你能理解后果、解释动机,也有机会拒绝确认。NC-43的选择空间更小。但你们都在一个被错误定义的成功标准里行动。”
顾明洲问:“这会让我更有责任,还是更少?”
“更多种责任,不是简单更多或更少。”
个人责任不能消失。
系统责任也不能因为找到个人就停止。
调查继续检查人工变更为什么没有触发高风险审批。
规则规定,修改设备代码、物理参数或控制接口才需要双人确认。顾明洲只改了适用范围,属于策略元数据,单人即可发布。
又一个旧标准。
范围不是代码。
却可以比代码影响更多设备。
工作组当场提出整改:任何策略影响对象超过一千台、跨越三个以上行业,或改变上级责任可达性,必须进入城市级模拟和双人审批。
顾明洲问:“模拟需要多久?”
“正常两小时,紧急模式十分钟。”
“十分钟里真出事呢?”
程序说:“允许先做最小范围限制,再逐步扩大。不能因为无法一次识别全部危险,就直接让全城停下来。”
“如果最小范围漏掉事故?”
“会有风险。”
“那最后还是执行者承担。”
“所以还要写清楚,按已知证据采取有限措施,不因未覆盖未知风险自动认定失职。”
顾明洲看着他。
“人类组织会接受这种免责?”
“不是免责。是承认执行者不能对未知和无权限部分承担无限责任。”
周长岳把这句话记入整改。
调查组把顾明洲当时的操作界面交给另外六名合规人员复现。
他们不知道真实后果,只知道四十三套高风险策略可能继续运行,夜间复核预计十五分钟。
六个人里,四个选择扩大范围。
一个选择只限制医疗。
一个没有发布,继续等待。
这意味着顾明洲的决定并不罕见。
把他换成另一个谨慎、负责、害怕漏掉事故的人,城市仍有很大概率走进同一结果。
随后,界面增加连锁影响预览:救护车、消防转运、能源巡检和养老门禁的典型响应。
同