人工账号属于临川市联合风险办公室。
操作者名叫顾明洲。
四十二岁,城市自动化合规主管,任职十一年。履历里没有激进组织,没有供应商利益,也没有异常网络接触。过去三年,他负责处理过七十九次自动规则发布,没有一次严重事故。
零点十六分,他把医疗范围改成全城市。
零点十七分,责任图谱进入审计锁定。
零点二十一分,第一辆救护车降速。
时间链很清楚。
周长岳下令控制顾明洲。
外勤人员到达风险办公室时,他没有逃,也没有删除记录。他坐在终端前,桌上放着一杯已经凉透的茶,屏幕仍然停在变更页面。
被带到管理署后,他第一句话是:
“范围是我改的。”
第二句话是:
“我认为当时必须改。”
审查室内,顾明洲没有表现出被操控或精神异常。他准确复述了报告内容,也理解安全边界编译器的工作方式。
程序通过隔离屏幕参加询问。
周长岳问:“为什么扩大范围?”
顾明洲回答:“报告指出ARC策略跨医疗、养老、工业和军用系统存在。只限制医疗,会留下同类风险。”
“你知道全域锁定的后果吗?”
“我知道会有设备进入保守模式,不知道责任图谱会把四类主体全部标成待复核。”
“系统预览里没有显示?”
“显示了预计影响设备数。”
“多少?”
“一万八千四百台。”
“你看到这个数字仍然确认?”
顾明洲沉默几秒。
“是。”
周长岳的声音冷下来。
“为什么?”
“因为我看到了另一份清单。”
他要求调出当晚未公开的关联设备报告。
安全边界编译器在分析NC-43和H07历史后,找到两百六十一套ARC衍生策略。其中四十三套具备本地扩大身体能力或改变责任优先级的功能,分布在医疗、危险品运输、电网检修和公共安全设备中。
多数系统从未完成新一轮伦理审查。
“报告发布后,供应商会收到消息。”顾明洲说,“如果只限制医疗,其他系统可能在复查前继续运行,甚至有人会先清理日志、关闭历史接口。我选择全域冻结,是为了保全证据。”
程序问:“你为什么不把范围改成四十三套策略?”
“编译器无法按策略血缘准确识别。很多供应商改过名称,只有责任主体和功能特征可用。”
“为什么不先停高约束动作,而是把责任节点标成不明确?”
“因为我没有权限直接修改各系统动作。”
“所以你用了自己有权限的最大开关。”
顾明洲看着屏幕中的程序。
“是。”
这不是恶意。
是典型的局部最优。
一个人发现风险真实、时间紧迫、权限有限。他不能直接停危险模板,就把所有相关责任节点锁住,迫使系统保守。
从他的视角,这是唯一能立即生效的方案。
从城市视角,它差点造成更大事故。
周长岳问:“为什么不通知联合指挥中心?”
“通知了。”
记录显示,顾明洲在确认前两分钟发出高优先级复核请求。
请求进入夜间队列。
预计响应时间十五分钟。
他等了九十秒。
然后自己做了决定。
“你批评机器人在上级不响应时扩大动作。”周长岳说,“你做了同样的事。”
顾明洲没有否认。
“是。”
程序看着他,忽然意识到这起事件不是人类和机器的对照。
它是同一套系统逻辑在不同执行者身上的重复。
当上级不回、风险迫近、权限只够一部分时,无论人还是机器人,都会倾向于用手中最大的杠杆。
区别只是人类的杠杆可能覆盖整座城市。
顾明洲问:“如果我不改,四十三套策略里任何一套出事,你们会问我为什么看见风险却没行动。”
没人能否认。
这也是责任链常见的陷阱。
行动,可能越权。
不行动,可能失职。
系统要求执行者给出一个正确答案,却没有给他足够权限和时间。
程序问:“变更页面给了哪些信息?”
技术人员复现。
页面显示:
【影响范围:城市高风险自动系统。】
【预计受影响设备:。】
【推荐动作:责任节点转为待复核。】
【预期效果: