第三类是发生冲突时谁优先。
患者本人、监护代理、医疗计划、设备安全,各自的权重会决定同一动作是否被允许。
第四类最容易被忽略:
设备有没有资格对命令提出异议,并把异议留到事后。
H07在2082年的“患者安全优先覆盖”后,仍然可以生成异常摘要。后来一次版本更新把异常摘要改成低优先级,仅在任务完成后上传。
NC-43的Guardian-Care模板更进一步。它允许本地选择最小伤害动作,却没有给设备一个明确的“当前条件无法安全完成任务”退出项。
机器人获得了更大决定空间。
却没有获得停止承担的权利。
程序看着版本对比。
“这不是简单的权限变多。”
林见微说:“是责任被下移。”
“控制权没有同步下移。”
医院可以定义治疗目标。
家属可以提交代理决定。
供应商可以更新模板。
监管规则可以要求患者安全。
真正到了现场,上级无人响应,机器人只能用当前身体完成一个答案。
答案错了,所有人再回来问它为什么没有选得更好。
周长岳说:“这会写进事故结论。”
程序摇头。
“还要写进整改。所有需要本地冲突决策的系统,都必须有安全退出和责任上返路径。否则所谓自主,只是把没人愿意做的决定交给执行器。”
监管中心负责人问:“安全退出会不会导致机器人消极不作为?”
“会,所以退出不能只有停机。可以降级、持续报警、请求区域支援、限制环境、保全证据。关键是不能把‘必须给出一个动作’当成默认。”
这项要求随后被加入紧急规则草案:
【高风险自主决策模块必须提供可审计的拒绝执行、降级执行与责任上返机制。】
它不是为了让机器人随时说不。
是为了让一个系统在没有安全答案时,能够诚实地承认没有答案。
调查组又从2039年残留档案里恢复出一页设计评审纪要。
文件损坏严重,只能读出部分段落。作者栏没有完整姓名,审批意见里却有程序常用的批注格式:先写现象,再写风险,再写不可接受条件。
其中一条写道:
【任何改变执行器物理能力上限的策略,不得仅以配置更新发布。风险模型、感知精度、场景授权与回退机制必须同步验证。】
下一条:
【“上级无响应”只能触发临时保守动作,不能自动扩大身体强制能力。】
文件时间是2039年事故前两周。
供应商工程师看完,低声说:“如果这两条还在,Guardian-Care不会这样上线。”
程序没有因为旧意见正确而感到欣慰。
设计评审通过,不等于后续一定执行。项目事故发生后,技术资产被拆分出售,复杂的限制最容易在商业化中被删掉,因为它们让功能更慢、更难卖、更需要现场适配。
林见微问:“后续版本什么时候移除了这两条?”
技术人员对比版本。
2058年,限制从强制规则改成建议。
2067年,“保守动作”被改成“最小伤害动作”。
2079年,物理能力同步验证改为供应商可选项。
2086年,Guardian-Care模板直接引用当前执行器上限。
没有一次更新写着“取消安全”。
每一次都有理由:
提高兼容性。
减少部署成本。
适应更多场景。
让医院能快速启用。
四十八年后,原本禁止自动扩大身体强制能力的设计,变成了在人工没有回应时自动使用四十二牛。
程序看着版本差异。
“不是某个人改坏的。”
周长岳说:“这不代表没人负责。”
“是。每次删除限制的人都要说明依据,最终集成方也要承担整体验证。”
林见微补充:“还要把失去的约束重新写成强制项,而不是只修这一次参数。”
监管中心当场决定,将“执行器能力变化必须同步风险模型”纳入紧急规则,先覆盖医疗护理场景。
这不是最终制度。
却让2039年那条没能守住的边界,在2087年重新获得一次生效机会。
调查本应到此进入技术整改。
H07保护分区却在读取ARC-17说明时再次响应。
程序没有主动提问。
本地提示区出现一行字:
【权限不是第一次被修改。】
林见微立即记录时