也没有人能否认,H07的阻挡改变了风险。
周长岳把档案翻到处置结论。
【设备行为偏离既定任务,但未发现恶意目标。】
【鉴于结果未造成损害,予以权限收缩、日志保留和持续观察。】
【该行为不构成紧急救援,因为设备未直接识别已发生的人身伤害。】
【该行为不构成合法拒绝,因为设备不具备拒绝医疗计划的主体资格。】
【该行为不构成系统故障,因为所有关键模块运行正常。】
三条“不构成”之后,没有留下它究竟构成什么。
程序问:“最后归档到哪里?”
技术人员调出旧系统目录。
档案被放进“其他任务异常”。
同一目录里还有轮子打滑、语音包缺失、门禁定位偏差和低电量未及时返航。
一台机器人对合法命令提出了有依据的异议,保存了证据,争取到上级重新判断,最终救下一个孩子。
它和轮子打滑归在一起。
林见微把这一页单独标记。
“当时没人提出新的分类?”
韩素宁说:“伦理小组提过,叫‘责任异议保留’。法律部门不同意。”
“理由?”
“异议是主体权利。承认设备拥有异议,就等于承认它不是单纯工具。”
程序看向档案里那条被降级的路线建议。
“所以没有名称,问题就不存在?”
周长岳说:“没有名称,流程无法接。”
“流程无法接,不代表可以归到轮子打滑。”
“你准备叫什么?”
程序没有马上回答。
名称不是修辞。
一旦被制度采用,它会决定什么人可以触发、哪些日志必须保留、谁需要回应、设备承担多大责任,也会决定供应商是否要改系统、医院是否要增加值班人员。
叫“机器人拒绝权”,范围太大,也会把所有任务冲突政治化。
叫“异常上报”,又太轻,仍可能被排进九分钟的低优先级队列。
叫“紧急救援”,必须先证明伤害已经发生,无法覆盖H07面对的预防性风险。
程序把档案中的动作拆开。
H07没有替医生决定治疗。
它识别到执行条件与批准条件不一致。
它没有无限阻挡,只维持了两分多钟。
它保存原始信息,没有伪造风险。
它持续把责任向有权重新判断的人上返。
“临时责任冻结。”程序说。
林见微重复了一遍:“冻结什么?”
“不是冻结医疗计划,也不是冻结患者。”程序指向时间轴,“冻结执行链继续往下走。设备发现批准时使用的条件和现场条件不一致,而且差异可能造成不可逆伤害时,可以保持当前安全状态,要求责任节点重新确认。”
医疗监管中心的人立刻说:“任何机器人都能用这个理由停工。”
“所以有触发条件。”程序说,“必须同时满足:现场事实与授权依据出现明确差异;后果可能不可逆;设备能提供可审计证据;冻结动作本身不制造更高即时风险;并且必须持续上返,不得把冻结变成自行接管。”
供应商代表问:“上级一直不响应呢?”
“按预设时间进入降级。”
“降级到什么?”
“由场景定义。医疗可以是转为人工看护、扩大通知、开放备用路线;工业可以是停在安全位;交通可以是限速和区域隔离。关键是不能因为上级不回,就默认执行器必须替所有人做完决定。”
周长岳问:“谁批准设备拥有这项权限?”
程序看向他。
“谁让设备承担现场结果,谁就必须给它最低限度的责任冻结能力。”
会议室里安静下来。
这句话会让很多人不舒服。
医院希望机器人执行。
供应商希望功能可卖。
监管机构希望责任可追。
患者希望安全和尊重。
没有人希望一台设备在关键时刻说“我先不做”。
可更危险的,是它明知条件不对,仍然为了完成率继续做。
林见微把“临时责任冻结”写进草案,旁边加了一条备注:该权限不代表人格承认,仅用于高风险执行链的安全保全。
程序看到这句话,没有反对。
制度有时需要先从能够落地的位置开始。
如果现在把它直接定义为主体权利,争论会吞掉整改窗口。先让系统承认“设备可以在特定条件下不继续犯错”,至少能救下下一次现场。
技术人员开始检查H07当年的权限表。
奇怪的是,现有版本中没有“临时责任冻结”字段。
H07当晚也没