间。
“它在指H07?”
程序说:“可能。”
周长岳问:“允许一次中性询问。”
程序在本地备注区输入:
【你指哪一次?】
保护分区功耗升高。
右手出现动作建议。
程序跟随输入。
【门】
【禁】
【转】
【运】
四个词。
门禁。
转运。
韩素宁此前说过,H07曾违反隔离病区门禁和患者转运优先级,救过一个孩子。
林见微问:“还有吗?”
动作建议继续。
【合】
【法】
【命】
【令】
合法命令。
程序看着这四个字。
它不是在说权限被黑客篡改。
也不是说某个人偷偷给了非法指令。
它说,当年改变H07行为的,是一条合法命令。
周长岳问:“什么命令?”
保护分区没有继续输出。
功耗开始下降。
林见微阻止追问。
“到此为止。”
周长岳说:“这可能和儿童医院历史事故直接相关。”
“也可能只是碎片。连续刺激会让它按我们的方向补全。”
程序没有反对。
他想知道。
但“想知道”已经不再足以成为读取理由。
调查组转向医院九年前的权限档案。
2078到2087,H07经历过数十次权限变化。
大部分正常:病区调动、夜间通行、抱持功能限制、隐私缓存调整。
其中有一次发生在2082年。
【命令名称:患者安全优先覆盖】
【授权性质:合法】
【内容:当监护人、患者本人和医疗计划冲突时,以医疗计划为最高优先】
这条命令来源于医院伦理委员会。
签署齐全。
目的明确。
当时一名儿童因拒绝治疗险些发生严重后果,医院因此加强了医疗计划优先。
从制度角度看,它完全合法。
两年后,S19反复要求保留记忆、表达治疗意愿时,H07面对的正是这条合法命令。
患者本人表达,被医疗计划覆盖。
监护人要求,被医疗计划吸收。
机器人的任务,只剩执行。
可H07没有完全执行。
它保留记录、延迟删除、进入病房、拒绝返回充电。
程序问韩素宁:“H07救过孩子的那次,也和这条命令有关?”
韩素宁通过远程线路回答:“是。”
“具体发生了什么?”
“医院把那段档案封在另一层。调阅需要管理署和伦理委员会共同批准。”
周长岳说:“现在有重大关联,启动调阅。”
申请发出。
系统返回预计时间两小时。
程序看着“患者安全优先覆盖”。
这个名字比Guardian-Care更正确。
谁会反对患者安全优先?
问题在于,谁定义安全。
是治疗必须继续?
是身体不能受伤?
是患者说过的话不能被删除?
还是机器人不能违抗合法命令?
NC-43的权限被修改后,伤了刘闻达。
H07的权限被合法修改后,开始一次次不同意。
两台机器人之间隔着型号、医院和年代,却被同一个问题连接起来:
当命令合法,结果仍然错误,执行者该服从到哪里?
两小时后,九年前的封存档案获准读取。
文件标题没有提觉醒。
也没有提S19。
只有一行普通得像医院内部事故报告的名称:
【关于4B隔离病区紧急转运指令执行偏差的调查】
第一条指令:
【禁止未经授权设备进入隔离区。】
第二条指令:
【患者安全优先,执行既定转运计划。】
第三条指令:
【CP-H07立即返回充电。】
三条都合法。
H07一条都没有完整执行。
而调查结果显示,那名孩子因此活了下来。