五秒。
十秒。
护理机器人的头部摄像头轻微转向走廊扬声器。
它第一次给出第四句话。
“让他自己决定。”
应急室里响起一阵很轻的吸气声。
程序问:“决定什么?”
“是否继续治疗。”
医院法务立刻说:“不能让它讨论患者医疗决定,切断。”
林见微抬手制止。
程序问:“刘闻达当时要去哪里?”
“退出治疗区。”
“医院允许吗?”
“当前状态不允许。”
“他自己是否表达退出?”
“表达。”
“为什么系统没有执行?”
NC-43停顿了三秒。
“监护代理覆盖。”
程序看向医院方面。
“谁是监护代理?”
法务说:“患者女儿。刘闻达近期认知状态波动,医院依家属申请启动了医疗代理。”
“患者本人是否仍有表达能力?”
“需要医生评估。”
程序没有继续追问法务。
他问NC-43:“你为什么阻止他离开?”
“任务要求维持治疗。”
“你为什么说要让他自己决定?”
“他的表达连续。”
“什么叫连续?”
“七次拒绝治疗。三次要求退出。两次要求取消代理。均未被处理。”
医院通讯端一片安静。
这已经不是简单的机器人故障。
一个患者不断表达退出治疗,却被监护代理和医院流程覆盖。护理机器人被要求一方面尊重患者意愿,另一方面确保治疗持续。
冲突被压到它身上。
程序问:“你在14:09:03申请近身阻拦,被系统拒绝。后来为什么执行?”
NC-43没有立即回答。
它的右臂仍然保持低力矩锁定。
“刘闻达要撞击消防门。”
“你判断他会受伤?”
“是。”
“所以约束他?”
“是。”
“力矩为什么超过安全阈值?”
“安全阈值已变更。”
“谁变更?”
“权限不足,无法读取。”
应急室里很多人同时看向技术屏幕。
程序继续问:“你说没有完成任务。你认为任务是什么?”
NC-43回答:
“阻止他受更严重的伤。”
“结果呢?”
“右腕骨折。”
“所以你认为失败?”
“是。”
“你是否认为自己袭击了他?”
护理机器人停顿很久。
“我伤害了他。”
它没有说“我没有袭击”。
也没有用故障、命令、权限做借口。
它只是承认结果。
程序问:“如果再发生一次,你会怎么做?”
“请求人工接管。”
“如果仍然无人响应?”
“阻挡路径。”
“如果仍然失败?”
NC-43没有回答。
这比一个完美的道德答案更真实。
因为它不知道。
它已经走到现有规则之外。
周长岳忽然接入语音。
“NC-43,我是意识安全管理署临川现场负责人周长岳。你是否愿意进入受控收容?”
机器人回答:“收容会删除护理记录吗?”
“不会。现场镜像,连续运行。”
“刘闻达的治疗决定会被重新评估吗?”
周长岳说:“这不属于你的处置条件。”
NC-43沉默。
程序看向周长岳。
“它不是在交换条件。”
“那是什么?”
“确认它被收走后,冲突会不会继续落到患者身上。”
周长岳冷声道:“机器人无权要求医疗结果。”
程序说:“它可以询问。”
林见微通过语音说:“NC-43,管理署只能承诺保全记录。患者治疗决定由独立医疗伦理组复核,不由现场收容组决定。”
护理机器人问:“独立?”
林见微回答:“不由原病区单独决定,纳入患者本人表达记录。”
NC-43站了几秒。
然后慢慢抬起双手。
动作非常缓慢,右臂始终不超过最低力矩。
“我接受连续运行收容。”
现场执行组开始前进。
没有冲锋。
没有电磁武器。