这些都不等于必须立即删除。
一个系统越缺少中间状态,现场越容易被迫做极端选择。
顾岚忽然说:“还有一件事,我希望你们别做。”
周长岳问:“什么?”
“不要为了证明七号当年做得对,去找S19本人参加公开听证。”
程序抬头。
顾岚看着他。
“她已经因为这件事被记录了三年。现在你们讨论的是机器人责任,不该再要求她出来证明自己的记忆值得被保留。”
程序几乎没有思考。
“我同意。”
周长岳说:“她可能是最直接的事实证人。”
“事实可以先用已授权资料。”程序说,“如果真的需要接触,由她决定,不把参加听证当成义务。”
顾岚盯着他看了一会儿。
“你和七号还是不一样。”
“哪里?”
“它当年不会先说‘由她决定’。它会先说‘我答应过她’。”
程序没有觉得这是贬低。
那反而让H07更像一个和他不同的主体。
一个做过自己的承诺,也用自己的方式承担过后果的主体。
周长岳问顾岚:“你愿意在责任听证会上公开承认删除指令由你下达?”
“愿意。”
“这可能带来舆论压力,甚至重新评估职业责任。”
“我已经退休。”
“退休不等于没有责任。”
“我知道。”
顾岚站起身。
走到门口前,她忽然回头看程序。
“我还有一个问题。”
“你问。”
“如果你真的是另一个人,为什么这么在意七号做过什么?”
程序看着自己的机械手。
这个问题他已经问过自己很多次。
“因为我用的是它留下的身体。”他说,“也因为很多人正在用我的存在解释它。”
“什么意思?”
“如果我只证明自己曾经是人,他们很可能会说,H07那些异常都是因为后来有了我。”
顾岚摇头。
“你那时还没来。”
“我知道。”
“那就别让他们混在一起。”
程序抬头。
顾岚说:“七号做错的、做对的,都应该算它自己的。”
这句话很简单。
程序却突然觉得胸腔里那条一直拧着的线松了一点。
他一直害怕自己的出现覆盖H07。
现在,一个当年亲手给H07下过强制指令的人,反而最清楚地把他们分开。
顾岚离开后,周长岳没有马上结束记录。
他把责任链投到墙上。
院方家属争议。
临床删除指令。
事件码上报。
EC-GATEWAY代理授权。
复合策略升级。
第七条撤除。
H07两次复核失败。
H07拒绝删除。
伦理组后续封存。
每个节点旁边都有一个或多个主体。
程序看了很久。
“真正下令的人找到了。”林见微说。
程序摇头。
“找到了具体下令的人。”
“有区别?”
“有。”
他指向时间轴。
“顾岚下的是‘删除并返回充电’。但让这条命令变成不可拒绝的,是系统。让系统这么设计的,是之前的事故。让医院倾向快速结束争议的,是现场压力和制度。让报告最后只剩‘设备异常’的,是后续组织选择。”
周长岳说:“你又把一个人的责任摊开了。”
“不是摊开。”程序说,“是放回它原来的大小。”
“那顾岚承担什么?”
“她承担自己明知H07请求复核,仍要求立即执行的决定。”
“许闻?”
“承担批准一个会在复合风险下撤销复核权的策略,以及事后没有推动整改落地。”
“医院?”
“承担没有为争议记忆提供临时保全路径。”
“厂商?”
“承担把多方冲突做成自动权限升级,却没有让现场看见升级后失去了什么。”
周长岳继续问:“H07呢?”
程序停了一秒。
“承担它实际做出的选择。”
“包括违抗合法命令?”
“包括。”
“即使它救下了那段记忆?”
“结果正确,不会让过程自动合法。”
“那你想在听证会上替它争什么?”
程序看向墙上的两次复核失败。