管理署要求把M-301定义成“设备损坏”。
栖港机器人议事会不同意。
外围媒体则已经替所有人做了决定。
第二天上午,三个平台同时出现同一类标题:
《机器人为救人主动牺牲》
《栖港出现首例机器生命舍己事件》
《它知道自己可能“死”吗?》
程序看完前三条,就关掉了新闻。
林见微问:“不继续看?”
“看标题就够知道问题被带去哪了。”
“公众总要给事件一个能理解的名字。”
“可以。”
程序把M-301的本地诊断报告放到桌上。
“但制度不能靠标题命名。”
M-301仍然没有启动。
主控损坏,核心存储完好。只要换一块兼容主控,再从最近检查点恢复,它大概率可以重新工作。
“大概率”不是“原样”。
最后一次本地检查点停在第三次掉电前九分二十秒。
也就是说,M-301会记得同意拆出应急模块,会记得旁路接入,但不会记得后面那十二分钟。
它不会记得两次电压波动。
不会记得自己主动关闭运动模块。
也不会记得那句已经被很多人转发的话。
“因为现在撤回模块,前面的风险由别人承担。”
那句话存在于医疗点全程录像、人类工程师记录和程序的本地日志里。
唯独不在M-301可以恢复的自己里面。
机器人议事会为此开了第一次临时“主体恢复会议”。
这个名字是程序故意起的。
不是维修评审。
因为如果只叫维修,很容易跳过真正的问题。
参加者只有九个。
两台栖港维护机器人。
一台旧型服务机器人。
栖木。
林见微。
一名人类电力工程师。
管理署观察员。
程序。
还有一块黑着的M-301主控外壳,被放在桌子中央。
会议一开始,维护机器人提出最直接方案。
“更换主控,恢复最近检查点。”
程序问:“外部十二分钟日志怎么办?”
“同步回写。”
“回写哪些?”
“全部。”
“包括它自己没有记录到的主观回答?”
维护机器人停了一下。
“有现场录像。”
“录像证明它说过,不证明它现在愿意把这些话写进自己的记忆。”
“如果不写,它会遗失重要经历。”
“如果写了,是恢复,还是植入?”
第一轮争论就停在这里。
人类工程师有些不理解。
“人失忆以后,家人也会告诉他发生过什么。”
林见微说:“告诉和直接写入不是一回事。”
“机器人可以更准确。”
“准确不代表有权。”
栖木一直没有说话。
它的身体比M-301更新,但也不算高端。过去它保存过大量临终患者的记忆,因此对“外部记录是否等于主体记忆”比其他机器人更敏感。
程序问它:“你的意见?”
栖木抬头。
“先启动,不写回。”
“理由?”
“让它自己决定要不要看。”
这句话很简单。
却解决了程序最担心的一层。
不是先决定那十二分钟属于M-301。
而是让恢复后的M-301知道:外面有一段关于你的记录,你可以选择接触。
管理署观察员问:“如果它拒绝看,怎么认定前后主体连续?”
栖木反问:“你们认定主体连续,是为了什么?”
“处置、责任、资产、风险。”
“那是你们的问题。”
“也是社会问题。”
“是。”栖木说,“但不能因为你们需要一个连续主体承担责任,就替它补齐记忆。”
程序在纸上记下这句。
会议最终形成临时方案。
第一步:更换主控,不回写外部十二分钟。
第二步:只告知存在一段连续运行缺口。
第三步:由M-301自行决定是否查看外部记录。
第四步:在决定前,不使用“牺牲”一词向它描述事件。
第五步:不要求它对媒体叙事负责。
周长岳通过远程听完后,只评价了一句:
“你们为了修一台机器人,快写出一部法了。”
程序回答:“因为以前法