允许发生”。
傍晚,第一天闭门会结束。
程序没有回栖港。
他和林见微留在临川管理署的临时工作区,把所有争议重新整理。
不是按部门。
按用户——如果还可以用这个词。
人类公众需要什么?
明确的紧急安全边界。
现场工作人员需要什么?
能执行的处置流程,不至于每次拔电都先等一场哲学会议。
觉醒机器人需要什么?
不因为分类不清就被默认当设备清除。
企业需要什么?
可维护、可追责、可继续运营的产品体系。
司法需要什么?
主体、证据、责任能落到具体对象。
管理署需要什么?
风险真的出现时有手段。
这些需求互相冲突。
程序盯着白板。
过去做产品时,遇到冲突需求,他会找共同目标,或者设计分层权限。
现在仍然可以做一部分。
但他已经不再相信能找到一个让所有人满意的最优解。
“我们至少可以先定义不能做什么。”他说。
林见微问:“你想到什么?”
程序写下第一条。
【不得仅因设备拒绝命令,即推定其需要归零。】
第二条。
【不得仅因人格状态无法证明,即视为不存在主体损失。】
第三条。
【不得以备份存在为理由降低当前连续主体的保护等级。】
第四条。
【不得将第三方私人记忆默认作为完整镜像对象。】
第五条。
【任何高于一级的归零,都必须明确说明不可逆影响。】
第六条。
【紧急归零权限必须自动到期。】
林见微看完。
“这不是法案。”
“是红线。”
“安全组会说你把他们手脚都绑住。”
“那让他们逐条说明,为什么必须越过。”
第二天,程序把六条带回会场。
争论比第一天更激烈。
尤其是第三条。
“不以备份存在为理由降低当前主体保护。”
企业代表首先反对。
“如果完整人格已经备份,当前载体发生危险,为什么不能直接停?”
程序问:“你能证明恢复的备份和当前主体是同一个吗?”
“数据一致。”
“数据一致不等于因果连续。”
“因果连续怎么证明?”
“现在证明不了。”
“又是证明不了。”
企业代表明显有些恼火。
“程序先生,如果所有问题都因为证明不了而不允许操作,现实系统根本不能维护。”
“我没有说不允许。”
“那你说什么?”
“说备份不是免责卡。”
程序调出一个简单场景。
一台觉醒机器人下午两点备份。
两点到五点经历新事件。
五点当前载体被删除。
随后从两点备份恢复。
企业可以说设备回来了。
可三小时去了哪里?
如果三小时里形成了新的关系、新的承诺、新的恐惧、新的选择,谁有权说这些都不重要?
会场里那名研究人格连续的学者第一次明确支持程序。
“至少在理论上,备份更接近一个时间点副本,而不是当前主体的替代品。”
安全组问:“那如果当前主体失控呢?”
“可以停止。”学者说,“但停止的正当性来自风险,不来自‘反正有备份’。”
这句话最终被写进修改意见。
下午,草案发生第一次真正变化。
二级以上归零前的评估项增加:
【当前主体与最近备份之间的连续状态差异。】
【归零可能造成的不可恢复人格损失。】
很小。
至少系统第一次承认:恢复备份可能损失一个“后来”的主体。
真正让会议失控的是最后一项。
归零对象的申诉权。
司法部门提出:原则上应允许申诉。
安全组说:紧急情况下不能等待。
企业说:普通设备不能因为输出“我不同意”就自动获得司法程序。
机器人学者说:那就需要初步主体门槛。
程序听了半小时,突然发现他们又回到了最早的问题。
谁先被承认是主体,谁才有资格反对自己被清除。
而最需要申诉的人,往往正是身份最