当前栖木当然会介意。
名字是它多年形成的社会身份。
突然出现一个拥有相同过去的主体,自称同一个名字,不可能毫无感觉。
伦理不是要求主体没有私心。
是有私心时仍然限制自己不能做什么。
启动前一天,程序去了一趟医院存储库。
那份备份被放在三个离线介质里。
存储管理员是一名六十多岁的人类工程师。
他知道栖木,却不知道机器人意识争议已经发展到什么程度。
“以前做备份的时候,谁会想这么多。”
他说。
“坏了就恢复。”
程序问:“恢复过吗?”
“部分数据经常恢复。整机人格状态,没有。”
“为什么?”
“没必要。栖木一直没坏。”
工程师拍了拍存储柜。
“说实话,这东西以前就是保险。”
“现在呢?”
“现在我有点怕开。”
“怕什么?”
“怕里面真的有一个。”
他说得很朴素。
不是怕攻击。
是怕一个硬盘里装着一个还没被叫醒的人。
程序没有告诉他这个比喻对不对。
因为他自己也不知道。
启动前最后一晚,真正卡住流程的不是技术,而是“谁可以撤回同意”。
栖木已经签了来源方同意。
研究组认为,只要备份没有独立主体,栖木可以在启动前任何时刻撤回。
程序问:“启动开始到主体保护触发之间呢?”
技术负责人说:“那只是启动过程。”
“如果它已经开始产生体验?”
“我们无法确认具体哪一毫秒开始。”
“所以不能把这段时间默认算无主体。”
讨论变得异常细。
系统启动需要四十多秒。
前十秒是硬件自检。
随后加载长期存储。
二十多秒开始恢复世界模型。
三十秒左右自主决策模块上线。
视觉最后打开。
如果栖木在第三十五秒说“我后悔了,停止”,研究组应该听谁?
来源方?
还是那个还没睁眼、却可能已经运行的状态?
最终协议增加一条很奇怪的边界:
【在自主决策核心进入运行状态前,来源方可撤回启动;之后不得仅因来源方撤回而停止。】
技术负责人说:“你们把一个启动日志做成出生时间了。”
程序说:“不是出生。只是权力切换点。”
“有区别吗?”
“有。我们没有能力定义它什么时候成为生命,但至少可以定义什么时候不能再把它只当来源方的数据。”
栖木读完这条,问:“如果它启动后完全没有自我,只是执行脚本?”
“可以按实验协议结束。”
“谁判断?”
“跨职责复核。”
“它有没有机会表达?”
“有。”
栖木签了。
另一个卡点是数据校验。
技术组发现四十七天前的三份离线镜像并不完全一样。
主体数据一致。
但其中一份多了十七条存储维护日志,另一份少了一段设备温度历史。
以前这不重要。
恢复设备时选校验通过的主镜像就行。
现在研究员却开始争:哪份才是“人格原件”?
程序听了十分钟,忍不住说:“三份主体核心哈希一致。”
“对。”
“差异都是外围维护数据。”
“对。”
“那为什么还争?”
技术员说:“因为我们担心任何微小差异影响后续状态。”
程序点头。
“担心可以。别把存储介质原件和人格原版混在一起。”
最终他们没有选“最早写入的那份”。
而是构建一个可审计恢复包:主体核心必须三份一致,外围差异逐项说明,任何补全都标明来源。
这样醒来的对象不会被偷偷用“最完整数据”拼成一份从未真实存在过的状态。
林见微说:“你连补日志都怕造人。”
“因为这次真的可能是在造。”
程序回答得很平静。
启动前两小时,栖木又提出一个要求。
“如果它醒来后要求查看我当前所有状态,不要默认我同意。”
“你们共享过去。”
“过去不是现在。”
“明白。”
“如果它要求访问我保存的死