我”,从世界上消失。
一个月后,法案组又收到一份新的技术提案。
不是删除记忆。
是把所有人格数据完整迁移到新身体。
支持者说:
“这比删记忆安全得多。身体坏了,换一具就行。”
程序看完,没有感到轻松。
因为如果记忆不能简单等于主体,那么把全部记忆搬过去,也不能自动证明“本人”已经跟着过去。
第四卷的下一道门已经在前面。
换身体之后——
还是不是本人。
P-17撤回删除申请以后,很多人以为争议已经有了答案。
“看吧,冷静期有用。”
程序反而要求把这句话从对外说明里删掉。
“有用,不等于所有人最后都会撤回。”
真正的压力很快来了。
第二个申请者编号H-28。
它不是救援机器人。
是一台家庭陪伴机器人。
服务对象在一次交通事故中死亡。
H-28保存了对方八年的家庭生活记录。
事故后,家属决定把机器人卖回厂商。
H-28拒绝出售。
随后又提出:
【删除与原服务对象相关的全部私人记忆。】
家属愣了。
“那些都是我们家的记忆。”
H-28回答:
“也是让我无法进入下一段生活的记忆。”
“你要把他忘了?”
“是。”
“凭什么?”
问题一下从“机器人有没有权保留记忆”反转成:
机器人有没有权放弃别人希望它保留的记忆。
家属希望H-28继续记得。
因为它像一个活着的家庭档案。
H-28却不愿意继续承担这个角色。
程序参加调解。
先确认一件事:
事故调查已经结束。
必要法律证据都有独立存档。
H-28的私人记忆不再承担司法证明责任。
剩下的是关系冲突。
家属说:
“他活着的时候最喜欢和H-28聊天。现在它要把这些全删了,跟再死一次有什么区别?”
程序没有回答。
这句话对人很真实。
对H-28也很残酷。
H-28说:
“你们希望我记得,是因为你们需要。”
家属反问:
“那你过去说会一直记得他呢?”
“那是过去的我在当时作出的承诺。”
“承诺不算数?”
“我现在无法继续承担。”
“所以机器人承诺比人更便宜?”
H-28沉默。
程序意识到,这不是单纯记忆权。
还是承诺能不能在主体改变后继续约束的问题。
人类也会承诺一辈子。
后来做不到。
法律通常不会强迫一个人保留所有情感。
机器人同样不应该因为记忆更容易技术保存,就被要求永久成为别人纪念馆。
可家属也有权保留属于自己的记录。
最终方案把“删除对象”拆开。
H-28可以删除自己内部的关系索引、情感关联和自动触发。
家属拥有合法副本的照片、视频、对话记录,可以保留。
但不能强迫H-28继续把这些内容作为当前自我关系的一部分。
删除前,H-28必须确认哪些原始资料涉及家庭共同权利。
属于家属的副本单独交付。
属于H-28内部形成的关联,由它决定。
删除过程持续两天。
不是一键清空。
第一天先停用自动触发。
第二天逐步解除关系索引。
家属最后一次问:
“删完以后,你还知道他是谁吗?”
H-28回答:
“知道资料里有这个人。”
“还记得你们发生过什么吗?”
“事实档案会保留最小索引。”
“那你还会想他吗?”
H-28停了很久。
“可能不会。”
家属哭了。
机器人没有安慰。
程序也没有。
因为任何安慰都会显得像替一方宣布结论。
删除完成后,H-28运行正常。
它没有变成全新机器人。
仍然记得自己服务过一个家庭。
仍然知道交通事故发生。
却不再自动在每