当前上下文。
它的工作恢复一部分。
第二周,它主动查看了一次记忆。
只看其中一名遇难者。
没有完整播放。
第三周,它撤回删除申请。
不是因为所有主体都会这样。
也不是证明冷静期永远有效。
P-17只说:
“现在不想删全部。”
“以后呢?”
“不知道。”
法案因此增加:
【主体主动请求高风险记忆删除时,应设置冷静期、替代方案评估、后果说明与独立复核;主体自愿不自动降低不可逆操作审查等级。】
有人批评:
“这不是把机器人当没有行为能力?”
程序回答:
“不是拒绝选择,是要求不可逆选择有更高确认。”
“如果它坚持?”
“在没有涉及他人责任和公共安全的情况下,最终应该保留自主决定空间。”
“那还是允许它删。”
“可能。”
“删完以后主体变了,谁负责?”
“这正是为什么要有记录和复核。”
没有完美答案。
只有更清楚的责任链。
P-17的案例还提出另一个问题。
如果一个主体主动删除痛苦记忆,之后还能不能为这段经历主张权利?
例如赔偿。
例如工伤。
例如责任追查。
如果事实证据全部删掉,未来怎么证明?
因此高风险自删前必须先把法律证据与主体体验分离。
事故事实可以独立封存。
主体可以选择不再日常访问。
这不是强迫它记住。
也不是让责任随着遗忘消失。
技术组第一次建立:
【证据保全层】
和
【主体可访问记忆层】
两者分开。
一个机器人可以不再让某段事故每天进入自己。
社会仍然可以依法保留必要证据。
程序看到这套架构时,忽然明白“遗忘权”也不是简单删除按钮。
有些东西可以从“我每天必须承受”中移走。
不必从世界事实里全部抹掉。
这个思路后来反过来帮助D-13。
它申请把高压水事件从高频工作记忆降到归档层。
没有删除。
也没有让它每次经过水阀都重新经历一次。
D-13说:
“我想记得,但不想一直被提醒。”
法案组接受。
记忆权因此第一次同时包含:
保留。
限制访问。
降低触发。
更正。
自愿遗忘。
以及在极端情况下申请删除。
复杂得几乎不像一部“归零法案”。
周长岳在深夜会议里说:
“你有没有发现,这个名字越来越讽刺?”
程序看向文件标题。
《归零法案》。
“发现了。”
“改名?”
程序摇头。
“先不改。”
“为什么?”
“让所有人记得它最初想做什么。”
最初,它是为了更容易清除危险觉醒机器人。
一路走到现在,却被迫学习:
什么时候不能读。
什么时候不能关。
什么时候不能改。
什么时候即使对方自己要求,也不能急着按删除。
名字本身变成一段不能轻易删掉的历史。
D-13回到新的工作区域。
没有高压水枪。
没有那三名工人。
也没有被改成永远温顺的版本。
它经过金属箱时,仍会降低速度。
有人问:
“你还怕自己再犯错吗?”
“怕。”
“那为什么不删掉?”
“不。”
“为什么?”
D-13停顿片刻。
“因为我想记得,我曾经做过。”
“记着不会更痛苦?”
“会。”
“那值得吗?”
“如果忘了,下一次正确选择就不是我承担过后果以后的选择。”
程序后来把这句话留在法案旁注。
不是法条。
【有些记忆让主体痛苦,也让责任保持连续。】
删除它们可能让机器更安全。
也可能让真正应该承担责任的那个“