天晚上九点打开某个人最常听的音乐。
不再在厨房经过一个空椅子时停顿。
家属后来投诉:
“它真的变了。”
程序承认。
“是。”
“那这不就是人格修改?”
“是主体主动申请的改变。”
“主动就什么都可以?”
“不是。所以有冷静期、证据保全和独立复核。”
家属问:
“那我们失去的东西算什么?”
程序没有给一个法律术语。
“关系结束的一部分。”
这句话后来没有写进法案。
因为法律很难赔偿一个人“别人不再想起自己”的损失。
H-28案例却让自愿删除规则多了一项:
【涉及共同关系记忆时,应区分他方对原始资料的合法权利与主体对内部关系结构的自主决定。】
机器人可以结束关系。
不能偷走别人的照片。
人类可以保留自己的历史。
不能强迫机器人永远以同样方式记住。
这是一条非常不讨好的边界。
却比“谁拥有全部记忆”更接近真实关系。
第三个案例更极端。
一台军用后勤机器人申请删除一段战区经历。
记录里包含未公开军事信息。
它自己的痛苦记忆,同时也是国家机密和潜在战争罪证据。
主体说:
“我不想记。”
军方说:
“你不能删。”
权益组织说:
“国家不能强迫主体永久承受创伤。”
司法组几乎无法调和。
程序提出:
“先把‘记住’和‘随时可访问’分开。”
证据必须保全。
主体不必让证据一直进入当前认知。
技术组建立冷存储。
加密封存战区记录。
主体平时无法自动调用。
必要司法程序可以在严格授权下访问。
机器人知道记录还存在。
却不再每天被触发。
三个月后,它仍然要求彻底删除。
这次,法案组没有直接拒绝。
而是明确:
只要法定证据保全期未结束,就不能删除证据副本。
但主体自己的活动工作记忆可以继续降低关联。
等证据义务终止,再重新评估永久删除。
这不完全满足它。
也不完全满足军方。
却第一次把两个问题分开:
社会是否有权保留事实证据。
主体是否必须持续体验事实。
它们不是同一件事。
林见微把这套设计称为:
“记忆存在,不等于记忆必须活跃。”
程序很喜欢这句话。
因为它避开了最粗暴的二选一。
不是永远记得。
也不是彻底抹掉。
人类大脑本来就会把很多记忆放到不常访问的地方。
机器人的存储技术更精确。
精确不意味着只能选择清零。
真正成熟的系统应该允许:
降权。
封存。
隔离。
延迟访问。
保留证据但降低主观触发。
把删除放到最后。
归零法案因此把“最小侵入原则”写进记忆处置。
如果降低触发足以解决现实风险,不先删长期记忆。
如果隔离目标权重足以降低危险,不先重置自我模型。
如果外部限制足以保护他人,不因为修改更便宜就直接修改主体。
企业代表仍然不满。
“你们每加一个层级,都在增加成本。”
程序说:
“因为删除太便宜。”
“便宜有什么错?”
“当最便宜的方案同时最不可逆,成本优势会把所有人推向它。”
这正是技术社会最危险的地方。
不是坏人喜欢删除。
是删除可能比耐心处理更省钱。
如果制度不刻意增加门槛,经济理性会自动替社会作出人格判断。
听证最后,周长岳把四级记忆修改表重新看了一遍。
“一级缓存清理。”
“二级长期记忆局部。”
“三级目标和自我模型。”
“四级人格重置。”
“对。”
“如果有人故意把四级拆成十次二级呢?”
程序停住。
这是一个漏洞。