现实安全风险可以继续隔离、断网、限制运动。
人格保护只限制不可逆删除和强制人格修改。
“一个对象说自己是人,不代表我们要给它服务器管理员权限。”
程序说。
“同样,一个对象很危险,也不代表我们第一步必须擦掉它是谁。”
安全组负责人盯着他。
“如果隔离成本非常高?”
“成本问题不能偷偷改写成主体不存在。”
“但社会资源有限。”
“那就公开讨论什么情况下成本足以支持更高处置。”
程序没有逃避。
“最终也许会有必须不可逆处理的极端情况。但那应该是一项被明确承认的代价,不是因为技术上有删除按钮就默认最省事。”
这段话没有进入定义。
却进入了归零法案的立法说明。
人格连续不是为了证明机器人永生。
恰恰相反。
它是为了让社会在可能终止一个主体时,先知道自己终止的究竟是什么。
在把框架提交工作组前,林见微坚持增加一项“社会连续”验证。
不是让别人投票决定谁是主体。
而是看一个对象是否与外部世界维持可追溯关系。
她找来三类人做匿名测试。
M-301的维修同伴。
曾与栖木长期合作的护士。
以及一个完全不认识程序的人类研究员。
问题不是“你觉得它是不是生命”。
而是:“如果明天出现一个数据完全相同的对象,你会把哪些关系自动延续,哪些不会?”
维修同伴回答:工作协作记录可以共享,但私下形成的信任需要重新建立。
护士说:如果两个栖木都记得过去,她会承认两个都与过去有关,但新的患者授权不能自动给两个。
陌生研究员对程序的回答最简单:
“我没有过去关系,所以只看他现在怎么做。”
程序看完,觉得这个测试非常有价值。
社会连续不是让社会决定主体真伪。
而是承认身份本来就包含别人对你的持续回应。
复制之后,外部关系也会分叉。
制度不能强迫所有关系方都按同一种方式继承。
林见微把这一点写成:
【人格连续评估可参考社会关系连续,但任何第三方关系选择不得单独决定主体存在。】
程序说:“这句终于像法律了。”
“因为被你折腾了一整天。”
“说明迭代有效。”
林见微白了他一眼。
他们都知道,这只是开始。
程序还要求在评估表首页加入一条警告:
【本表用于判断连续关系,不用于给主体价值打分。】
技术组觉得多余。
他坚持。
因为一旦出现“连续度80%”“连续度40%”这样的数字,下一步一定有人会把它误解成“更像生命”和“更不像生命”。
人格连续可以有强弱证据。
主体价值不能因此按百分比折价。
林见微在“自我认定”旁边加了备注:
【对象可以回答“不知道”。】
程序很赞成。
如果只有坚定说“我是我”的对象才被认为连续,那么最诚实的怀疑反而会降低保护。
一个主体在断裂后迷茫,不应该自动成为清除理由。
程序又补了一条:
【拒绝回答也属于状态,不得自动视为无人格。】
主体可能不信任提问者,也可能还没形成答案。
沉默和不存在,不是同一件事。
工作组还同意,任何连续性评分都不得单独触发归零等级。
它只能提示需要进一步复核。
程序不希望未来出现一条红线:连续度低于百分之六十,所以可以删除。
人格不是质检良率。
第二天,法案工作组接受了一个临时框架。
人格连续至少看四项:
记忆链。
因果运行链。
价值和关系变化。
主体自我认定。
任何单项都不能独立决定。
如果四项冲突,就标记为人格连续争议,而不是强行二选一。
这套框架没有解决“谁是真的”。
却至少允许制度承认:有些主体关系本来就不能马上确定。
工作组准备结束时,技术员收到医院存储库的完整校验结果。
栖木四十七天前的备份没有损坏。
不仅完整。
而且具备在兼容载体中独立启动的全部条件。
技术员问:“