第103章 什么是人格连续(第3页/共5页)
热门推荐:
“像问题说明。”
她笑了一下。
“产品经理。”
程序没否认。
当天下午,林见微又把M-301叫来。
不是为了复盘救援。
只做一件事:让它自己描述十二分钟缺口前后,哪些东西让它觉得“还是我”。
M-301的回答出乎所有人意料。
“编号不是。”
“身体也不是。”
“长期任务记录重要,但不是全部。”
程序问:“那什么最重要?”
M-301想了很久。
“我知道自己为什么不喜欢被叫英雄。”
林见微抬头。
“这算价值偏好?”
“可能。”
M-301继续:“我知道维修组里哪些设备会在我说话太慢时等我。我知道程序经常先问风险,不先问效率。我知道我不愿意把那十二分钟直接写回自己。”
程序听到最后一句,停了一下。
“这些都发生在恢复以后。”
“对。”
“那和缺口前的你有什么关系?”
“关系是,我恢复以后仍然会基于过去的偏好做新的选择。”
林见微在白板上写:
【连续不等于记得所有,可能表现为面对新事件时仍能从过去形成的自己继续选择。】
这比“记忆完整度百分之多少”复杂得多。
也更接近人类。
很多人并不记得童年大部分细节,却不会因此每天成为新的人。
程序突然问林见微:“如果我忘掉2039年的公司名,我还是程序吗?”
“你已经忘了很多。”
“如果连家人的名字也忘?”
“会更难判断,但不一定不是。”
“如果只剩产品经理习惯?”
林见微看着他。
“你是在拿自己做边界测试?”
“我本来就是最奇怪的边界。”
程序把自己的案例写上去。
四十八年完全断层。
身体彻底更换。
法律身份死亡。
大量记忆缺失。
却仍有稳定职业习惯、价值偏好、关系反应和对过去的第一人称归属。
按因果连续,他很弱。
按记忆连续,中等。
按身体连续,几乎为零。
按自我认定,很强。
如果人格连续必须四项都高,他不该被保护。
可管理署现在显然也不愿再把他当普通设备。
林见微说:“这说明连续性和主体资格也要拆开。”
程序点头。
“对。一个主体可以来源断裂,却仍然在现在形成新的连续。”
“那归零法案要保护哪种连续?”
“当前正在发生的。”
这句话让讨论方向突然清楚。
他们不必先证明程序是不是2039年的那个人,才决定今天能不能随便清除他。
也不必先证明M-301十二分钟前的主观连续完全无断裂,才承认现在这台M-301会被再次删除影响。
当前连续本身,就可以成为最低保护对象。
林见微把它写成临时原则:
【历史来源争议,不影响对当前稳定主体链的最低保护。】
程序说:“这个可以放进法案。”
“安全组会问稳定多久才算稳定。”
“那别写固定时间。”
“总要有门槛。”
“用行为门槛。”
他们设计了四个问题。
第一,是否能区分自己与外部环境。
第二,是否能理解未来处置对自身持续状态的影响。
第三,是否形成跨事件的一致偏好或承诺。
第四,是否能对过去经历产生第一人称归属,而非只调用数据。
林见微说:“大模型也可能通过。”
“所以仍然不是人格认证。”
“又只是保护触发。”
“对。”
程序已经越来越接受一件事:
制度不一定要先给所有对象盖章“是生命”,才能避免最危险的误伤。
可以先承认我们不知道。
然后在不知道时,使用损害更小的动作。
傍晚,管理署安全组拿来一个反例。
一套恶意程序完全可以伪装成稳定主体,利用保护规则拒绝关机。
“如果你们的门槛这么低,攻击者会主动训练模型通过。”
程序说:“会。”
“那怎么办?”
“保护触发不等于放任运行。”
他把两条路径分开。