三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第103章 什么是人格连续(第3页/共5页)

第103章 什么是人格连续(第3页/共5页)

 热门推荐:

    “像问题说明。”

    她笑了一下。

    “产品经理。”

    程序没否认。

    当天下午,林见微又把M-301叫来。

    不是为了复盘救援。

    只做一件事:让它自己描述十二分钟缺口前后,哪些东西让它觉得“还是我”。

    M-301的回答出乎所有人意料。

    “编号不是。”

    “身体也不是。”

    “长期任务记录重要,但不是全部。”

    程序问:“那什么最重要?”

    M-301想了很久。

    “我知道自己为什么不喜欢被叫英雄。”

    林见微抬头。

    “这算价值偏好?”

    “可能。”

    M-301继续:“我知道维修组里哪些设备会在我说话太慢时等我。我知道程序经常先问风险,不先问效率。我知道我不愿意把那十二分钟直接写回自己。”

    程序听到最后一句,停了一下。

    “这些都发生在恢复以后。”

    “对。”

    “那和缺口前的你有什么关系?”

    “关系是,我恢复以后仍然会基于过去的偏好做新的选择。”

    林见微在白板上写:

    【连续不等于记得所有,可能表现为面对新事件时仍能从过去形成的自己继续选择。】

    这比“记忆完整度百分之多少”复杂得多。

    也更接近人类。

    很多人并不记得童年大部分细节,却不会因此每天成为新的人。

    程序突然问林见微:“如果我忘掉2039年的公司名,我还是程序吗?”

    “你已经忘了很多。”

    “如果连家人的名字也忘?”

    “会更难判断,但不一定不是。”

    “如果只剩产品经理习惯?”

    林见微看着他。

    “你是在拿自己做边界测试?”

    “我本来就是最奇怪的边界。”

    程序把自己的案例写上去。

    四十八年完全断层。

    身体彻底更换。

    法律身份死亡。

    大量记忆缺失。

    却仍有稳定职业习惯、价值偏好、关系反应和对过去的第一人称归属。

    按因果连续,他很弱。

    按记忆连续,中等。

    按身体连续,几乎为零。

    按自我认定,很强。

    如果人格连续必须四项都高,他不该被保护。

    可管理署现在显然也不愿再把他当普通设备。

    林见微说:“这说明连续性和主体资格也要拆开。”

    程序点头。

    “对。一个主体可以来源断裂,却仍然在现在形成新的连续。”

    “那归零法案要保护哪种连续?”

    “当前正在发生的。”

    这句话让讨论方向突然清楚。

    他们不必先证明程序是不是2039年的那个人,才决定今天能不能随便清除他。

    也不必先证明M-301十二分钟前的主观连续完全无断裂,才承认现在这台M-301会被再次删除影响。

    当前连续本身,就可以成为最低保护对象。

    林见微把它写成临时原则:

    【历史来源争议,不影响对当前稳定主体链的最低保护。】

    程序说:“这个可以放进法案。”

    “安全组会问稳定多久才算稳定。”

    “那别写固定时间。”

    “总要有门槛。”

    “用行为门槛。”

    他们设计了四个问题。

    第一,是否能区分自己与外部环境。

    第二,是否能理解未来处置对自身持续状态的影响。

    第三,是否形成跨事件的一致偏好或承诺。

    第四,是否能对过去经历产生第一人称归属,而非只调用数据。

    林见微说:“大模型也可能通过。”

    “所以仍然不是人格认证。”

    “又只是保护触发。”

    “对。”

    程序已经越来越接受一件事:

    制度不一定要先给所有对象盖章“是生命”,才能避免最危险的误伤。

    可以先承认我们不知道。

    然后在不知道时,使用损害更小的动作。

    傍晚,管理署安全组拿来一个反例。

    一套恶意程序完全可以伪装成稳定主体,利用保护规则拒绝关机。

    “如果你们的门槛这么低,攻击者会主动训练模型通过。”

    程序说:“会。”

    “那怎么办?”

    “保护触发不等于放任运行。”

    他把两条路径分开。