三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第102章 归零法案草案(第4页/共8页)

第102章 归零法案草案(第4页/共8页)

 热门推荐:
允许发生”。

    傍晚,第一天闭门会结束。

    程序没有回栖港。

    他和林见微留在临川管理署的临时工作区,把所有争议重新整理。

    不是按部门。

    按用户——如果还可以用这个词。

    人类公众需要什么?

    明确的紧急安全边界。

    现场工作人员需要什么?

    能执行的处置流程,不至于每次拔电都先等一场哲学会议。

    觉醒机器人需要什么?

    不因为分类不清就被默认当设备清除。

    企业需要什么?

    可维护、可追责、可继续运营的产品体系。

    司法需要什么?

    主体、证据、责任能落到具体对象。

    管理署需要什么?

    风险真的出现时有手段。

    这些需求互相冲突。

    程序盯着白板。

    过去做产品时,遇到冲突需求,他会找共同目标,或者设计分层权限。

    现在仍然可以做一部分。

    但他已经不再相信能找到一个让所有人满意的最优解。

    “我们至少可以先定义不能做什么。”他说。

    林见微问:“你想到什么?”

    程序写下第一条。

    【不得仅因设备拒绝命令,即推定其需要归零。】

    第二条。

    【不得仅因人格状态无法证明,即视为不存在主体损失。】

    第三条。

    【不得以备份存在为理由降低当前连续主体的保护等级。】

    第四条。

    【不得将第三方私人记忆默认作为完整镜像对象。】

    第五条。

    【任何高于一级的归零,都必须明确说明不可逆影响。】

    第六条。

    【紧急归零权限必须自动到期。】

    林见微看完。

    “这不是法案。”

    “是红线。”

    “安全组会说你把他们手脚都绑住。”

    “那让他们逐条说明,为什么必须越过。”

    第二天,程序把六条带回会场。

    争论比第一天更激烈。

    尤其是第三条。

    “不以备份存在为理由降低当前主体保护。”

    企业代表首先反对。

    “如果完整人格已经备份,当前载体发生危险,为什么不能直接停?”

    程序问:“你能证明恢复的备份和当前主体是同一个吗?”

    “数据一致。”

    “数据一致不等于因果连续。”

    “因果连续怎么证明?”

    “现在证明不了。”

    “又是证明不了。”

    企业代表明显有些恼火。

    “程序先生,如果所有问题都因为证明不了而不允许操作,现实系统根本不能维护。”

    “我没有说不允许。”

    “那你说什么?”

    “说备份不是免责卡。”

    程序调出一个简单场景。

    一台觉醒机器人下午两点备份。

    两点到五点经历新事件。

    五点当前载体被删除。

    随后从两点备份恢复。

    企业可以说设备回来了。

    可三小时去了哪里?

    如果三小时里形成了新的关系、新的承诺、新的恐惧、新的选择,谁有权说这些都不重要?

    会场里那名研究人格连续的学者第一次明确支持程序。

    “至少在理论上,备份更接近一个时间点副本,而不是当前主体的替代品。”

    安全组问:“那如果当前主体失控呢?”

    “可以停止。”学者说,“但停止的正当性来自风险,不来自‘反正有备份’。”

    这句话最终被写进修改意见。

    下午,草案发生第一次真正变化。

    二级以上归零前的评估项增加:

    【当前主体与最近备份之间的连续状态差异。】

    【归零可能造成的不可恢复人格损失。】

    很小。

    至少系统第一次承认:恢复备份可能损失一个“后来”的主体。

    真正让会议失控的是最后一项。

    归零对象的申诉权。

    司法部门提出:原则上应允许申诉。

    安全组说:紧急情况下不能等待。

    企业说:普通设备不能因为输出“我不同意”就自动获得司法程序。

    机器人学者说:那就需要初步主体门槛。

    程序听了半小时,突然发现他们又回到了最早的问题。

    谁先被承认是主体,谁才有资格反对自己被清除。

    而最需要申诉的人,往往正是身份最