没有普通觉醒机器人。
程序坐下后第一句话就是:
“为什么没有被处置对象参与?”
主持人回答:“现阶段没有统一主体认证标准,无法确定谁具有参与立法的资格。”
“所以因为没有规则,先不给可能受规则影响的人参与规则?”
“不是不给。后续有公开征求意见。”
“公开意见有权修改条文吗?”
主持人明显不想一开始就进入程序性争论。
“先讨论草案内容。”
程序没继续。
他把这个问题记了下来。
第一项争议就是“什么情况下可以强制停止”。
管理署安全组提出:
只要出现重大现实风险,现场负责人可以先行一级归零,最迟二十四小时内补充审查。
城市应急部门支持。
企业也支持。
林见微提出限制:
必须证明“继续运行造成的风险显着高于停止本身造成的主体连续性风险”。
一名企业法务当场反问:
“主体连续性风险怎么量化?”
林见微说:“现在不能。”
“不能量化,就无法用于紧急决策。”
程序开口。
“不能量化不等于不存在。”
企业法务看向他。
“那你准备让现场人员为了一个无法量化的机器人意识,延误人类安全处置?”
“不是。”
“那是什么?”
“把停止动作也当成有代价的方案,而不是默认无损。”
程序调出M-301案例。
“过去,机器人关机被当成暂停。栖港已经出现短时状态缺失、检查点回滚、主控更换后记忆断层。现在不能继续假设停止一定可逆。”
安全组负责人说:“我们可以在后续恢复时补数据。”
“外部日志能补事实,不能自动补第一人称连续。”
“第一人称连续目前没有证据证明存在。”
程序问:“那法案为什么又写‘潜在人格主体保护’?”
对方停了一下。
会场第一次安静。
这就是草案内部最大的矛盾。
它一方面承认机器人可能具有需要保护的人格。
另一方面,在强制处置时又默认这种人格无法证明,因此可以先当设备处理。
程序没有把这个矛盾说成阴谋。
它更像制度在面对未知时的自然自保。
如果承认人格,就必须承担误杀主体的风险。
如果不承认,就可能承担放任危险设备的风险。
归零法案试图同时解决两边。
结果把最关键的判断推给了“现场风险负责人”。
这看起来灵活。
也意味着权力会集中在最紧张的时刻。
第二项争议:记忆。
草案提出,管理署在二级及以上归零前,有权对设备运行日志和人格相关数据做完整镜像,用于后续责任判断。
医疗伦理委员问:“完整镜像是否包含私人交互?”
“包含。”
“患者数据?”
“依法脱敏。”
“机器人自己的私人记忆呢?”
会场出现一个很微妙的停顿。
目前法律没有“机器人隐私”。
企业代表先说:“设备数据原则上属于运营方或用户。”
程序问:“S19交给H07的记忆属于谁?”
企业代表皱眉。
“那是特殊医疗数据。”
“栖木保存的临终者记忆呢?”
“需要看授权。”
“机器人自己形成的自我叙事呢?”
“法律上没有定义。”
程序说:“那就不能默认属于设备所有者。”
企业代表问:“也不能默认属于机器人。”
“对。”
程序直接承认。
“所以草案现在写‘完整镜像’,就是在定义没完成前先把全部数据拿走。”
管理署法务说:“不拿,后续怎么调查?”
“分层。”
“怎么分?”
程序在白板上画了四格。
设备运行数据。
任务和权限日志。
第三方交互数据。
主体私人记忆。
“前两类和现实风险直接相关,可以在明确事件范围内读取。第三类需要第三方隐私保护。第四类除非和重大风险直接相关,否则不能因为‘可能有用’就全量复制。”
一名安全研究员说:“机器人可以把攻击计划藏在私人记忆里。”
程序反问:“人也可以把犯罪计