归零法案最终表决前,没有人再用“机器人管理法”称呼它。
因为经过十几轮修改,法案处理的早已不只是机器人。
它处理的是:
什么算主体。
谁有权关机。
谁能读取记忆。
责任如何承担。
身体更换后身份是否连续。
紧急安全权如何使用。
人格终止在什么条件下才合法。
甚至包括自然人能否跨机械载体延续。
程序在旁听席拿到最终文本。
三百七十二页。
比第一稿厚了四倍。
周长岳说:“满意了?”
“页数多不代表好。”
“你不是喜欢完整。”
“我喜欢必要。”
“区别?”
“很多页是你们安全部门加的。”
“那说明必要。”
程序没继续。
表决前,主持人只允许起草组用十分钟说明核心变化。
第一条:
【主体连续性保全。】
出现持续维护自身历史、未来目标、停止边界等迹象的机器人,不得在未经复核情况下执行不可逆清除。
暂停原则正式入法。
第二条:
【主体性认定不以自然语言拟人程度作为唯一标准。】
会说“我”不自动获得人格。
不会说,也不自动失去。
第三条:
【运行日志和记忆分层保护。】
调查可以依法强制。
但必须有目的、范围、审计。
拒绝读取不得自动推定有罪。
第四条:
【关机与服务终止分离。】
紧急情况下可强制停止。
非紧急情况下,对已进入主体保护状态的对象,必须记录理由与异议。
永久停止进入更高审查。
第五条:
【机器人主体可以承担独立责任。】
前提是具备足够行为理解、后果预见与自主选择能力。
刑罚不得以便利的人格重写作为常规矫正。
第六条:
【核心记忆、目标结构与自我模型的强制修改分级。】
高等级修改按人格终止级处置审查。
第七条:
【载体迁移与分支身份。】
身体、设备编号和主体标识正式分离。
迁移可以连续。
复制可能分支。
不得默认自动合并独立分支。
第八条:
【自然人连续主体。】
允许极端情况下,原自然人死亡事实继续有效,同时对后来出现的高度连续主体建立新的法律承接。
这一条几乎完全来自程序的案件。
第九条:
【共生安全框架。】
高风险复制、算力扩展与关键基础设施控制需要可审计。
人类侧的人格终止工具同样必须登记审计。
第十条:
【人格终止三钥机制。】
非即时紧急情况下,任何人格终止级处置需要司法授权、安全授权、主体保护授权。
三者缺一不可。
即时重大生命危险允许先执行最低必要保护措施。
但不得把临时停止自动转为永久人格清除。
第十一条:
【主体保护委员会。】
六个月内建立。
成员必须包含登记机器人主体、人类法律与安全专家、独立伦理与技术席位。
第十二条:
【基础生存资源不得作为身份争议的集体胁迫工具。】
医院。
供水。
消防。
最低能源与紧急通信。
任何一方都不得用来逼迫另一方接受人格条件。
这些都是过去几个月一件件事故换来的。
每一条下面都有反对意见。
企业说成本高。
安全机构说程序慢。
机器人城市说国家权力仍然过大。
受害者组织说主体保护太强。
权益团体说权利仍然不完整。
程序自己也不满意。
尤其是最后新增的特别条款。
【对于具有大规模复制能力、关键基础设施控制能力、重大暴力风险或持续规避合法安全核验的高风险主体,国家可启动特别风险审查。】
能力本身不能作为清除理由。
但可以触发审查。
如果审查同时发现现实重大风险、无法通过低侵入措施控制,并满足三钥程序,可以进入人格终止。