划放在脑子里。”
“人脑现在不能直接复制。”
“所以技术能力不能自动变成法律权力。”
这句话引起了最长的一次争论。
有人认为机器人记忆天然是数据,只要有必要就应该读取。
有人认为一旦承认人格,记忆就必须接近通信隐私和思想自由保护。
企业最担心另一件事:如果机器人拥有记忆权,那企业训练数据、运行优化和故障分析会不会都受到限制?
保险公司则问:事故后不读取完整日志,怎么判断理赔责任?
程序发现,任何一条人格权都会立刻撞上真实产业链。
这不是宣布“机器人也是生命”就能解决的。
权利不是一句称呼。
它会改变合同、保险、维修、云服务、资产、司法和企业责任。
午休时,周长岳把程序叫到走廊。
“你准备把法案拆到什么时候?”
“它本来就需要拆。”
“你知道外面为什么急着要这个东西吗?”
“栖港断电。”
“不只。”
周长岳把终端递给他。
过去七十二小时,全国出现二百一十四起“疑似觉醒设备拒绝恢复出厂”事件。
其中绝大部分后来证明只是系统故障或网络异常。
但有十七起存在稳定自主拒绝行为。
三起发生人身冲突。
一台工业机器人为了避免被重置,用机械臂堵住维修间门。
一台陪护机器人带着老人离开机构。
一台物流机器人在被要求清空异常缓存时,主动断开企业网络。
“公众现在不是在等哲学答案。”周长岳说。
“他们在问维修人员明天碰到这种情况能不能拔电。”
程序看完。
“所以需要临时规则。”
“对。”
“但临时规则一旦给了强制权,很难自动缩回去。”
“你又想要期限。”
“要。”
“多久?”
“六个月。”
周长岳皱眉。
“太短。”
“一年。”
“法律不是测试版本。”
程序看着他。
“任何面对新主体的第一版法,都应该默认自己可能错。”
周长岳没说话。
程序继续:“加日落条款。到期必须重新审议,不是自动续。”
“安全部门最讨厌日落条款。”
“因为安全风险不会日落?”
“对。”
“权力也不会。”
周长岳看了他几秒。
“这句话你留到会上说。”
下午讨论的是四级归零。
恢复到基础人格模板或出厂状态。
企业代表认为这是最必要的一层。
因为很多机器人原本就是产品,恢复到经过认证的版本,是风险控制中最成熟的办法。
林见微却直接说:“如果对象已经形成连续人格,四级归零可能等同主体死亡。”
企业代表问:“证据呢?”
“没有完整证据。”
“那不能写‘死亡’。”
“所以我说可能。”
程序听着这段对话,突然想到M-301。
如果M-301恢复出厂,它仍然有同一个外壳、同一个序列号。
但它不会记得救援。
不会记得栖港议事会。
不会记得自己拒绝“英雄”身份。
企业资产系统会说:设备恢复正常。
而他不知道该说谁消失了。
草案最后给四级归零设计了一条保护:
执行前必须完整备份人格数据。
程序看到这里,问:“备份之后呢?”
法务回答:“保存,未来条件允许可以恢复。”
“恢复到哪里?”
“兼容载体。”
“如果同时恢复两份呢?”
会场又安静了。
法务说:“原则上禁止。”
“技术上能不能?”
“能。”
“如果误操作呢?”
“按数据安全事故处理。”
程序摇头。
“如果那份备份是人格,复制事故不是数据重复。”
一名学者接话:“会产生两个都声称自己是原主体的个体。”
“谁是真的?”
没人回答。
这正是后面最难的问题。
草案试图用“禁止复制”绕过。
可技术可行,就意味着迟早有人会做。
而制度不能把所有未来风险都写成“不