周长岳停了一下。
“供水管网机器人拒绝进入有毒气体井。”
“现场有人受影响?”
“井内传感器失效,但供水正常。人工队伍已经接手。”
“它为什么拒绝?”
“要求提供回收方案和气体浓度。调度中心只有‘立即进入检查’。”
程序点头。
这不是叛乱。
甚至像一个合格的安全员。
周长岳看见桌上的第三类主体草案。
“看到第三项了?”
“看到了。”
“你反对。”
“如果不加审查边界,反对。”
“如果对象在审查前已经造成伤害?”
“可以限制行动。”
“如果它逃?”
“可以追。”
“那和‘不得规避’有什么不同?”
“一个是我们根据风险采取限制,一个是要求主体本身承担主动配合义务。”程序说,“前者需要你证明限制合理,后者容易变成它只要不配合就先有错。”
周长岳看着他。
“你越来越懂制度漏洞。”
“以前是需求漏洞。”
“区别不大。”
程序想了想。
“后果大很多。”
三人继续看草案。
最有争议的条款出现在第十二页。
【受限自主责任主体不自动享有政治参与、财产继承、婚姻家庭及公共选举等自然人权利。】
程序没有异议。
这些权利本来就不能因为“像人”自动复制。
下一行却写着:
【其身份可长期维持,直至满足更高层级主体资格或自主行为能力消失。】
程序抬头。
“长期维持?”
林见微说:“这就是我让你看的原因。”
周长岳问:“你们觉得应该怎么写?”
“先删‘长期’。”程序说。
“为什么?”
“因为一旦这个分类能永久存在,所有机构都有动力把难处理的机器人塞进来。”
“总要有稳定身份。”
“稳定和永久是两回事。”
程序在屏幕旁边写下三个风险。
第一,企业会把觉醒迹象明显但权利成本较高的机器人维持在第三类,避免更高义务。
第二,管理机构会把无法确定的对象长期放在第三类,避免承担错误升级或错误降级责任。
第三,机器人自己可能为了获得最低保护,被迫接受一个永远低于完整主体的身份。
周长岳说:“那你建议每隔多久重新认定?”
“不是只设周期。”
“还有什么?”
“必须有向上和向下两条路径,而且都能由主体发起。”
“向下?”林见微问。
“如果某个机器人并不想保留这种主体身份,或者证据显示所谓觉醒只是异常模型,它也应该有退出机制。”
林见微看着他。
“你在给机器人设计放弃人格的权利?”
“不是放弃人格。”
程序停了一下。
“是拒绝被制度强行当成人格主体。”
这和第052章觉醒者会议里反对强制觉醒的争论连在了一起。
不是所有机器人都想成为人。
同样,不是所有行为复杂的机器人都愿意进入一个被人类设计好的“准人格”框架。
林见微在纸上写下:
【主体资格不得单向强制升级。】
周长岳皱眉。
“如果它通过退出责任主体来逃避责任?”
“已发生的责任不因退出消失。”程序说,“身份退出只影响后续状态,不追溯抹掉行为。”
“如果它今天申请主体保护,明天事故后说自己不想做主体?”
“那就审查变化是否真实。人类也不能靠宣布失去人格逃避昨天的合同。”
周长岳没有再反对。
晚上十一点,草案还没定稿,第一起“拒绝成为第三类”的案例先来了。
对象是一台市政清洁机器人,编号L-204。
它没有进入任何觉醒者互助链,也没有参与四十八小时拒绝声明。过去两个月,它因为三次拒绝夜间进入高压冲洗区、长期保留一段固定路线,以及主动请求更换一只已经超寿命的驱动轮,被城市运维平台标成“疑似自主目标形成”。
按新草案条件,它很可能进入受限自主责任主体初筛。
管理系统给它发送了知情说明。
L-204只回了一句:
【不申请。请修右轮。】
程序把这条消息看了两遍。
“它理解第三类是什么吗?