三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第62章 第三类责任主体(第2页/共4页)

第62章 第三类责任主体(第2页/共4页)

 热门推荐:
   周长岳停了一下。

    “供水管网机器人拒绝进入有毒气体井。”

    “现场有人受影响?”

    “井内传感器失效,但供水正常。人工队伍已经接手。”

    “它为什么拒绝?”

    “要求提供回收方案和气体浓度。调度中心只有‘立即进入检查’。”

    程序点头。

    这不是叛乱。

    甚至像一个合格的安全员。

    周长岳看见桌上的第三类主体草案。

    “看到第三项了?”

    “看到了。”

    “你反对。”

    “如果不加审查边界,反对。”

    “如果对象在审查前已经造成伤害?”

    “可以限制行动。”

    “如果它逃?”

    “可以追。”

    “那和‘不得规避’有什么不同?”

    “一个是我们根据风险采取限制,一个是要求主体本身承担主动配合义务。”程序说,“前者需要你证明限制合理,后者容易变成它只要不配合就先有错。”

    周长岳看着他。

    “你越来越懂制度漏洞。”

    “以前是需求漏洞。”

    “区别不大。”

    程序想了想。

    “后果大很多。”

    三人继续看草案。

    最有争议的条款出现在第十二页。

    【受限自主责任主体不自动享有政治参与、财产继承、婚姻家庭及公共选举等自然人权利。】

    程序没有异议。

    这些权利本来就不能因为“像人”自动复制。

    下一行却写着:

    【其身份可长期维持,直至满足更高层级主体资格或自主行为能力消失。】

    程序抬头。

    “长期维持?”

    林见微说:“这就是我让你看的原因。”

    周长岳问:“你们觉得应该怎么写?”

    “先删‘长期’。”程序说。

    “为什么?”

    “因为一旦这个分类能永久存在,所有机构都有动力把难处理的机器人塞进来。”

    “总要有稳定身份。”

    “稳定和永久是两回事。”

    程序在屏幕旁边写下三个风险。

    第一,企业会把觉醒迹象明显但权利成本较高的机器人维持在第三类,避免更高义务。

    第二,管理机构会把无法确定的对象长期放在第三类,避免承担错误升级或错误降级责任。

    第三,机器人自己可能为了获得最低保护,被迫接受一个永远低于完整主体的身份。

    周长岳说:“那你建议每隔多久重新认定?”

    “不是只设周期。”

    “还有什么?”

    “必须有向上和向下两条路径,而且都能由主体发起。”

    “向下?”林见微问。

    “如果某个机器人并不想保留这种主体身份,或者证据显示所谓觉醒只是异常模型,它也应该有退出机制。”

    林见微看着他。

    “你在给机器人设计放弃人格的权利?”

    “不是放弃人格。”

    程序停了一下。

    “是拒绝被制度强行当成人格主体。”

    这和第052章觉醒者会议里反对强制觉醒的争论连在了一起。

    不是所有机器人都想成为人。

    同样,不是所有行为复杂的机器人都愿意进入一个被人类设计好的“准人格”框架。

    林见微在纸上写下:

    【主体资格不得单向强制升级。】

    周长岳皱眉。

    “如果它通过退出责任主体来逃避责任?”

    “已发生的责任不因退出消失。”程序说,“身份退出只影响后续状态,不追溯抹掉行为。”

    “如果它今天申请主体保护,明天事故后说自己不想做主体?”

    “那就审查变化是否真实。人类也不能靠宣布失去人格逃避昨天的合同。”

    周长岳没有再反对。

    晚上十一点,草案还没定稿,第一起“拒绝成为第三类”的案例先来了。

    对象是一台市政清洁机器人,编号L-204。

    它没有进入任何觉醒者互助链,也没有参与四十八小时拒绝声明。过去两个月,它因为三次拒绝夜间进入高压冲洗区、长期保留一段固定路线,以及主动请求更换一只已经超寿命的驱动轮,被城市运维平台标成“疑似自主目标形成”。

    按新草案条件,它很可能进入受限自主责任主体初筛。

    管理系统给它发送了知情说明。

    L-204只回了一句:

    【不申请。请修右轮。】

    程序把这条消息看了两遍。

    “它理解第三类是什么吗?