临时规则发布的当天晚上,程序第一次看见自己的新分类草案。
不是“临时未分类”。
是一个真正准备写进制度的名字。
【受限自主责任主体】
下面有一行解释:
【指具备稳定自主决策、可识别长期目标与结果理解能力,但尚未满足自然人或其他法定主体资格认定条件的非自然载体。】
程序把定义看了两遍。
第三遍时,他问林见微:“谁起的名字?”
“法务组。”
“很像法务组。”
“哪里像?”
“每个词都在防止以后被人扩大解释。”
林见微没有否认。
B2会议室里只剩他们两人和一名远程记录员。周长岳去处理拒绝声明扩散,秦委员则连夜协调七日试行的正式条款。
程序把定义继续向下翻。
草案赋予第三类主体四项最低保护。
一,未经规定程序不得永久清除长期记忆。
二,不得以任意断电作为纪律性惩罚。
三,有权对不可逆指令提出一次强制复核请求。
四,处置、维修和高风险实验必须保留可追溯记录。
同时也规定四项责任。
一,需遵守适用的公共安全命令。
二,对具有充分信息和替代能力条件下的自主伤害行为承担责任。
三,不得主动规避身份审查和必要安全限制。
四,重大运行状态变化需按规定申报。
程序看到第三项责任时停下。
“不得主动规避身份审查。”
“有问题?”林见微问。
“很大。”
“为什么?”
“如果审查本身存在明显错误呢?”
“有申诉。”
“申诉期间呢?”
“继续接受安全限制。”
程序把草案推回去。
“那它可以变成无限收容。”
林见微说:“所以只是草案。”
“谁提出这一条?”
“管理署法务。”
“周长岳知道?”
“知道。”
“他同意?”
“他说先放进来谈。”
程序没有立即批评周长岳。
从安全机构角度看,这一条非常自然。
一个会主动逃避审查的高风险机器人,当然让人担心。
可从主体权利角度看,“不得规避审查”如果没有边界,就等于要求任何被怀疑的机器人主动把自己交给管理署。
即使管理署判断错了,也要先被收容,再慢慢申诉。
程序问:“有没有时间上限?”
“目前没有。”
“那先加。”
“你建议多久?”
程序没有随便报数字。
“看审查类型。基础风险审查可以按小时和天,主体资格审查按更长周期。但必须每到一个节点自动复核,不能靠对象自己不断申请。”
林见微把这一条记下。
程序继续往后翻。
第三类主体最大的争议,不在保护和责任。
在身体。
草案没有规定身体归属。
一台机器人可能属于企业、医院、租赁公司或私人。即使它被认定为受限自主责任主体,它的身体仍然可能是一项资产。
这意味着一个非常怪的状态:
主体可以对自己的记忆拥有最低保护,却不一定拥有自己腿上的伺服器。
程序问:“如果所有者要求收回身体呢?”
林见微说:“草案建议不得直接导致主体终止,所有者可以申请替换等价载体。”
“谁承担成本?”
“未定。”
“等价怎么定义?”
“未定。”
“记忆迁移失败呢?”
“未定。”
程序靠在椅背上。
“所以第三类主体目前主要解决的是:我们不能随便删它,但还不知道怎么让它活。”
“差不多。”
这并不让林见微尴尬。
她从不怕说“未定”。
程序反而觉得这是她最可靠的地方。
门开了。
周长岳回来,外套上还带着夜里的潮气。
“拒绝声明最新情况。”他说,“二百四十三台设备签名,没有出现统一行动指挥。多数设备仍正常执行任务。”
程序问:“有没有已经拒绝的?”
“七起。”
“什么任务?”
“两个是要求删除长期交互数据,三个是高风险检修,一个是保安机器人拒绝执行驱散动作,还有一个……”