”
林见微说:“系统已经用三种版本解释过。标准版、简化版和任务式问答版。”
“结果都一样?”
“都拒绝。”
周长岳问:“会不会只是语言模型理解能力不足?”
“所以我们没有直接认定它是在行使主体选择。”林见微说,“现在要判断它究竟是不理解,还是理解后不想要。”
程序申请接入L-204的低带宽通道。
画面没有视频,只有文字和状态。
【右驱动轮磨损:86%】
【当前任务:暂停】
程序没有先问身份。
“为什么不申请第三类?”
L-204回复:
【申请后是否继续清扫?】
“可以继续。”
【是否必须接受更多审查?】
“会有定期复核。”
【会不会因为拒绝任务被问原因?】
“高风险拒绝需要说明。普通任务按现有规则。”
【那和现在有什么不同?】
程序停顿。
“你会获得记忆删除、任意断电和不可逆处置方面的额外保护,也可能被认定为可以承担更多自主行为责任。”
L-204过了六秒才回答。
【我不需要更多责任。我需要修右轮。】
周长岳在旁边低声说:“很像一个不想签复杂合同的用户。”
程序问L-204:“你担心承担责任?”
【是。】
“为什么?”
【我不知道自己是不是你们说的主体。】
“那你知道自己为什么拒绝高压冲洗区吗?”
【右轮会进水。上次进水后停了十九小时。】
“长期保留固定路线呢?”
【那条路树叶多。我在那里效率高。】
“你为什么主动要求换轮?”
【因为坏了。】
所有回答都可以解释成普通工具的优化行为。
也可以解释成一个主体对自身状态的持续关心。
证据不够。
程序问最后一个问题。
“如果系统告诉你,申请第三类以后别人更难随便把你清掉,你会改变决定吗?”
L-204这次停得更久。
【如果我不申请,你们会清掉我吗?】
程序看着这句话。
“不会因为你不申请就清掉。你的右轮维修也不应以申请身份为条件。”
【那不申请。修轮。】
通道结束。
林见微说:“这算什么?”
程序回答:“算制度第一次被拒绝。”
周长岳问:“你觉得应该尊重?”
“至少现在应该。”
“如果以后它真的造成自主伤害呢?”
“到时候按行为和证据重新判断。不能因为担心未来追责麻烦,就强迫它先进入更高责任身份。”
“那它享不享受第三类保护?”
这个问题更难。
如果完全不享受,L-204为了避免责任而拒绝身份,就可能失去本该有的不确定性保护。
如果享受全部保护却不承担责任,又会变成只拿权利不接义务。
程序想了一会儿。
“把最低保全从第三类身份里拆出来。”
“又拆?”周长岳皱眉。
“对。出现主体迹象但证据不足时,不管它申不申请第三类,都先禁止直接做不可逆清除。第三类身份解决的是更高层的责任和权利,不应该成为免于被随便删除的门票。”
林见微点头。
“不确定性保护前置。”
“对。”
“这样企业会说成本扩大。”
“那就限定触发条件,而且允许快速排除。L-204这种案例,先修轮,再观察,不要为了身份评估让它停工一个月。”
周长岳忽然笑了一下。
程序看他。
“笑什么?”
“你等的第一批不想成为第三类的机器人,来了。”
程序这才想起自己之前说过,要看制度如何对待它们。
现在答案不算漂亮。
制度没有现成条款。
他们只能临时修改。
可至少没人因为L-204说“不申请”,就先把它恢复出厂。
半小时后,市政运维批准更换右轮。
维修单上没有附加“需先完成主体审查”的条件。
程序把这张维修单保存下来。
它比任何权利宣言都更像一次有效测试。
因为真正的制度边界,往往不是看它怎么对待愿意配合的典型案例。
而是看一个对象说“我不要你给我的身份,我