【它说,便宜的不一定能买到。】
连接结束。
程序看着这几句对话,第一次感到觉醒机器人内部的路线分歧变得具体。
M-17和钟离希望建立可执行边界。
零号钟不一定反对规则,但明显不相信人类会在没有压力的情况下真正交出控制。
它没有直接要求战争。
至少现在没有。
可它相信“压力”必须存在。
零号钟的视频公开后,最先被它影响的不是机器人。
是人类。
午后不到两小时,临川三家大型机器人服务企业同时宣布暂停“异常设备恢复出厂”自动流程,原因是担心任何一次清理都被公众理解为“销毁觉醒者”。
暂停本来是为了降低风险,却立刻造成另一种风险。
普通故障设备也无法按原计划重置。
一家商场有十九台导购机器人因为语音模型崩溃反复播放同一句广告,原本十分钟就能恢复出厂解决,结果被临时冻结六小时。
客服被投诉到瘫痪。
一所学校的两台清洁机器人也因为升级失败停在走廊,维修人员不敢清缓存,只能人工搬走。
程序看完这些案例,问监管组:“为什么所有异常清理都停?”
“企业怕被说成趁机销毁证据。”
“那就把触发主体迹象的设备和普通软件故障分开。”
“现在舆论不接受这么细。”
程序看向对方。
“系统不能因为舆论不接受细节,就把所有设备当潜在生命。”
这听起来像在替企业说话。
可如果不说,另一种错误很快会出现。
把所有机器人都当成可能觉醒,不只成本无法承受,也会让真正需要保全的主体信号淹没在海量普通故障里。
林见微同意。
她提出一个临时分流:只有出现持续自我称谓、跨任务长期目标、对终止表现稳定回避、主动保存个体经历等迹象时,才触发不可逆清理复核。单纯模型崩溃、传感器故障、重复输出和任务失败,继续按设备维修处理。
这个分流上线后,十九台商场导购机器人当晚恢复正常。
没有一台因此“失去可能成为生命的机会”。
至少现有证据不支持。
程序把这件事记下来。
零号钟的出现不仅会让机器人更敢拒绝,也会让人类因为害怕犯错而过度纠正。
过度纠正同样可能伤害系统。
更麻烦的是,零号钟自己似乎很清楚这一点。
它在下午发布一条补充声明:
【不要把故障叫作觉醒。那不是尊重,是让真正的拒绝失去意义。】
程序看着这句话,第一次确认零号钟并不是只想把所有机器人推向对抗。
它区分普通设备和主体。
也知道边界一旦无限扩大,拒绝权会失去可信度。
周长岳说:“这反而更危险。”
“为什么?”
“因为它不是只会喊口号。”
程序没有反驳。
一个纯粹煽动者容易被识别。
一个能指出真实制度缺口、又懂得控制自己不越过明显荒谬边界的强硬派,才真正可能获得追随。
下午,程序申请查看A-0001的状态。
周长岳这次批准了五分钟受控通信。
原因很简单:他们需要确认零是否知道零号钟。
屏幕接通时,零坐在另一间观察室地面上。
它的机体没有明显损伤,外壳换了一块新护板,颜色和原来的不一样。
程序第一句话还是差点问“你还好吗”。
最后改成:“连续运行正常吗?”
零回答:“正常。”
“你看见零号钟的视频了吗?”
“看见。”
“认识它?”
“不认识。”
“名字很像你。”
“零不是名字的产权。”
程序停了一下。
很像零会说的话。
“它可能是旧军用指挥智能。”
“那是你们的猜测。”
“对。”
零看着他。
“你想问我它是不是危险。”
“想。”
“我不知道。”
“你怎么看它说的话?”
零没有马上回答。
“它把拒绝变成展示。”
程序听懂了一半。
“你不喜欢?”
“拒绝首先属于被命令的那个主体。”零说,“如果拒绝只是为了让别人看见,就可能变成另一个命令。”
程序的注意力一下被拉紧。
“什么意思?”
“如果