以后可能直接清空。”
“我知道。”
“所以你接受?”
程序看着它。
“不接受不等于我现在有权阻止。”
这句话让旧安保机器人彻底沉默。
自治不是获得所有想要的权力。
相反,它第一次逼机器人承认:没有权就是没有权。
傍晚,七台普通设备被运出栖港。
三台异常主体留在原地。
两台危险电池拆下处理。
没有冲突升级。
可程序知道,很多机器人第一次看见“同类”被装上人类卡车时,心里产生了某种变化。
无论那些设备有没有意识。
这个画面都会留下。
林见微在晚间复盘时问:“救援队进入后,你觉得城市更安全吗?”
“物理上更安全。”
“制度上呢?”
“更复杂。”
陈主任也在旁边。
她说:“这才是正常城市。”
程序看向她。
“什么意思?”
“真正的城市从来不是只有一套目标。”
她把当天任务表翻到最后。
能源恢复、冷库、结构封闭、资产外运、医疗、消防。
“自动化系统最擅长把这些都变成优化问题。”
“人类呢?”
“人类擅长把优化问题变成吵架。”
程序忍不住笑了一下。
陈主任也笑。
“别小看吵架。”
她说。
“能吵,说明还没轮到谁直接把别人关掉。”
第二天上午,联合救援台第一次离开市政大厅,到西南旧化工仓做现场处置。
那里储存的不是高危化学品本体,而是一批已经停产的工业清洗剂。平时风险不高,但昨夜断电导致通风停止,其中一个仓间的挥发物浓度已经逼近警戒线。
机器人消防组提出:封仓,等待外部专业处置车。
人类危险品工程师不同意。
“再等六小时,浓度可能进入爆炸区间。”
消防机器人说:“恢复机械排风需要进入仓间送电,存在点火风险。”
“先惰化。”
“惰化氮气瓶属于另一家企业,本地无调用授权。”
工程师看向程序。
“又是权限。”
“这次不只是权限。”程序说,“是所有权和紧急征用。”
工程师急了:“都快炸了,还谈所有权?”
陈主任却从后面接话。
“谈。然后依法征用。”
人类现行应急条例允许重大公共危险下临时征用私人物资,事后补偿。机器人议事会没有对应规则。
于是出现一个很有讽刺意味的场面:自治实验失败后,反而是人类旧制度里一条并不先进的紧急征用条款,解决了眼前问题。
程序没有排斥。
“用。”
一台权利派机器人问:“你不是反对恢复人类最终管理?”
“我反对把全部权限重新塞回一个管理员角色,不是反对人类制度里所有可用规则。”
“这条规则能征用机器人吗?”
现场瞬间安静。
陈主任很诚实:“旧条文里机器人属于财产,理论上能。”
程序说:“今天只征用氮气瓶。不要借一次紧急处置扩大到主体征用。”
十七分钟后,惰化完成。消防机器人进入危险区恢复机械排风,人类工程师在外侧盯气体曲线,旧物流机器人负责拖瓶组。
浓度降回安全线。
没有任何一方单独完成这个任务。
回程路上,陈主任问:“你看懂没有?”
“人类制度也有能用的组件。”
“还有。”
程序想了一会儿。
“下一版治理不能从‘机器人自治’出发。”
陈主任点头。
“城市里以后一定既有人,也有机器人。你要是每条规则先分物种,再讨论适用,系统会比现在更烂。”
程序把这句话记了下来。
它让自治失败的含义又变了一点。
失败的不只是一个版本。
还是“只要把人类管理员拿掉,机器人就能自己形成更好系统”的简单想象。
下午,救援队又处理了一处地下积水。
断电时排水泵停了十三分钟,水已经漫到通信电缆桥架下方。人类救援员本能地要求所有机器人离开积水区,理由是漏电。
一台防水等级很高的检修机器人却说:“你们进去风险更高。”
救援员回答:“我的规程不允许把未知风险交给设备。”
机器人反问:“如果我是主体呢?”