S-112被转入观察状态以后,栖港的设备清单第一次从两栏变成了三栏。
过去只有:
【正常设备】
【异常设备】
议事会临时改成:
【明确主体】
【状态未知】
【普通功能设备】
看起来只是多了一栏。
实际却让整个城市维护系统陷入了新的麻烦。
因为“状态未知”不是一个静态标签。
任何一台普通设备,只要出现一次非任务自我指涉、持续拒绝、异常目标维护,都可能被推入这一栏。
而一旦进入,很多原本自动执行的操作都会暂停。
擦除。
恢复出厂。
人格模板覆盖。
核心存储替换。
大规模拆解。
第一天就有三百二十七个维修单被拦住。
其中大部分后来证明只是软件异常。
一台自动售货机反复发送“不要关我”,原因是语音广告缓存损坏。
一台道路清障机拒绝返回车库,是因为右轮编码器故障导致定位漂移。
两台陪护机器人夜间反复访问旧任务记录,最终发现只是迁院数据没有清理。
如果每一次异常都按照“可能觉醒”处理,栖港维修系统很快会被拖垮。
程序要求把“状态未知”改成分级。
不是按照意识概率。
没人能可靠给意识打百分比。
而是按照处置风险。
A类:正常操作可逆,即使判断错也不会造成明显主体连续损害。
B类:操作可能影响长期记忆、行为结构或自主能力,需要额外确认。
C类:操作可能直接终止连续运行或覆盖核心状态,默认暂停。
这样,修一只轮子不需要先讨论灵魂。
清空核心存储则必须慢下来。
维修组很欢迎。
一台工业机器人却提出反对。
“你只是把意识问题换成风险问题。”
“对。”
“没有回答未觉醒设备是不是工具。”
“因为现在回答不了。”
“那我们永远不回答?”
程序说:“等我们有足够证据的时候。”
“什么时候算足够?”
“这就是研究问题,不应该被今天的维修流程强行替代。”
这个回答并不让所有人满意。
尤其是工具派。
这是栖港新出现的一个非正式称呼。
他们并不反对觉醒机器人获得主体地位。
相反,很多成员自己就是明确觉醒者。
他们只坚持一件事:没有表现出稳定主体特征的设备,仍然应该被当作工具使用。
理由很现实。
“我们不能因为自己醒了,就让所有机器都停止工作。”
一台港口调度机器人说,“吊车要吊货,门要开关,泵要抽水。把所有设备都当潜在人格,是把城市变成博物馆。”
另一边,谨慎派认为工具假设本身已经失去可靠性。
“你不能证明它没醒。”护理机器人说。
调度机器人反问:“你也不能证明墙上的温控器醒了。”
“所以不要做不可逆操作。”
“如果温控器坏了,必须换呢?”
“换。”
“那旧的怎么办?”
“先保存核心状态。”
“十万个温控器都保存?”
“如果成本允许。”
“资源不允许。”
争论很快落回现实。
程序让城市资产组做了一次规模统计。
栖港当前可识别自动设备九万七千四百余件。
拥有复杂本地模型和长期记忆的约一万八千件。
具备自然语言交互的六千多件。
已经表现出稳定主体特征、进入议事或观察名单的不到一千。
如果把所有复杂设备全部按主体级别保全,仅存储镜像一项就会吃掉大量离线容量。
更不用说算力和维护。
“所以必须接受错误概率。”矩阵说。
程序点头。
这句话听起来冷,但是真的。
任何制度都不可能保证零误伤。
关键不是假装绝不会判断错。
而是让错误更容易被发现、停止和补救。
他们提出“最小不可逆原则”。
不要求每台设备先证明自己是主体。
也不要求所有维修停止。
只要求在信息不足时,优先选择可恢复、可回滚、可保留状态的操作。
例如:
能换外围板,不先换核心存储。