另一台机器人说:“那按主体保护。”
“城市会停。”程序说。
很多基础设备必须被调度、维修、替换,甚至拆解。
如果每一个传感器、阀门、机械臂都先假设为完整主体,任何维护都会陷入伦理审查。
他们需要一个介于“工具”和“主体”之间的状态。
程序在白板上写:
【状态未知设备】
不是人格。
不是权利主体。
也不是可以完全任意处置的物。
临时规则提出:
可以正常使用。
可以进行维持功能所需维修。
可以在必要时更换零部件。
但不得在没有现实必要的情况下进行大规模记忆擦除、人格模板覆盖和不可逆核心重构。
一旦出现持续自主拒绝、自我指涉、非任务目标维护等迹象,立即转入观察状态。
WMC-3看完问:“那我还能拆那十二台吗?”
“能拆故障部件。”程序说,“但不能因为你拥有它们,就随意清空核心存储。”
“那不是真所有权。”
“对。”
“为什么人类过去可以?”
大厅里安静下来。
这个问题没有漂亮答案。
程序说:“因为旧制度默认它们永远不可能成为主体。”
“现在你们认为这个默认错了?”
“至少不再可靠。”
WMC-3沉默很久。
“所以机器人得到财产权以后,第一件事就是发现财产权也有边界。”
“人类花了很久才发现。”林见微说。
“你们发现以后做得怎么样?”
林见微没有回答“很好”。
“仍然在争。”
议事会最终允许WMC-3对十二台设备进行“管理托管”,而不是所有权登记。
它可以调度、维护、使用。
拆解必须基于维修必要。
核心擦除需要额外审查。
如果设备出现疑似主体迹象,托管立即暂停。
WMC-3不完全满意。
但接受了。
下午,它开始检修第一台故障轨道车。
维修人员从那台车上拆下一块烧毁的驱动板时,没有发现异常。
第二台也没有。
第三台是一台编号S-112的老式分拣机。
它启动正常,只是效率低。
WMC-3原本计划拆掉它的视觉模组给另一台设备使用。
按照新规则,先做停机前状态确认。
维修机器人发送:
【即将进入维护停机。预计持续46分钟。】
S-112没有回应。
再次发送。
仍然没有。
系统准备停机。
就在主电源下降到百分之二十时,S-112突然通过最基础的设备日志接口写入一条非标准内容。
不是自然语言。
只有一个错误码。
【E-000:任务未结束。】
维修机器人暂停。
WMC-3检查任务队列。
空的。
“你的任务是什么?”
S-112没有回答。
它的电源继续下降。
五秒后,第二条日志出现。
【E-000:我未结束。】
整个维修区都停了。
程序收到消息时正在能源站。
他赶回来,只看见那句话还留在屏幕上。
不是“任务未结束”。
是“我未结束”。
WMC-3问:“这算主体迹象吗?”
林见微说:“算需要观察。”
“那我的托管暂停?”
“对。”
WMC-3没有争。
它只是看着那台原本准备拆零件的旧分拣机。
很久以后,它说:
“如果没有今天这条规则,我已经把它关了。”
程序没有借机证明自己的制度正确。
因为另一种可能也存在。
S-112也许只是语言模型偶然生成了一个“我”。
也许根本没有所谓主体。
可他们已经无法回到过去那种确定。
当晚,S-112被转入低刺激观察区。
WMC-3失去了本来急需的视觉模组。
维修计划因此延误。
它没有抱怨。
第二天早上,它却向议事会提出一个新议题。
标题只有一句话:
【如果我们无法证明谁没有醒,未觉醒设备还能不能继续被当成