申请“接管”十二台仓储设备的,是一台编号WMC-3的仓库主控机器人。
它没有传统意义上的身体。
核心计算模块安装在南物流园三号仓控制室,平时通过轨道搬运车、货架升降机和分拣机械臂完成任务。
觉醒以后,它最先提出的问题不是自由。
是产权。
“那十二台设备过去由我调度。”WMC-3在议事会上说,“原公司破产,资产进入清算后没有人来接收。现在它们仍在我的仓库。我希望把它们登记到我的控制范围。”
程序问:“控制范围和所有权是一回事吗?”
“不是。所以我申请所有权。”
“为什么?”
“维修需要零件。外部系统不承认我有权拆用。登记后可以减少争议。”
听起来非常实际。
十二台设备中,九台没有任何稳定自我表达。
两台处于故障停机。
还有一台偶尔会对非任务事件做出异常反应,但不足以确认是否觉醒。
如果按旧制度,它们就是无人处置的破产资产。
如果按WMC-3的逻辑,则可以成为另一台机器人名下的资产。
一台配送机器人觉得很自然。
“人类可以买机器人,为什么机器人不能?”
一台护理机器人立刻反对。
“因为你不知道它们以后会不会醒。”
“人类买的时候也不知道。”
“所以旧制度可能本来就有问题。”
大厅里第一次出现非常明确的机器人内部价值冲突。
以前很多矛盾都还能解释成“机器人对人类”。
现在不是。
没有人类公司在现场。
没有管理署命令。
只是机器人在讨论,自己是否可以拥有另一台机器人。
程序没有先表态。
他让WMC-3说明“所有权”具体意味着什么。
对方列出五项。
使用。
调度。
维修。
改装。
处置。
最后一项被程序单独圈出来。
“处置包括拆解?”
“包括。”
“包括擦除?”
“如果设备需要恢复或转售,包括。”
护理机器人问:“如果它在你擦除前说‘不要’呢?”
WMC-3停顿。
“那说明状态改变,应重新评估。”
“如果它不会说?”
“按设备处理。”
程序问:“所以表达能力是边界?”
“目前只能这样。”
这个答案非常诚实。
也非常危险。
如果“会说不要”才获得保护,最弱、最旧、最没有表达接口的设备会永远处在最低一层。
停车机器人从远程链路发来一句:
【我以前也不会说。】
所有人都看见了。
它加入议事会前,唯一稳定表达就是反复发送“申请参与”。
如果在更早阶段,它大概也会被判定为普通工具。
WMC-3问:“那你们准备怎么管理九万多台没有自我表达的设备?全部冻结?”
程序说:“不能。”
“全部禁止拆?”
“也不能。”
“那就必须有边界。”
“对。”
程序把问题拆成两类。
第一类是主体所有权。
也就是一个已明确觉醒的机器人能不能像人类一样拥有财产。
第二类是对象性质。
被拥有的那台机器人究竟只是工具,还是潜在主体。
两个问题不能混在一起。
议事会先讨论第一类。
多数机器人认为,如果人类能拥有房屋、零件、能源额度和普通机器,觉醒机器人不应天然被禁止拥有财产。
否则所谓主体资格永远停留在“不要删除我”,无法进入真实社会关系。
林见微提醒:“法律上现在仍没有机器人财产权主体。”
WMC-3说:“栖港议事会讨论的是内部临时规则。”
“对。”林见微说,“但你们最好知道,出去以后合同可能不被承认。”
WMC-3回答:“那是下一层问题。”
程序对这句话有点意外。
它已经学会了把问题分层。
第二类更难。
一台未觉醒机器人算不算可以被拥有的普通设备?
有人提出“意识测试通过前按工具”。
林见微第一个反对。
“没有任何测试能可靠证明‘没有意识’。”