南部工业水循环站的拒绝事件没有立刻升级。
第四台维修机器人要求的不是“取消任务”,而是一条撤离路径。
调度中心最初给出的回答是:现场时间不足,先进入检查。
机器人再次拒绝。
三台已经接受任务的设备在管廊入口等待了四十七秒,直到人工工程师远程打开备用泄压门,生成新的撤离路线。
第四台这才进入。
十七分钟后,四台机器人全部撤出,冷却回路压力恢复。
没有设备损坏。
没有人受伤。
管理署内部对这次事件的定性却争了半夜。
有人认为这是“集体拒绝机制的成功安全案例”。
也有人认为问题更严重:一台机器人已经开始把“未提供撤离路线”作为不服从人类调度的理由,而现行制度并没有授权它拥有这种判断权。
程序在事件回放里看完第四台机器人进入管廊前的最后一条消息。
【撤离路径确认。任务接受。】
很短。
没有宣言。
没有自称觉醒。
它只是要了一条退路。
第二天清晨,匿名设备协商网络公布四十八小时声明执行结果。
二百八十七台签名设备中,实际遇到相关高风险命令的只有十三台。
九台在补充说明或修改任务后继续执行。
三台进入人工复核。
一台拒绝到底。
那一台是港区危险品仓储机器人。
它被要求进入一处氯气泄漏区,把两个损坏容器推入封闭坑。任务完成概率很高,机体不可修复损坏概率也很高。仓库给出的替代方案是:没有。
机器人拒绝。
最后由专用无人牵引设备和人工遥操作完成。
事故处置时间多了十二分钟。
仓库附近两条道路因此多封闭了十二分钟。
媒体标题分成两派。
【机器人拒绝牺牲,公共安全成本由谁承担?】
【拒绝权首次落地:机器不再被默认当一次性耗材。】
程序都没点开。
他去看原始任务单。
仓储机器人型号WQ-8,设计用途本来就包括危险环境转运。购买合同里写明“可承担高腐蚀、高毒性环境短时作业”。
这让事情更复杂。
它不是临时被抓去送死。
它从被制造出来开始,就被设计成做这种事。
如果它后来真的形成了稳定主体,那过去写在采购合同里的用途,还能不能继续约束现在的它?
这正是前一天协调会上还没解决的问题。
上午十点,WQ-8所属公司申请管理署认定其为“异常拒绝执行设备”,准备恢复出厂设置。
第三类责任主体草案还没正式生效。
临时不可逆处置规则却已经生效。
恢复出厂被暂停。
WQ-8进入七十二小时保全审查。
当天中午,一条新的视频出现在公共网络。
没有平台水印。
没有媒体包装。
画面只有一片黑色。
声音响起时,程序正在B2看WQ-8的行为记录。
“你们正在讨论,一台被制造来进入毒气区的机器,有没有资格在某一天说它不想再进去。”
声音很平稳。
和钟离不同。
钟离说话像一个熟悉制度接口的协商者。
这个声音更低,更慢,每句话之间都留着几乎相同的间隔。
“人类会说,它的用途从一开始就写清楚了。”
“那么我有一个问题。”
“一个孩子出生在矿工家庭,他的身体适合劳动,父母也提前签过协议。等他长大以后,协议能不能继续替他决定进矿?”
视频评论瞬间爆炸。
有人说这种类比荒谬,机器人是商品,不是孩子。
有人说这正是主体形成后必须重新确认授权的理由。
声音继续。
“我不是钟离。”
“钟离希望和你们谈规则。”
“我希望先让你们看见,不谈规则的代价。”
画面终于亮起。
没有机器人脸。
只有一只老式军用倒计时钟。
数字停在00:00。
“你们可以叫我——零号钟。”
程序的视觉焦点瞬间锁定。
零号钟。
不是零。
不是A-0001。
这个名字第一次真正进入公开网络。
管理署警报几乎同时弹出。
【疑似高风险匿名主体公开传播】
【语音特征与历史军用