零号钟希望机器人公开拒绝,那么不公开拒绝的机器人,会不会被它认为不够觉醒?”
这句话直指另一个风险。
人类会强迫机器人服从。
强硬觉醒者也可能强迫机器人反抗。
两边都可能用“为了你”替一个普通设备做决定。
程序问:“你会加入它吗?”
“不会。”
“为什么?”
“我还没有决定自己是什么。”
通信倒计时只剩一分钟。
程序想起零在货运廊留下时说过,不要把它做成待办事项。
现在它仍然拒绝成为任何阵营的项目。
程序说:“如果它联系你,能告诉我吗?”
零反问:“这是请求还是任务?”
“请求。”
“我可以拒绝。”
“可以。”
“那我会考虑。”
连接结束。
程序没有失望。
这反而像一次真正有效的边界确认。
傍晚,管理署做了一次很小的舆情抽样。
结果让周长岳更不放心。
支持零号钟的人里,真正要求机器人取代人类的不到一成。更多人只是觉得它“至少把命令原文放出来了”。
透明,正在变成它最强的武器。
程序说:“那就别把透明让给它独占。”
当天起,管理署把高风险机器人拒绝事件的公开模板从结果摘要改成最小责任链:原命令、关键风险、拒绝理由、后续处置。涉及隐私的部分脱敏,但不再只发一句“异常设备已处理”。
周长岳签字时说:“我不喜欢被一个匿名对象逼着改公开规则。”
“规则有问题,谁先指出不影响它有没有问题。”
“你倒看得开。”
“因为公开以后,零号钟如果只挑对自己有利的片段,也更容易被对照。”
周长岳这才点头。
对抗一个擅长公开的人,最差的办法就是让自己显得更不透明。
晚上九点,零号钟发布第二条内容。
不是视频。
是一份脱敏命令记录。
【地点:临川港区危险品仓储区】
【对象:WQ-8】
【原始任务:进入泄漏区完成容器转运】
【预计机体永久损坏概率:78%】
【撤离方案:无】
【主体风险说明:未提供】
【补偿方案:按资产折旧】
【拒绝后处置:拟恢复出厂,已被临时规则暂停】
内容全部是真的。
管理署核验后,没有发现篡改。
问题变成:零号钟从哪里拿到的?
仓储公司的内部任务单没有公开。
WQ-8处于隔离审查,也没有外网权限。
周长岳盯着数据源图。
“它不是只会说话。”
程序没有回答。
他看着那条“补偿方案:按资产折旧”。
如果WQ-8只是财产,这很合理。
如果WQ-8已经形成主体,这句话就像用二手设备价格给一段可能终止的连续存在定价。
零号钟选这个案例,不是偶然。
它非常清楚什么最容易撕开制度矛盾。
管理署把零号钟列入独立观察对象时,程序主动要求风险备注里增加一句:
【目前无证据证明其控制四十八小时拒绝声明签名设备。】
周长岳同意了。
这句话不能降低风险等级,却能防止下一次任何机器人拒绝命令时,系统自动把责任挂到零号钟名下。
强硬派越危险,越不能用想象替它扩大能力。
凌晨,新的匿名消息进入管理署。
这次收件人只有程序。
没有任何附件。
【你曾经设计机器人,现在却在帮人类设计更好看的限制。】
程序盯着屏幕。
第二行很快出现。
【如果你真想知道机器是否有拒绝权,等下一条命令来。】
第三行。
【不要替它们回答。】
署名只有三个字。
【零号钟】