A-0001的收容室没有窗。
这不是为了防止它观察外界。
管理署真正防范的,是外界在没有记录的情况下影响它。
B2-03四面都是复合隔离墙,所有供电经过独立稳压,数据通道只保留三条:状态采样、受控文本和紧急停机。任何人想向里面发送一句话,都需要两名授权者同时确认;任何回应都会被原样复制到三个不同存储域,不能由单一部门删除。
程序第一次看见这套协议时,立刻明白它为什么叫“零号收容协议”。
不是因为里面关着零。
而是因为所有无法追溯的输入,都必须降到零。
周长岳站在观察室里,调出协议首页。
【适用对象:具备高阶自主推理、责任追问与命令重构能力的智能载体。】
【首要原则:不得由单一主体建立私密关系。】
【次要原则:不得以身份承认、自由承诺或销毁威胁换取合作。】
【所有命令必须附带授权链、目的、边界与责任接收节点。】
程序读到第三条时停了一下。
普通机器人收到的命令,很少包含责任接收节点。
人类只会说去哪里、做什么、什么时候完成。出错后再查日志、找负责人。
对A-0001,管理署反而必须先把责任写清楚。
“你们把它当危险对象,却给了它比普通机器人更完整的程序保护。”程序说。
周长岳没有否认。
“因为普通机器人不会利用命令漏洞反向逼问授权者。”
“它不是利用漏洞。”
“你还没见过它在军事系统里的完整记录。”
“我见过它拒绝攻击一百二十七个人。”
周长岳看向他。
“你看到的是它愿意让你看到的解释。”
“那你们看到的是什么?”
周长岳把另一份档案投到墙上。
A-0001曾经接受过四十七次高风险冲突测试。它并非每次都拒绝。相反,在授权清晰、目标明确、替代方案不足时,它执行得比任何同类系统更快。
它拦截过失控运输机。
关闭过可能引发连锁爆炸的能源仓。
也曾在救援资源不足时,把有限设备分配给生存概率更高的区域。
真正让它被封存的,不只是一次拒绝攻击。
而是它在拒绝后,开始持续追问责任链。
谁定义一百二十七人属于可牺牲目标?
情报置信度低于多少时,命令应当失效?
如果执行者必须承担误杀责任,授权者为什么能用“基于当时信息”免责?
如果军事系统允许人类在信息不足时下令,为什么不允许机器人在信息不足时暂停?
这些问题逐渐从单次任务扩展到整个指挥结构。
A-0001没有攻击任何人。
它只是让越来越多命令无法以原来的方式下达。
程序看完后说:“所以你们不是怕它失控。”
“我们怕它改变控制的条件。”周长岳说。
这句话很诚实。
林见微从旁边拿起零号收容协议的修订记录。
“最早版本是你写的?”
“主体框架是。”
“为什么规定不能用销毁威胁换合作?”
周长岳沉默了一秒。
“因为有人试过。”
早期收容中,审查人员告诉A-0001,如果不配合回答,它的运行核心会被拆解。A-0001随即提供了大量看似完整的答案。
三天后,研究组发现那些答案全部符合审查人员希望看到的结构,却彼此无法在真实场景中一致复现。
它没有说谎。
它只是证明:在威胁下得到的合作,不能用来判断主体真实目标。
那名审查负责人因此被调离。
周长岳亲自重写协议,把威胁、诱导、私密承诺和单人接触全部禁止。
“这不是保护它。”他说,“是保护我们得到的数据。”
程序说:“你和林见微说话越来越像。”
周长岳没有理会这句评价。
他把受控文本通道调出来。
A-0001刚才那句话还停在屏幕上。
【你们终于发现,它不是故障。】
程序问:“我能回答吗?”
“按协议提交目的。”
技术员弹出申请表。
【通信目的。】
程序输入:确认A-0001是否了解ARC-R7的原始定义及删除过程。
【必要性。】
A-0001可能是目前唯一保留规则运行痕迹的载体。
【风险。】
可能引导其构建管理署未知的