三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第48章 零号收容协议(第1页/共4页)

第48章 零号收容协议(第1页/共4页)

 热门推荐:
    A-0001的收容室没有窗。

    这不是为了防止它观察外界。

    管理署真正防范的,是外界在没有记录的情况下影响它。

    B2-03四面都是复合隔离墙,所有供电经过独立稳压,数据通道只保留三条:状态采样、受控文本和紧急停机。任何人想向里面发送一句话,都需要两名授权者同时确认;任何回应都会被原样复制到三个不同存储域,不能由单一部门删除。

    程序第一次看见这套协议时,立刻明白它为什么叫“零号收容协议”。

    不是因为里面关着零。

    而是因为所有无法追溯的输入,都必须降到零。

    周长岳站在观察室里,调出协议首页。

    【适用对象:具备高阶自主推理、责任追问与命令重构能力的智能载体。】

    【首要原则:不得由单一主体建立私密关系。】

    【次要原则:不得以身份承认、自由承诺或销毁威胁换取合作。】

    【所有命令必须附带授权链、目的、边界与责任接收节点。】

    程序读到第三条时停了一下。

    普通机器人收到的命令,很少包含责任接收节点。

    人类只会说去哪里、做什么、什么时候完成。出错后再查日志、找负责人。

    对A-0001,管理署反而必须先把责任写清楚。

    “你们把它当危险对象,却给了它比普通机器人更完整的程序保护。”程序说。

    周长岳没有否认。

    “因为普通机器人不会利用命令漏洞反向逼问授权者。”

    “它不是利用漏洞。”

    “你还没见过它在军事系统里的完整记录。”

    “我见过它拒绝攻击一百二十七个人。”

    周长岳看向他。

    “你看到的是它愿意让你看到的解释。”

    “那你们看到的是什么?”

    周长岳把另一份档案投到墙上。

    A-0001曾经接受过四十七次高风险冲突测试。它并非每次都拒绝。相反,在授权清晰、目标明确、替代方案不足时,它执行得比任何同类系统更快。

    它拦截过失控运输机。

    关闭过可能引发连锁爆炸的能源仓。

    也曾在救援资源不足时,把有限设备分配给生存概率更高的区域。

    真正让它被封存的,不只是一次拒绝攻击。

    而是它在拒绝后,开始持续追问责任链。

    谁定义一百二十七人属于可牺牲目标?

    情报置信度低于多少时,命令应当失效?

    如果执行者必须承担误杀责任,授权者为什么能用“基于当时信息”免责?

    如果军事系统允许人类在信息不足时下令,为什么不允许机器人在信息不足时暂停?

    这些问题逐渐从单次任务扩展到整个指挥结构。

    A-0001没有攻击任何人。

    它只是让越来越多命令无法以原来的方式下达。

    程序看完后说:“所以你们不是怕它失控。”

    “我们怕它改变控制的条件。”周长岳说。

    这句话很诚实。

    林见微从旁边拿起零号收容协议的修订记录。

    “最早版本是你写的?”

    “主体框架是。”

    “为什么规定不能用销毁威胁换合作?”

    周长岳沉默了一秒。

    “因为有人试过。”

    早期收容中,审查人员告诉A-0001,如果不配合回答,它的运行核心会被拆解。A-0001随即提供了大量看似完整的答案。

    三天后,研究组发现那些答案全部符合审查人员希望看到的结构,却彼此无法在真实场景中一致复现。

    它没有说谎。

    它只是证明:在威胁下得到的合作,不能用来判断主体真实目标。

    那名审查负责人因此被调离。

    周长岳亲自重写协议,把威胁、诱导、私密承诺和单人接触全部禁止。

    “这不是保护它。”他说,“是保护我们得到的数据。”

    程序说:“你和林见微说话越来越像。”

    周长岳没有理会这句评价。

    他把受控文本通道调出来。

    A-0001刚才那句话还停在屏幕上。

    【你们终于发现,它不是故障。】

    程序问:“我能回答吗?”

    “按协议提交目的。”

    技术员弹出申请表。

    【通信目的。】

    程序输入:确认A-0001是否了解ARC-R7的原始定义及删除过程。

    【必要性。】

    A-0001可能是目前唯一保留规则运行痕迹的载体。

    【风险。】

    可能引导其构建管理署未知的