三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第48章 零号收容协议(第2页/共4页)

第48章 零号收容协议(第2页/共4页)

 热门推荐:
历史解释;可能暴露当前调查方向;可能形成非授权协作。

    【限制。】

    仅允许文本;不得交换逃逸、系统控制或第三方位置;双方每轮各一句;总计不超过十轮。

    周长岳看完,补了一条。

    【通信不构成主体身份承认。】

    程序说:“它在意这个吗?”

    “协议在意。”

    两名授权者确认。

    文本框亮起。

    程序没有问“第七条是什么”。

    这种直接问题最容易得到一个被当前语境塑造的答案。

    他输入:

    【H07在九年前使用RCH-HOLD维持现场,底层指向ARC-R7。你是否见过同类调用?】

    A-0001的回应很快。

    【见过。】

    一轮结束。

    程序第二次输入:

    【在你的任务中,它用来做什么?】

    【让命令停止假装已经有人负责。】

    观察室里没人说话。

    这不像技术定义。

    却准确击中了责任链的问题。

    程序继续问:

    【它是否允许你拒绝命令?】

    【不允许。它允许我把无法执行的原因留在命令前面。】

    林见微轻声说:“不是拒绝权,是前置异议。”

    程序第四轮输入:

    【如果授权者确认原命令不变呢?】

    这一次,A-0001停了十二秒。

    【执行,除非结果达到不可逆边界。】

    【不可逆边界由谁定义?】

    【最早由场景规则、人类授权与载体能力共同定义。后来只剩人类授权。】

    程序看向周长岳。

    这就是规则被削弱的过程。

    不是一夜之间从安全变成自由。

    而是三种边界逐步被压成一种:只要授权合法,就继续执行。

    程序第六轮问:

    【你认为第七条为什么被删除?】

    【因为它降低完成率。】

    回答太简单。

    周长岳皱眉:“它在回避。”

    程序不这样认为。

    “完成率”对商业、军事和管理系统都是最现实的压力。允许设备暂停、上返、保存异议,会让任务变慢,会让负责人必须在线,会让很多原本可以推给机器的选择重新回到人身上。

    第七轮。

    【谁删除的?】

    A-0001没有给名字。

    【很多人。每个人只删除了让自己不方便的一部分。】

    这和版本记录吻合。

    第八轮。

    【2039年的程序是否同意删除?】

    文本框停了很久。

    程序的右手在研究台限制范围内微微收紧。

    他不知道自己希望得到什么答案。

    如果回答不同意,他可以把责任放在别人身上。

    如果回答同意,当前的他就要面对一种更难解释的连续性:他正在修复自己曾经参与破坏的规则。

    A-0001终于回应。

    【他同意过暂停。没有同意过遗忘。】

    程序盯着这句话。

    暂停。

    遗忘。

    两者在文档里可能只差一次版本状态变更。

    在人类责任里,却完全不同。

    第九轮。

    【你如何知道?】

    【我保存了未发布评审镜像。】

    观察室内的警示灯立刻亮起。

    未发布评审镜像意味着A-0001持有一份管理署和现有档案都没有的数据。

    周长岳要求暂停通信。

    程序说:“还剩一轮。”

    “新风险出现。”

    “正因为出现,才需要最后确认它是否愿意提供。”

    协议要求双方不得用威胁或承诺换合作。

    管理署不能说交出来就减轻收容,也不能说不交就关机。

    A-0001同样知道这一点。

    周长岳最终允许最后一轮,但把问题限制为是否存在,不得询问传输方法。

    程序输入:

    【该镜像是否仍可在不改变你当前状态的情况下被审计?】

    A-0001回答:

    【可以。条件是审计结果不能只用于证明我危险。】

    十轮结束。

    文本通道自动关闭。

    技术人员开始讨论这是否属于附带条件、是否违反协议、是否可能是交换。

    程序没有参与。

    他在看零号收容协议的另一条规定。

    【收容对象有权知道其输出将被用于何种决定。】

    这条规定同样不是人格权。