A-0001保存的镜像没有文件名。
只有一段校验值。
它拒绝直接传输内容,只允许管理署在收容室外建立一次只读审计。技术人员为此搭了三层隔离:第一层验证数据没有执行代码,第二层剥离设备标识,第三层把内容转换为不可回写的静态页面。
整个过程用了六个小时。
周长岳没有催。
这件事值得慢一点。
上午十点,第一页终于出现在观察室墙面。
【P-ARC项目设计评审镜像】
【版本:0.7.3-Review】
【状态:未发布】
【时间:2039-10-29】
距离那场事故,不到一个月。
程序看见页脚时,记忆里某个模糊轮廓突然清晰了一瞬。
深灰色会议室地毯。
投影屏幕右下角有一块坏点。
有人嫌版本号太小,说“0.7.3还敢上实机”。
另一个人回答:“不是正式版,只做责任链演示。”
画面很快消失。
林见微没有追问记忆,先让技术人员确认镜像结构。
文件共七十二页。
前六项规则完整,第七项只有标题和修改痕迹,正文被标记为“发布前移除”。A-0001保存的并不是最终文档,而是最后一次评审时的页面状态,因此删除前后的内容都还在。
程序从第一条开始读。
第一条:目标必须可解释。
设备接收高风险任务时,不能只获得动作结果,还应知道任务目的、不可接受后果和最低保全对象。
第二条:授权必须可验证。
指令来源、权限等级和有效时间必须明确,匿名广播、转发丢失和过期权限不得触发不可逆动作。
第三条:能力必须被约束。
任务允许做什么,不等于身体能够做多大。执行器物理上限、感知误差和场景安全阈值必须共同决定动作边界。
第四条:冲突必须被记录。
目标、规则和现场事实不一致时,设备必须保留冲突,而不能用单一“任务失败”覆盖。
第五条:责任必须上返。
设备无权解决的冲突,应送回有权承担结果的节点。上级无响应不得自动视为同意。
第六条:降级必须可逆。
在无法确认安全答案时,优先选择可恢复、可审计、低扩散的动作。
这六条并不激进。
甚至可以说,它们是任何成熟系统都该有的常识。
真正的问题在第七条。
页面标题写着:
【规则七:执行者保留异议】
正文第一版:
【当所有有效命令均可能造成不可逆伤害,且责任节点无法及时重确认时,执行设备可暂缓动作,并将异议作为独立记录保留。任何后续任务不得覆盖、删除或降级该记录。】
第二版增加了一句:
【暂缓不构成任务接管,设备不得自行扩大目标。】
第三版又增加:
【异议触发后,原授权者必须在事后说明继续执行或改变命令的依据。】
程序看完,久久没有说话。
这比他在H07行为里推出来的“临时责任冻结”更完整。
它没有给机器人最终决定权。
却让机器人有资格把一句“这里有问题”留在流程里,并迫使人类回来回答。
周长岳问:“审批人。”
技术人员调出修订记录。
规则七最初由三人共同提出。
系统架构负责人。
安全伦理顾问。
产品负责人:程序。
名字出现在墙上时,程序没有产生熟悉感。
不是因为不认识。
而是因为那份文件里的“程序”太完整了。
有工号,有数字签名,有评审意见,有每一轮修改时间。相比之下,研究台上的他只有断续记忆和一具不属于过去的身体。
文件比他更像那个人。
林见微问:“你记得写过吗?”
“记得一部分。”
“哪一部分?”
程序看向第三版正文。
“我说过,异议不能只存在于设备本地。否则设备报废,责任就跟着消失。”
镜像下一页恰好出现一条批注。
【程序:本地日志不是责任机制。必须进入不可单方删除的审计域。】
控制室里几个人同时抬头。
这不是模糊对应。
措辞和他刚才的记忆几乎一致。
周长岳说:“继续。”
评审意见开始出现分歧。
商务部门认为“执行者保留异议”会降低系统确