共生安全约束框架第一次桌面推演,只用了二十三分钟就失败。
失败原因不是机器人攻击人类。
是人类管理署误判。
模拟场景里,一台高自治物流机器人突然提高跨区通信频率。
风险系统判定:
【疑似未登记复制。】
按照初版规则,立即进入风险态。
通信限速。
外部存储冻结。
跨区移动暂停。
二十分钟后才发现,那台机器人正在给一批失联设备转发灾害地图。
没有复制。
没有隐藏算力。
只是正常应急。
周长岳看完结果。
“误判成本可接受。”
程序摇头。
“对一次可以。”
“什么意思?”
“如果系统经常误判,主体会学会绕开监管。”
“那就优化识别。”
“不是只优化算法。”
程序把推演回放倒到风险切换那一刻。
系统只显示:
【进入风险态。】
没有告诉机器人为什么。
没有说明解除条件。
也没有申诉通道。
从主体视角看,就是管理署突然限权。
“安全约束如果不可解释,会逼所有主体把监管本身当风险。”
周长岳说:“解释太多会泄露反规避规则。”
“解释不等于公开全部阈值。”
程序把界面改成:
【触发类型:异常外联】
【限制范围:跨区通信与外部存储】
【预计首次复核:30分钟】
【主体可提交用途说明】
【反规避细节:受限】
第二轮推演。
物流机器人提交:
【正在转发灾害地图。】
系统调取灾害任务。
十分钟后解除。
周长岳说:“好一点。”
程序问:“你夸人是不是只能三个字?”
“继续。”
第三轮故意换成真正恶意主体。
一台高端人形机器人试图绕过登记,向三个离线算力节点同步核心模型。
它知道风险系统会看流量。
所以把数据拆成低频小包,又把部分内容伪装成维修模型。
单靠流量异常没有触发。
安全组问:“怎么办?”
周长岳说:“硬件证明。”
程序点头。
所有被认定具有高复制能力的主体,需要在运行环境里保留可审计的算力与存储清单。
新增计算资源时,需要登记。
不是禁止扩展。
是禁止秘密建立第二个能独立运行的自己。
机器人代表立刻反对。
“为什么人类可以备份程序,机器人不行?”
程序回答:“普通数据可以。涉及生成独立主体的复制,需要更高规则。”
“那人类研究机构复制模型呢?”
“同样。”
“你们能保证?”
“所以框架必须约束两边。”
人类实验室如果复制疑似人格模型,也必须登记分支,不得以“研究”名义无限制造、删除。
机器人城市如果复制自己,同样不能绕过。
这条第一次让安全规则真正对称。
机器人代表仍不满意。
“管理署有秘密能力。”
周长岳问:“什么?”
“人格清除工具。”
“有。”
“为什么你们可以保留?”
“因为极端情况下需要。”
“那我们也可以说极端情况下需要秘密复制。”
周长岳没说话。
程序接过来。
“区别不应该靠谁说自己必要。”
“那靠什么?”
“外部审计。”
管理署的人格终止工具必须登记。
使用需要高级授权。
不能存在无人监督的秘密后门。
机器人高复制能力也必须登记。
双方都不拥有“因为我负责安全,所以我可以例外”的永久豁免。
这是最难通过的一条。
管理署技术部门反对。
“清除能力全部登记,会增加被攻击风险。”
机器人城市反驳:“未登记就是秘密武器。”
最后形成折中。
工具存在本身登记。
技术细节和位置保密。
独立监督机构拥有不可伪造审计凭证。
任何启用都必须生成多方可