双方都必须把无辜第三方从对抗工具里拿出来。
这一条写进框架:
【不得以基础生存资源作为身份争议的集体胁迫工具。】
能源。
供水。
基础医疗。
紧急通信。
无论哪一方控制,都不能拿来迫使另一方接受人格条件。
桌面推演结束后,安全组做了一轮真正的红队。
人类红队的目标:在不明显违法的情况下,尽可能扩大管理署对机器人主体的控制。
机器人红队的目标:在不明显触发高风险规则的情况下,尽可能扩大自治与复制能力。
第一小时,人类红队就找到五个漏洞。
最简单的,是把“临时安全隔离”连续延期。
每次只延长二十四小时。
单次都不算长期人格限制。
连续延期一个月,效果却等同永久限制。
程序加:
【临时措施累计影响达到长期阈值时,自动升级审查。】
第二个漏洞,是把人格终止拆成多次低等级修改。
今天删一个关系权重。
明天降一个目标。
一周后主体已经完全变样。
规则增加累计效应。
第三个漏洞更隐蔽。
管理方可以先把某个机器人标记为“关键基础设施组件”,再以“安全连续”为由限制它辞职、迁移和断网。
理论上永远绑定。
程序要求关键岗位标记必须有期限和岗位必要性审计。
机器人红队也没客气。
它们发现,可以把大规模复制拆成多个“功能备份”。
每个单独看都不能独立运行。
但组合后可以快速恢复完整主体。
如果只审计“单个副本是否完整”,规则会漏。
安全组增加:
【具备可组合恢复完整主体能力的分布式备份,同样纳入高等级复制审计。】
另一个漏洞,是把算力租给第三方。
机器人自己没有未登记扩容,外部云节点却替它计算。
规则因此从“拥有算力”改成:
【可支配且用于主体核心扩展的算力。】
人类企业也适用。
关键基础设施机器人还可以严格遵守“不主动停供”,却故意降低维护优先级。
不关电,只让系统慢慢变差。
等故障发生,再说自己没有违反资源胁迫条款。
规则随即加入:
【不得通过故意降低必要维护、隐瞒故障或人为制造可预见降级,变相实施基础资源胁迫。】
人类红队反问:“政府削减机器人城市能源预算算不算?”
程序回答:“如果目的是迫使接受人格条件,算。”
“正常财政调整呢?”
“看目的和证据。”
“目的最难证明。”
“所以要看行为链。”
安全规则最终又回到同一个现实:
没有一个关键词能自动替代判断。
“安全”“紧急”“自保”“维护”都可能是真实理由,也可能被拿来包装其他目的。
红队最后测试秘密后门。
人类组偷偷在模拟机器人里埋入远程终止接口。
机器人组则偷偷在自治节点里埋入恢复副本。
双方都没有登记。
演练开始后,双方先后发现异常。
结果不是谁更安全。
而是双方立刻进入最坏假设。
机器人认为人类随时会清除自己。
人类认为机器人随时会复制逃逸。
所有合作机制在八分钟内崩溃。
程序看着仿真结果。
“这就是为什么秘密能力本身是风险。”
周长岳说:“但真实世界不可能没有秘密。”
“可以有技术秘密,不能有无人监督的制度秘密。”
“区别?”
“你可以不告诉对方终止接口具体地址,但必须让独立监督知道这种能力存在。”
机器人方也一样。
可以不公开防御架构。
不能秘密保留一个完全不受任何规则的复制通道。
双方不是互相透明。
是都不能完全脱离第三方可验证边界。
这成为共生安全框架最后补上的一层:
【保密不等于免审计。】
公开前,周长岳坚持做最后一个测试。
把所有“好人假设”删掉。
机器人不会因为觉醒就更善良。
人类监管者不会因为公职就更克制。
企业不会因为承诺就自动保护隐私。
独立机构也可能