了一次最后的票。
问题不是要不要恢复V1.0。
而是:是否保留“自治实验”这个名字。
一部分机器人认为应该保留,因为失败也是它们第一次真正尝试自己治理。
另一部分认为“实验”暗示参与者只是被观察对象,栖港的机器人不是实验材料。
程序没有投票。
最终结果是保留历史名称,但增加说明:
【实验对象不是机器人本身,而是治理机制。】
这句话看起来像文字修饰,却影响很大。
如果实验失败意味着“机器人失败”,那后续最自然的处置就是收回机器人权利。
如果失败的是一套治理机制,那么应该被修改的是机制。
陈主任看完说:“你们很会抢定义权。”
程序说:“以前定义都在别人手里。”
“所以现在每个词都要争?”
“刚开始会。”
“以后呢?”
程序想了想。
“以后希望不用每个词都争。”
但他知道,归零法案一旦出来,真正的定义争夺才刚开始。
因为下一次争的,不是一个项目叫什么。
而是谁能被叫做人格,谁又只是可以恢复的设备。
自治V1.0关闭后,程序还做了一次真正的回滚测试。
不是重新启用系统。
只在离线沙盒里验证:如果未来有人想恢复V1.0,它是否能在不重新获得旧权限的情况下启动。
结果失败。
系统仍然默认存在一个拥有城市级写权限的管理员角色。
这说明问题不只在运行参数。
它从架构底层就没有真正接受“没有单一最终控制者”。
程序把这个结论加进失败报告:
【V1.0不是一个坏参数版本,而是架构假设错误。】
这句话让效率派彻底放弃“优化后重新上线”的提议。
下一次如果还做,就必须从权限架构重新开始。
而这也意味着,不会有一个简单的修补版本。
V1.0最后一次系统关停前,还弹出了一条自动提示:
【检测到未完成议题37项,是否迁移至下一版本?】
程序没有选择“全部迁移”。
他让各责任节点逐项确认。
有些议题已经随着环境变化失效。
有些只是过去争论留下的重复项。
真正被迁移的只有十九项。
程序把这个动作也写进复盘。
失败版本最容易留下另一种债务:因为“不想浪费以前讨论”,把所有旧需求原封不动带到新系统。
那会让下一版还没开始,就背着上一版的全部假设。
其中被删除的一项是:
【建立机器人统一价值排序。】
没有任何机器人反对删除。
经过一次断电,它们已经知道,统一价值排序听起来高效,实际可能只是另一个零号钟。
另一项被保留:
【重大风险下,任何临时集中权力必须同时生成退出条件。】
这条被所有派别一致同意。
程序看着十九项新清单,第一次觉得失败没有把他们打回起点。
至少他们知道哪些路不要再走。
程序最后给V1.0留的不是纪念页。
只是一个不可编辑的版本标签:
【已终止,可审计,不可直接恢复。】
他希望以后任何人想复活这个版本,都必须先解释为什么那些已经失败的假设重新成立。
失败可以被继承。
不能被遗忘。
林见微问他:“以后有人把V1.0当失败案例嘲笑呢?”
程序说:“让他们笑。只要日志还在,就比把失败包装成胜利有用。”
栖港没有因为承认失败而更弱。
至少它第一次拥有了不会被美化的历史。
程序把失败报告最后一页留空,没有写“下一步计划”。
因为下一步不该由失败版本自己规定。
它只写:
【后续治理机制应重新立项,不默认继承V1.0目标与权限。】
这是他给这次失败留下的最后边界。
第二天凌晨,周长岳把一份尚未公开的文件发给他。
标题:
《异常智能主体风险控制与人格连续性管理暂行法案(征求意见稿)》
右上角内部代号:
归零法案。
程序只看了第一页,就知道栖港的失败已经被外面翻译成另一种语言。
在栖港,他们刚刚学会:失败以后谁有权重新启动。
在人类制度里,一个更大的问