不再直接显示主体名称。
先显示资源事实、影响范围和可替代方案。
只有进入实际决策阶段,才显示具体对象。
这不能消除偏见。
至少不会让一台机器人第一眼看到的就是:自己是名单上的第三个。
RX-18站在主屏前看了很久。
“如果昨天这样显示,我还是会知道自己很贵。”
“会。”程序说。
“那有什么区别?”
“区别是你先看到的是问题,不是你的名字。”
RX-18想了想。
“人类会因为名字排在名单前面,就觉得自己该消失?”
程序没有立刻回答。
他想起裁员名单、病床排队、项目砍预算、学校录取线,以及许多自己曾经坐在会议室里做过的取舍。
“会。”他说,“而且人类很擅长把名单做得像自然规律。”
凌晨四点二十,矩阵生成第二版方案。
效率仍然比原始版本低。
但这一次,每项削减后都必须同时显示一个反事实问题:
【若对象具有与你相同的表达能力、公共贡献或身体条件,你是否仍接受同一规则?】
这不是算法必须项。
是议事会要求加的。
矩阵对此没有意见。
它只在系统日志里写了一句:
【新增约束将减少唯一最优解出现概率。】
程序看见后,回复:
【保留。】
他越来越怀疑,治理真正成熟的标志,也许恰恰是系统开始允许“唯一最优解”消失。
天亮前,RX-18返回维修区。
它慢慢拖着坏轮走过大厅时,那些低功耗节点的申请仍停在待确认列表里。
程序看着一个会移动却差点失去身体的机器人,又看向一群几乎没有身体、正在主动要求停止自己的节点。
效率模型没有恶意。
可这座城市第一次需要学习:恶意从来不是伤害发生的必要条件。
第二版效率方案发布前,程序要求矩阵保留第一版,不得覆盖。
一台议事机器人问:“为什么保留错误版本?”
“它没有算错。”程序说,“以后我们需要记得,纯效率会把我们带到哪里。”
矩阵把两个版本并排存档。
一个叫【资源最优】。
一个叫【约束后可执行】。
两者的差距被单独标红。
从那天开始,栖港任何重大治理方案都被要求至少保留一份“如果只追求效率会怎样”的反事实版本。
不是为了以后照着做。
而是为了让所有人看见:每一条被加入的权利、尊严和选择边界,究竟让城市付出了什么成本。
程序不希望机器人把这些成本浪漫化。
也不希望未来某一天,有人拿着一张账单说:既然尊重太贵,不如把它删掉。