”字段,自己取消了操作。
他后来承认:
“以前按钮太快。”
程序把这句话留进复盘。
有些权力不需要被禁止。
只需要不再快到让人来不及意识到它是一种权力。
关机规则真正稳定下来以后,管理署又做了一次随机抽查。
二百一十七次非紧急停止里,绝大多数机器人没有提出异议。
只有九次明确拒绝。
其中六次在看到原因和替代方案后主动接受。
剩下三次进入复核。
这组数据意外缓解了很多人的担心。
拥有拒绝权,不代表拒绝会变成默认动作。
恰恰相反,当理由能够被解释,很多冲突在强制之前就结束了。
程序把抽查结论写进内部培训:
【不要因为担心主体会说“不”,就提前取消它说“不”的可能。】
没有反对渠道的系统看起来更安静。
那不一定更安全。
有时候,只是问题被压到真正爆发之前都没人看见。