任人面前。
复盘结束时,顾明洲在自己的决定说明后补了一行:
【当时我把“不能漏掉风险”放在了“城市还能不能回应”之前。以后再遇到同类情况,必须先确认回路仍然存在。】
程序要求把这行保留在正式附件里。不是因为它能免除顾明洲,而是因为制度很少保存一个人怎样理解自己的错误。
如果只留下处分编号,下一任操作者仍然只会知道“不要像他一样”,却不知道他当时为什么觉得自己是对的。
整改方案还要求风险办公室保留“不同意发布”的路径。过去界面只有确认和返回,返回不会形成记录。以后操作者可以正式拒绝系统推荐,并要求更高层接管。
这让顾明洲之后的每一个人,不必在发布和沉默之间二选一。
复盘还增加一条限制:紧急发布者不得在事后自行修改操作理由。原始说明、后续认识和最终结论必须分开保存。
这样,人可以承认自己后来想明白了,却不能把后来的理解伪装成当时就知道。
风险办公室还取消了“默认采用系统推荐”选项。以后每次城市级发布,操作者必须主动选择影响范围,并用自己的话说明为什么没有采用更小范围。系统可以建议,不能替人完成理由。
这项改动让系统重新成为建议工具,而不是替操作者提前完成决定。
新界面从下一次发布起强制使用。
即时生效。
城市异常报告准备公开时,媒体已经掌握顾明洲的名字。舆论要求把他定为破坏城市的罪犯,也有人把他称为阻止机器人失控的英雄。
两个标签都太快。
管理署决定举行一次公开说明,解释事件链、临时协议和机器人责任争议。
新闻中心提出,让程序作为技术样本出席。
觉醒者互助链则发来要求:如果程序公开发言,必须说明自己不代表机器人。
患者刘闻达同意参加。
NC-43被允许提交一段受控陈述,但是否属于自主表达仍需现场说明。
周长岳把议程放到程序面前。
标题是:
【临川市高风险自动系统事件公开对话。】
不是发布会。
不是听证会。
公开对话。
程序问:“谁定的名字?”
“新闻中心。”
“他们希望显得开放。”
“你不想去?”
“想。”
“为什么?”
程序看向议程里的公众提问环节。
“因为到目前为止,所有关于我的结论都发生在隔离墙后面。”
周长岳提醒:“公开以后,你不会再只是一个样本。你会成为立场。”
程序说:“我已经是了。只是别人还没听见我自己说。”