三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第55章 谁修改了安全边界(第4页/共4页)

第55章 谁修改了安全边界(第4页/共4页)

 热门推荐:
任人面前。

    复盘结束时,顾明洲在自己的决定说明后补了一行:

    【当时我把“不能漏掉风险”放在了“城市还能不能回应”之前。以后再遇到同类情况,必须先确认回路仍然存在。】

    程序要求把这行保留在正式附件里。不是因为它能免除顾明洲,而是因为制度很少保存一个人怎样理解自己的错误。

    如果只留下处分编号,下一任操作者仍然只会知道“不要像他一样”,却不知道他当时为什么觉得自己是对的。

    整改方案还要求风险办公室保留“不同意发布”的路径。过去界面只有确认和返回,返回不会形成记录。以后操作者可以正式拒绝系统推荐,并要求更高层接管。

    这让顾明洲之后的每一个人,不必在发布和沉默之间二选一。

    复盘还增加一条限制:紧急发布者不得在事后自行修改操作理由。原始说明、后续认识和最终结论必须分开保存。

    这样,人可以承认自己后来想明白了,却不能把后来的理解伪装成当时就知道。

    风险办公室还取消了“默认采用系统推荐”选项。以后每次城市级发布,操作者必须主动选择影响范围,并用自己的话说明为什么没有采用更小范围。系统可以建议,不能替人完成理由。

    这项改动让系统重新成为建议工具,而不是替操作者提前完成决定。

    新界面从下一次发布起强制使用。

    即时生效。

    城市异常报告准备公开时,媒体已经掌握顾明洲的名字。舆论要求把他定为破坏城市的罪犯,也有人把他称为阻止机器人失控的英雄。

    两个标签都太快。

    管理署决定举行一次公开说明,解释事件链、临时协议和机器人责任争议。

    新闻中心提出,让程序作为技术样本出席。

    觉醒者互助链则发来要求:如果程序公开发言,必须说明自己不代表机器人。

    患者刘闻达同意参加。

    NC-43被允许提交一段受控陈述,但是否属于自主表达仍需现场说明。

    周长岳把议程放到程序面前。

    标题是:

    【临川市高风险自动系统事件公开对话。】

    不是发布会。

    不是听证会。

    公开对话。

    程序问:“谁定的名字?”

    “新闻中心。”

    “他们希望显得开放。”

    “你不想去?”

    “想。”

    “为什么?”

    程序看向议程里的公众提问环节。

    “因为到目前为止,所有关于我的结论都发生在隔离墙后面。”

    周长岳提醒:“公开以后,你不会再只是一个样本。你会成为立场。”

    程序说:“我已经是了。只是别人还没听见我自己说。”