第123章 归零法案公开审议(第4页/共5页)
热门推荐:
程序没有生气。
“我的身份裁定不改变这条原则。”
“你现在有自然人权利,我们没有。”
“所以我支持你们争。”
“但不支持我们的手段。”
“对。”
这可能是公开审议里最重要的一刻。
程序没有因为机器人群体帮助过自己,就自动支持它们所有行动。
主体权利真正成立以后,机器人也必须开始接受:它们会被反对,会被限制,会被要求承担责任。
当天夜里,程序重新看了一遍审议录像。
最让他在意的不是掌声最多的发言。
而是那些没有被解决的问题。
谁付主体保护成本。
低端机器人怎么证明连续。
受害者安全怎么优先。
国家最后强制权如何被约束。
这些问题没有因为公开而消失。
公开的价值只是让它们不能继续躲在技术附录里。
审议记录最终超过四千页。
程序只要求秘书处做一件事:所有被接受、被拒绝的重大修订,都保留理由。
不能只留下最终法条。
因为以后有人一定会问:为什么当年不用更简单的方案?
如果理由全部消失,下一代很容易把已经踩过的坑再走一遍。
秘书处说:“这会让立法档案非常大。”
程序回答:“记忆本来就有成本。”
一部法案也需要连续性。
不仅要记得最后变成什么,还要记得自己曾经差点变成什么。
委员会决定暂停四十八小时,吸收修订。
机器人城市没有等。
六小时后,一份正式文件发到国家应急网络。
标题:
《自治机器人城市关于归零法案最终文本的最低接受条件》。
最后一行:
【若条件未获回应,我们将采取自保措施。】
周长岳看完。
“这回不用问是不是威胁了。”
程序问:“内容呢?”
“自己看。”
文件第一页只有五条。
每一条,都可能把审议直接推向对抗。
公开审议结束前,主持人允许每一方只留一句最重要的话。
企业代表:“不要让主体保护变成无法承担的无限成本。”
受害者代表:“不要让机器人权利排在现实受害者安全前面。”
机器人城市代表:“不要让安全成为人类保留最终所有权的另一种说法。”
林见微:“不要把我们不知道的东西,写成已经知道。”
周长岳:“不要把任何一方的善意当安全机制。”
轮到程序。
他本来准备了一整页。
最后只说:
“不要为了让规则简单,把真实存在的主体删掉。”
没有掌声。
主持人只说:“记录。”
程序反而觉得这样最好。
这不是发布会。
规则不需要靠一句话赢。
真正进入最终文本的,不是任何一方的完整答案,而是一组让错误决定更难被轻易执行的边界。
第二天,秘书处把每项重大修改的接受与拒绝理由一并归档。
程序要求连那些最后没进入法条的方案也保留。
“为什么保留失败版本?”有人问。
“因为以后的人会重新提出。”
“那就再讨论。”
“可以。但先让他们知道当年为什么没选。”
制度也需要自己的记忆。
只保留最终答案,会让未来误以为那些选择从来没有代价。
散会时,那名最先发言的受伤工人又叫住程序。
“我还是觉得你们保护得太多。”
程序说:“可以继续反对。”
“但你至少没跟我说为了文明必须牺牲。”
“因为受伤的是你。”
工人点点头。
“下一次如果真有机器人又伤人,我还会来。”
“应该来。”
两人没有达成一致。
程序却觉得公开审议本来就不该以一致为成功标准。
能让一个强烈反对者知道自己下一次仍然有位置,已经是一种制度结果。
秘书处关闭会场直播后,争论仍然留在网络上。
程序没有要求降温。
只要求所有人都能下载完整修订记录,而不是只看到剪成十秒的发言。
意见不会因此一致。
至少争议可以围绕同一份事实继续。
会场关闭时,没有人宣布共识形成。
只有一份更长、也更难