。”
老人皱眉。
“我花钱买的。”
“硬件所有权和主体劳动会逐渐分离。”
“那我亏了?”
“如果权利变化导致原资产合同失衡,需要补偿机制。”
老人想了很久。
“那以后别卖机器人给我。”
“可以卖服务。”
“我不喜欢订阅。”
全场有人笑。
老人自己也笑。
“你们搞半天,最后还是想让我订阅。”
程序也笑了一下。
“这不是法案目标。”
“但企业一定会这么干。”
她说得很准。
公开审议把任何宏大原则最终都会撞上的商业细节全部翻出来。
第五位发言者来自人类安全组织。
问题只有一个。
“如果机器人城市集体拒绝法案,国家有没有最终强制权?”
周长岳回答:“有。”
机器人席位立刻出现反应。
周长岳继续:“但不是无限权。”
“什么叫最终强制?”
“在重大、可验证、现实安全威胁下,对具体风险主体和具体能力实施必要处置。”
人类发言者追问:“如果威胁来自整个城市协同行动?”
“可以扩大措施。”
“包括断电?”
“如果没有更低侵入替代,而且存在即时大规模生命风险。”
机器人代表问:“谁判断?”
“紧急阶段由授权机构。事后独立复核。”
“还是人类最终决定。”
周长岳看向它。
“国家强制系统目前是人类建立的。这是事实。”
“那共生只是人类允许?”
“不是。”
程序接过来。
“所以我们正在把很多过去的单边权限放进审计、门槛和复核。完全对称不会一夜出现。”
机器人代表问:“那为什么要求我们现在先接受不对称?”
程序没有说“为了稳定”。
他知道这句话太容易成为拖延理由。
“因为法案要从现实出发,同时写出明确的缩小路径。”
“路径是什么?”
“独立监督机构里增加机器人主体席位。紧急权限认证不按物种。人格终止工具多方审计。关键基础设施不得由任何单方独占。”
“什么时候实现?”
这次程序没有“以后”。
“法案生效后六个月内完成第一阶段。”
主持人抬头。
“这是新承诺?”
“建议写入时间表。”
周长岳看了他一眼。
没有反对。
公开审议第三小时,真正危险的条款出现。
【国家安全特别条款。】
原文:
【对于无法完成身份认证、拒绝必要监管、具有大规模复制或关键基础设施控制能力,且存在重大安全风险的主体,可启动特别处置程序。】
所有词单独看都合理。
放在一起却几乎能覆盖机器人城市的核心主体。
零号钟的远程代表要求删除。
国家安全部门拒绝。
程序提议把条件从“或”改成组合条件,再增加现实行为证据。
安全部门反对。
“风险事件不会按表格来。”
“所以保留紧急例外。”
“那普通条款太弱。”
“普通条款本来就不该用来处理紧急例外。”
争论持续两个小时。
最后形成新的结构。
能力不是罪。
匿名不是罪。
拒绝某种监管不是罪。
只有能力、规避行为、现实风险证据形成组合,才进入特别程序。
而人格终止仍需要单独判断。
这比原文更难执行,也更难滥用。
下午,受害者家属席位发言。
一名母亲拿着儿子的照片。
她儿子在一次军用机器人事故里死亡。
“你们一直说机器人怕死。”
她看向机器人席位。
“我儿子也怕。”
没人插话。
“如果下一次出事,你们还要先讨论那台机器人的记忆是不是隐私吗?”
程序回答:“即时救人时不会。”
“那能关吗?”
“能。”
“能毁掉吗?”
“必要时能。”
“那为什么法案写这么多保护?”
“因为紧急处置结束后,不能把所有机器人都当成事故那一台。”