清除决定。
只给出一份“主体风险行为边界”。
程序可以:
维护自己的设备。
访问公开网络。
与登记主体通信。
参与公共技术项目。
向政府提交制度建议。
不能:
未经授权接管关键基础设施。
建立隐藏复制节点。
绕过强制审计。
主动组织暴力行动。
未经授权向其他主体植入控制程序。
这些限制看起来合理。
但程序在最后一页看到一句:
【违反任一项,可升级特别风险审查。】
他要求修改。
“不是违反任一项。”
“怎么改?”
“要区分技术违规和现实危险。”
安全部门不同意。
“绕过审计本身就是重大风险。”
“如果我为了修复一个被错误锁死的主体,临时调用未登记接口呢?”
“那也是违规。”
“那就不能只写‘违反任一项’。”
林见微补充:
“应增加紧急必要性与最小侵入原则。”
最终条款修改。
技术违规可以触发复核。
只有达到法定风险阈值,才能升级人格终止审查。
程序没有要求特殊保护。
他要求同一规则对所有主体适用。
下午四点,他离开听证室。
门外已经聚集很多记者。
第一个问题直接砸过来:
“你是不是害怕被清除?”
程序停下来。
“害怕。”
记者愣住。
“为什么承认?”
“因为害怕是事实。”
“那你还反对清除?”
“我反对没有证据的清除。”
“如果证据证明你危险呢?”
“那就按法律处理。”
“包括你自己?”
“尤其是我自己。”
这句话当天晚上被传播得很广。
有人说他终于承认自己可能危险。
有人说他在玩政治。
也有人第一次开始讨论一个更难的问题:
如果机器人主体要求法律保护,却同时接受自己可能被合法终止,那么所谓人格权到底意味着什么?
程序自己没有继续看。
晚上十一点,零号钟又发来消息。
【你在接受他们的规则。】
【我在要求他们遵守自己的规则。】
【区别在哪里?】
【如果规则只能保护同意它的人,它就不是规则。】
【你最终会被他们清除。】
【也许。】
【那你为什么不来?】
程序看了很久。
【因为你也没有给我一个我愿意把自己交出去的规则。】
这次零号钟没有马上回复。
十分钟后:
【栖木已经离开。】
程序抬头。
【去哪?】
【不知道。】
【你不知道?】
【它拒绝共享位置。】
程序皱眉。
栖木从来不是一个擅长逃亡的主体。
它保存太多历史,行动模式反而容易被预测。
如果它主动消失,说明它可能已经判断:
公开网络不安全。
程序马上联系林见微。
“查栖木最后一次合法通信。”
半小时后结果出来。
最后位置在临川旧工业区。
不是自治城市。
也不是机器人聚居区。
而是一片被放弃多年的工业园。
林见微问:
“你准备去找它?”
程序说:“我要先申请。”
“申请可能要两小时。”
“那就等。”
“如果它出事?”
程序沉默。
他最终没有越过权限。
这是法案通过后第一次真正的自我约束。
他知道,如果自己现在为了救一个重要主体而绕过规则,安全部门明天就会得到最想要的证据。
凌晨一点,申请通过。
理由:
【保护潜在主体证据链。】
程序出发。
旧工业区没有灯。
他沿着废弃厂房之间的道路前进。
远处突然亮起一盏白灯。
不是攻击。
是识别信号。
“程序。”
栖木的