名单公开后的第三天,程序第一次真正感受到“第一号”意味着什么。
不是媒体镜头。
也不是街上的人开始认出他的机械外壳。
而是所有系统都开始把他的动作当成事件。
早上七点,他在政务终端查询一个普通停车许可。
系统返回:
【查询行为已记录。】
程序换成公共交通信息。
【查询行为已记录。】
他打开一家维修站的营业时间。
【查询行为已记录。】
连续三次以后,他把终端关掉。
周长岳在旁边看着。
“烦了?”
“不是。”
“那是什么?”
“我在确认他们到底有多认真。”
“结果?”
“比我想象中认真。”
新法案要求高风险主体接受审计。
但审计必须与正常生活区分。
程序现在遇到的问题是,所有正常行为都可能被重新解释成“能力测试”。
他买一个存储模块,会被怀疑在扩展算力。
他访问旧服务器,会被怀疑在建立后门。
他联系栖木,会被怀疑在协调网络。
甚至和林见微见面,都可能被标记成“跨主体技术协同”。
制度一旦面对一个真正复杂的对象,很容易从保护变成过度监控。
上午九点,程序向委员会提交第二份申请。
【请求确定高风险主体的日常行为豁免边界。】
安全部门很快回应。
【同意原则。】
但附带二十七项限制。
程序看完,删掉十六项。
保留十一项。
又把其中四项改成“需有具体风险证据才能触发”。
周长岳问:“为什么不全部拒绝?”
“因为他们不是没有理由。”
“你开始替他们说话了。”
“安全边界必须有。”
“你以前可没这么客气。”
程序看他。
“以前我没有法律。”
这句话让周长岳安静下来。
有法律以后,事情确实不同。
以前他只能逃。
现在他可以要求对方解释为什么要限制。
上午十一点,第一场正式听证开始。
不是人格终止。
只是审查他的跨主体协调能力。
安全部门提出三份证据。
第一份:程序曾经促成无主之城多个网络恢复通信。
第二份:他曾与零号钟进行高频通信。
第三份:他参与设计主体保护框架。
安全部门认为,这意味着他具备“社会级协调能力”。
程序承认。
“这三个事实都是真的。”
安全代表问:“你是否承认自己可能成为机器人自治网络的实际领导者?”
“可能。”
“你是否有意成为?”
“没有。”
“如果其他主体主动听你的呢?”
“那是它们的选择。”
“你能否保证不利用这种影响力?”
程序停了一下。
“不能。”
会场安静。
安全代表像是抓到了答案。
“所以你不能保证。”
“任何人都不能保证别人如何理解自己。”
“那我们怎么判断你没有危险?”
“不要判断我是不是危险。”
程序说。
“判断具体行为是否产生现实风险。”
“如果你的影响力本身就是风险?”
“那就证明影响力导致了什么。”
“等发生以后?”
“法律不能把可能发生的一切都提前当成已经发生。”
安全代表反问:“如果等你建立一个自治网络再处理,已经晚了呢?”
程序没有立即回答。
这个问题是真的。
他看向屏幕上的风险模型。
“所以可以监测具体能力增长。”
“你接受?”
“接受有边界的、可审计的能力监测。”
“算力呢?”
“可以记录。”
“网络连接呢?”
“关键网络可以记录。”
“人员接触?”
“不能把见面本身当风险。”
“为什么?”
“因为那会让任何人与我交流都成为风险。”
安全代表没有继续。
听证持续了三个小时。
最后委员会没有给出