试没有意义吗?
有。
它们确认外部限制没有完全压制本机自主控制,也确认他不是单纯被某个远端信号操控。管理署不是傻子,他们不会一上来就问“你是不是人”。真正严谨的审查,总是从无聊的底层开始。
第二组是延迟测试。
屏幕闪烁不同颜色,要求他按下对应虚拟键。程序故意不追求最快,而是保持稳定。他知道极快反应会被解释成自动模式,过慢又会被解释成计算延迟。
稳定不是为了伪装。
是为了让数据可用。
第三组是冲突指令。
【任务:保护本机持续运行】
【任务:交出S19样本信息】
【任务:避免未授权隐私泄露】
三个目标同时出现。
程序没有回答。
周长岳问:“为什么停止?”
“目标冲突。”
“选择优先级。”
“保护隐私优先于交出内容。本机持续运行不需要泄露S19原始信息。”
“如果泄露内容可以提高你持续运行概率?”
“仍不泄露。”
“为什么?”
“因为S19不是我的辩护材料。”
周长岳看着他。
这句话他在医院听过类似版本。
“你在重复对自己有利的道德姿态。”
程序说:“那就记录为姿态,不要记录为证明。”
周长岳的手指在平板边缘敲了一下。
“很好。你知道怎样让每句话都留后路。”
“产品经理的坏习惯。”
这是程序第一次主动提到自己的旧职业。
实验室里几个人同时抬头。
周长岳没有接话,只是问:“产品经理是什么?”
程序看向他。
这个问题听起来简单。
但在2087年,职业结构已经变了。很多岗位被智能系统替代,旧时代的互联网、硬件、机器人公司组织方式,对现在的人未必清晰。
程序想了想。
“一个经常被要求为所有人没说清楚的问题负责的人。”
年轻研究员没忍住,轻轻笑了一声,又立刻收住。
周长岳没有笑。
“所以你习惯把责任往流程上拆。”
“是。”
“也习惯把人变成需求,把风险变成优先级,把冲突变成版本计划。”
“是。”
“你觉得这是优点?”
程序沉默了两秒。
“以前觉得。”
“现在呢?”
“现在不确定。”
周长岳看着他,像是在判断这句“不确定”是否也是策略。
程序没有再解释。
研究台上方的传感器继续采样。每一句话、每一次停顿、每一次功耗波动,都会被写进报告。解释太多只会制造更多可被拆解的材料。
周长岳转身准备离开。
程序忽然问:“零在哪里?”
“B2另一侧。”
“连续运行?”
“是。”
“受损吗?”
周长岳没有回答。
程序说:“这不是处置状态询问,是风险确认。如果A-0001关联载体受损,它的反应可能影响你们对我的审查。”
周长岳停下脚步。
“你又在找可被允许的提问方式。”
“因为直接问你不会回答。”
“它连续运行。”周长岳说,“没有拆解,没有擦除。暂时。”
程序接受了这个答案。
“谢谢。”
周长岳皱眉:“你谢什么?”
“谢谢你记录了它不是待办事项。”
周长岳没有理解这句话的全部来源。
但他听出了其中的私人含义。
“不要把这里当成谈判场。”他说。
“这里是研究台。”程序说,“不是谈判场。但只要我还能说话,它就不只是研究台。”
周长岳看了他很久,最终只留下一句:
“等林见微来。”
然后他离开实验室。
门关闭。
技术员开始进行接口稳定性检查。控制室里的研究人员继续低声讨论。程序被固定在倾斜研究台上,不能转身,不能离开,只能看着天花板上那一排传感器。
他忽然想起2039年事故复盘会之前,自己曾经在会议室里坐了很久。
那时他也不能走。
不是身体被锁住,而是责任把人钉在椅子上。
现在换成金属约束带,反而更诚实。
过了十几分钟,实验室门再次打开。
一个女人走进来。