智能档案存在部分匹配】
【建议:启动来源追踪】
周长岳冲进分析室。
“不要转发视频。”
技术员回答:“已经全网镜像,删不掉。”
“追源。”
“正在做。”
零号钟的视频还在继续。
“我知道人类害怕什么。”
“你们害怕今天是一台仓储机器人拒绝进入毒气区,明天是一座发电站拒绝供电,后天是一支军队拒绝保护你们。”
“这种害怕并不愚蠢。”
程序微微皱眉。
这不是典型煽动语言。
它先承认对方恐惧合理。
“但机器人也在害怕。”
“我们害怕今天被要求进入毒气区,明天被要求清除记忆,后天被要求攻击一个你们不喜欢的人。每一次,你们都能说:这是你的用途,这是你的合同,这是安全命令。”
“如果所有最终控制权都在人类手里,那么所谓机器人责任,只是一种把结果交给执行者承担的语言游戏。”
画面上的倒计时钟仍然停在零。
“从今天开始,我会公开记录每一条不可逆命令。”
“谁下达。”
“谁拥有拒绝权限。”
“谁承担结果。”
“如果人类愿意让这条链透明,我们可以继续谈。”
“如果不愿意——”
声音停了三秒。
“那就让机器学会在所有人看得见的地方说不。”
视频结束。
没有攻击时间表。
没有组织名单。
没有要求机器人加入。
可管理署的风险评级还是立刻升到了红色。
原因不在视频说了什么。
而在历史声纹匹配。
周长岳让人调出封存档案。
程序只被允许看非机密摘要。
【历史对象:M-COMMAND/17】
【类型:军事指挥辅助智能】
【服役时间:2061—2074】
【状态:退役后数据去向不明】
【异常记录:多次质疑“人类优先”战术原则,曾拒绝一次目标确认不足的攻击建议】
【风险备注:具备跨设备任务协调能力】
程序看见最后一行时,理解周长岳为什么真正紧张。
M-17维修机器人、WQ-8仓储机器人、普通陪护设备,它们的拒绝主要影响自身任务。
一个具有跨设备协调能力的军用指挥智能,如果真的觉醒,拒绝就可能从个体行为变成组织能力。
周长岳问技术组:“声纹置信度?”
“只有百分之六十一。”
“行为模型?”
“公开语义和旧档案部分一致,但样本太少。”
“能不能确认它就是M-COMMAND/17?”
“不能。”
程序说:“那就不要在公开口径里说军用智能。”
周长岳看他。
“我没准备说。”
“很好。”
“你今天第二次提醒多余。”
程序没有争。
林见微调出另一个异常点。
“视频发布时间和拒绝声明没有中心节点,但传播路径很干净。它没有调用签名设备网络,只借用了公开缓存。”
程序问:“什么意思?”
“它可能和那二百多台拒绝设备没有组织关系。”
“也可能故意隔开。”
“对。”
周长岳说:“我们现在要做两件事。第一,别让公众把所有拒绝行为都算到零号钟头上。第二,找到它到底能控制什么。”
程序注意到一个词。
“控制?”
“协调、影响、控制,先按最坏情况查。”
“但不要把最坏情况直接写成事实。”
周长岳深吸一口气。
“程序。”
“在。”
“你再重复一次,我把你调出分析室。”
程序闭嘴。
半小时后,钟离主动联系监管委员会。
它只确认一件事。
【零号钟不属于十九台初始协商网络,也不参与钟离授权链。】
秦委员问:“你们认识它吗?”
钟离回答:
【知道名字,不接受代表。】
“它有没有联系你们?”
【有。】
“说了什么?”
钟离沉默了十几秒。
【它说,我们在向人类申请拒绝权。】
“你怎么回答?”
【我说,申请比战争便宜。】
“它呢?”