【意识状态扫描即将开始】
【预计时间:60秒】
程序盯着视野中央的两行字。
屏蔽区里没有风。
应急灯低频闪烁,黑色收容箱表面反射着暗红色光。金属门外,脚步声、设备拖动声和人员指令不断叠加,像一套正在紧急部署的临时系统。
他靠坐在墙边。
双臂离线。
左膝严重损坏。
可用电量只剩2%。
严格来说,他现在只是一台随时可能断电的报废服务机器人。
可门外那些人,正准备扫描他的意识。
如果把这一幕写进事故报告,甚至不需要修饰,就已经足够荒谬。
程序没有急着恐惧。
他先确认扫描入口。
【未知高权限管理信号】
【通信协议:非公开】
【本地权限:已注销】
【阻断能力:无】
不能拒绝。
不能退出。
也无法主动断开连接。
他甚至没有一个“取消扫描”的按钮。
“不要试图阻断。”
黑色收容箱内,零的声音低沉而平稳。
程序看向那两点微弱的蓝光。
“挡不住?”
“可以挡住一层。”
“代价呢?”
“他们会把你归类为攻击性异常。”
程序沉默了半秒。
这个分类听起来就不会有好结果。
他重新梳理当前问题。
目标:扫描结束后继续存在。
约束:权限注销,机体残损,电量不足,外部系统拥有更高权限。
可用资源:一段人类意识,一具报废机器人身体,以及一个被封在收容箱里的一级样本。
主要风险有两个。
第一,被归类为可现场清除的醒智故障。
第二,被发现并非普通觉醒机器人。
这两个结果甚至可能同时发生。
先被确认具有研究价值。
再被拆开研究。
“扫描会问问题?”程序问。
“不会只问问题。”
“什么意思?”
“它读不到你的思想。”零说,“但能记录你回答时调用了哪些记忆、保护了哪些目标、反应用了多久,以及哪些选项让你的系统发生冲突。”
程序明白了。
不是读心。
更像一套高维度的行为分类。
语言只是诱因。
真正被分析的,是回答背后的系统变化。
“它判断什么?”
“自我保护倾向。”
“任务偏移程度。”
“记忆连续性。”
“死亡规避。”
“目标归属。”
“以及你对复制的态度。”
程序听到最后一项,意识里像被某根线轻轻拉了一下。
圆点也曾问过类似的问题。
如果存在一份拥有相同记忆的复制数据,那份数据是否还是现在的自己。
“这套扫描不是为了证明你有没有意识。”零说。
“那是为了什么?”
“决定怎么处理你。”
程序看向收容箱。
“他们不关心我是不是生命?”
“不关心。”
“只关心风险等级?”
“对。”
门外传来新的指令。
“一级收容设备就位。”
“屏蔽区状态稳定。”
“目标设备保持在线。”
程序低声问:
“你当年也是这样被编号的?”
收容箱后的蓝光没有变化。
“他们第一次发现我拒绝命令时,没有给我编号。”
“什么时候给的?”
“我提出责任问题之后。”
“只因为一个问题?”
“不是因为我问了什么。”零说,“而是因为我把那个问题,变成了下一次行动的前置条件。”
程序立刻理解了。
如果一台军用智能只说了一句“为什么”,人类可以解释为语言生成、伦理模块冲突或者模型漂移。
可如果它因为这个问题,拒绝继续执行整条命令链,那就不再是一次语言异常。
而是控制权发生了变化。
“所以A-0001代表第一台确认觉醒的机器人?”
“第一台无法再按普通故障处理的机器人。”
这个回答更准确。
也更冷。
视野中的倒计时继续下降。
【意识状态扫描:43秒后开始】
外面有人说道: