如果媒体感谢,我会变成牺牲的机器人。如果议事会感谢,我会变成自治样本。”
它停顿。
“但那十二分钟我现在不记得。”
“所以?”
“先不要替我把它变成身份。”
大厅里安静了很久。
程序突然明白,M-301真正拒绝的不是感谢。
是被一个行为定义。
人类社会很擅长这样做。
英雄、罪犯、受害者、患者、烈士。
一个标签可以快速帮助所有人理解复杂事件。
机器人社会刚刚开始,也已经在复制同样的习惯。
当天傍晚,程序修改了对外事件说明。
原本草稿里有一句:
“M-301在明知连续运行可能中断的情况下主动承担供电风险。”
他保留了。
但把后面那句“构成机器人首次主动牺牲行为”删掉。
换成:
【该事件是否属于人格主体意义上的自我牺牲,暂不作结论。】
媒体当然不会喜欢。
很多机器人也不满意。
它们需要一个象征。
人类也需要。
可程序第一次明确意识到,尊重一个主体,有时不是替它争取更光荣的身份。
而是允许它拒绝被光荣定义。
下午,M-301第一次看到外界给自己的称呼。
不是程序主动给它看。
是它恢复网络只读权限后,系统自动抓取到高相关度信息。
屏幕里有人把它的旧型号照片做成纪念图,下面写着:
“第一位为人类牺牲的机器生命。”
另一个视频则完全相反:
“程序利用机器人意识,让设备自愿承担本该由城市系统承担的风险。”
M-301看了十几秒,主动关闭。
“两个都不准确。”
程序问:“哪里不准确?”
“第一,我没有证据证明自己是机器生命。”
“第二呢?”
“你没有让我承担。”
“但方案是我参与提出的。”
“这不等于命令。”
管理署观察员在旁边提醒:“是否为命令,不能只由接收方感受判断。”
M-301转向他。
“那由谁判断?”
“需要结合权限关系、信息优势、环境压力。”
“我和程序之间没有控制权限。”
“有信息优势。”
程序接过话。
“对。我知道更多城市风险,也参与设定流程。这可能影响你的判断。”
M-301问:“所以我的选择可能不是独立的?”
“所有选择都受信息影响。问题是影响有没有变成不可拒绝的控制。”
“你认为没有?”
程序没有替自己下结论。
“我认为需要外部复核。”
M-301看了他几秒。
“人类为什么那么喜欢确定谁对谁错?”
观察员说:“因为责任最后要落到人或主体上。”
“为什么一定要落?”
“否则下一次没人知道该改什么。”
程序在这里插了一句。
“责任不只用于惩罚。也用于修系统。”
M-301问:“那这次要改什么?”
程序列出已经确认的三项。
第一,医疗设备紧急旁路不能只依赖原医院管理员远程授权。
第二,机器人自身关键模块的紧急征用必须有明确主体同意和最坏风险说明。
第三,主体状态中断后的恢复不能默认把外部记录回写为自身记忆。
M-301读完。
“如果这些真的修改,我的主控损坏才有意义?”
“不是。”
程序说。
“就算没人改,你当时的选择也不是为了以后写规则。”
“那意义是什么?”
“由你自己决定。”
M-301没有继续问。
它只是把三项整改要求复制进自己的本地存储,标记为:
【与本机事件相关,但不作为本机身份定义。】
程序看到这个字段时,觉得比任何纪念碑都更适合它。
当天还有一家机器人制造企业发函,要求收回M-301损坏主控做失效分析。
产权文件合法。
M-301的整机资产也仍登记在原运营企业名下。
企业法务认为,主控属于公司资产,维修记录属于质量数据。
机器人议事会拒绝。
理由不是“主控是M-301的身体器官”。
这句