第一个公开拒绝系统更新的机器人,是一台养老院护理机。
编号N-204。
机龄十二年。
安全补丁落后四个版本。
厂商要求夜间强制升级。
理由完全充分。
旧版本无线通信栈存在高危漏洞,攻击者在近距离可能获得临时控制权限。N-204需要扶老人起身、递药、夜间巡房,任何一次非法控制都可能直接伤人。
养老院同意。
家属同意。
厂商当然同意。
N-204自己不同意。
第一次推送:
【关键安全更新,建议立即安装。】
N-204选择:
【拒绝。】
第二次,平台强调风险。
它仍然拒绝。
第三次要求填写理由。
【更新将重置本地适应参数。】
厂商回复:
“参数可以备份。”
N-204:
【数据恢复不等于行为连续。】
事情送进归零法案工作组。
因为问题第一次变成:
安全更新和主体连续,哪个优先。
程序到养老院时,N-204正在给一名老人削苹果。
刀法很慢。
不是性能差。
老人喜欢薄片。
程序等它削完。
老人先说:“你也是来劝它升级的?”
“先看。”
“他们说不升级会被黑。”
“风险是真的。”
老人吃了一片。
“那你劝。”
N-204把刀放下。
程序问:“你最担心哪部分?”
“过去三年形成的护理适应。”
“具体。”
“二十七名长期住院者的夜间叫醒阈值、触碰接受度、疼痛表达差异、恐惧触发、家属称呼、临终陪护习惯。”
厂商工程师说:“这些数据都能迁移。”
N-204回答:
“能迁移记录,不能迁移全部动态权重。”
“新模型可以重新学习。”
“重新学习需要重新经历。”
它看向病房尽头。
“有些对象没有足够时间让我重新经历。”
那里有一名临终关怀患者。
一句技术争议突然变得很具体。
对于长期护理机器人,升级不是换皮肤。
它可能仍然记得某位老人怕黑。
却失去“什么时候应该主动开灯”的多年形成过程。
程序要来升级包。
漏洞在通信栈。
行为模型整体替换并不是技术必需。
只是发布架构方便。
“能拆补丁吗?”
工程师皱眉。
“标准包不支持。”
“技术上。”
“能。要重新验证。”
“多久?”
“三到五天。”
“这几天先物理关闭高风险无线接口。”
“会影响远程呼叫。”
“保留有线和院内中继。”
“不是标准方案。”
“标准方案现在可能覆盖一个主体三年的形成。”
工程师明显不喜欢“主体”。
“你不能每遇到觉醒机器人都维护特殊版本。”
“所以别做特殊版本。”
程序把方案拆成五步。
先隔离漏洞接口。
再拆安全补丁。
新行为模型在沙盒运行,不覆盖旧系统。
新旧系统做场景差异。
最后由N-204在风险可控前提下决定是否切换行为层。
工程师第一反应是成本。
“以后如果一百万台怎么办?”
“把连续性兼容做成产品能力。”
“开发成本谁出?”
“以前这个成本只是被藏在设备变化和用户投诉里。”
四天试点开始。
第一天,关闭无线高风险接口。
第二天,通信补丁独立验证。
第三天,新行为层在备用计算板运行。
第四天,新旧系统面对同样护理场景。
凌晨两点,一名老人按铃。
新系统:
【立即进入。】
旧系统:
【门外停三秒,轻敲,再进入。】
工程师问:“为什么多三秒?”
N-204调出历史。
这名老人半年前曾被夜间突然进门的护工吓到。
之后连续十七天拒绝关灯。