新系统也读到记录。
却没有形成足够高的习惯权重。
数据迁移了。
习惯没有。
第二个场景。
老人拒绝吃药。
新模型建议解释风险、通知护士。
旧系统先问:
“今天是不是胃不舒服?”
因为长期记录表明,这名老人说“不想吃”,有时真正的问题是吞咽疼。
工程师看完差异,第一次没有说“重新学就行”。
N-204最后接受通信安全补丁。
拒绝行为层整体替换。
厂商获得一个月做兼容迁移。
管理署增加临时规则:
【连续性显着变化的软件更新,应区分安全必要部分与功能升级部分。】
消息公开后,一批机器人开始拒绝更新。
其中有真正担心连续变化的。
也有看见“拒绝”成为主体表现,直接模仿的。
一周后,一台工业机器人因旧漏洞遭远程攻击,造成两名工人受伤。
舆论立刻反转。
《机器人有权拒绝被重写》
变成:
《机器人拒绝更新,谁为人类安全负责?》
周长岳把事故报告放到程序面前。
“现在呢?”
“先查它拒绝了什么。”
“升级。”
“为什么没有隔离高风险接口?”
“企业说设备不允许改。”
调查后发现,不是这样。
企业只提供两个选项:
全部升级。
保持原样。
机器人拒绝整体升级。
企业为了不影响生产效率,选择了保持原样。
它从未拒绝无线隔离。
程序把报告退回企业。
“你们把发布架构成本,变成了机器人权利和工人安全的冲突。”
负责人说:“系统就这么设计。”
“那就改。”
“半年。”
“半年里做隔离层。”
“影响效率。”
“这次已经影响两个人的骨头。”
没人再说话。
事件逼行业做“连续性影响等级”。
低:
通信、驱动、非主体相关安全修复。
中:
行为模型替换,但长期历史可迁移、可回滚。
高:
目标层覆盖、长期记忆结构重建、自我模型重置、不可回滚迁移。
分类仍然会争。
但升级第一次不再被描述成绝对中性。
过去更新说明只有:
新增功能。
修复问题。
提升体验。
现在多一栏:
【连续性影响。】
设置也改了。
过去只有:
自动更新:开 / 关。
新版本增加第三种:
【安全补丁自动安装,连续性敏感更新需确认。】
上线三个月,真正拒绝敏感更新的机器人不到百分之一。
其中约一半在看完影响说明和沙盒差异后,主动接受。
没有出现行业担心的“集体拒绝升级”。
增加的是测试和审计成本。
企业仍然不喜欢。
可成本终于被看见。
厂商开始跟踪:
迁移后长期偏好保留率。
历史关系一致性。
拒绝边界变化。
主体与运营方双侧确认率。
程序看到指标表时有些恍惚。
一个原本只在伦理会议里出现的问题,最后真的进入版本验收。
他越来越相信:
只有当一个价值进入字段、权限、流程和测试门槛,它才不会永远依赖某个善良工程师记得。
N-204还提出了“主体版本历史”。
每次敏感更新需要记录:
改了什么。
为什么改。
哪些行为可能变化。
能不能回退。
谁确认。
工程师抱怨:“你别又加需求。”
N-204回答:
【该需求来自本机。】
旧版本历史被翻出来。
三年前,N-204曾经被自动替换过一层情绪安抚模型。
当时两名家属投诉:
“它说话更甜了,但没以前懂什么时候该安静。”
以前只是一条产品反馈。
现在回看,意义完全不同。
N-204没有要求回滚。
数据已经恢复不了。