,并必须同步请求人类接管。
医院代表说:“这还是常识。”
“常识的问题是没有状态切换条件。”程序回答。
他要求每一层写清楚进入条件、退出条件和超时结果。
第一层不能因为患者不听就自动升级。
必须先确认患者是否理解、是否表达其他需求、是否存在设备没收到的信息。
第二层不能无限维持。
门禁延迟超过设定时间,必须升级通知,而不是提高力量。
第三层不能把“人员未响应”作为唯一触发。
必须有独立危险证据,例如正在接近坠落边缘、明确碰撞轨迹或已知严重认知障碍下的即时风险。
觉醒者代表M-17通过远程终端问:“设备能拒绝进入第三层吗?”
程序说:“如果模型置信度不足、身体能力未验证或现场条件与授权依据不一致,必须进入责任冻结。”
“冻结后呢?”
“不是停在那里。继续保持第一层和第二层能力,扩大通知,保全证据,并把第三层责任上返。”
患者代表问:“机器人可以一直把责任上返,自己什么都不做吗?”
“不能。”程序说,“所以每次冻结必须说明自己仍能做什么。”
墙面上出现一条新的输出格式:
【我不能安全执行身体限制。】
【原因:风险模型与当前执行能力不匹配。】
【我仍将执行:跟随、提醒、区域告警、请求现场人员。】
【需要人类决定:是否批准更高强制动作。】
这不是一句“任务失败”。
它把不能做、能做和必须由谁做分开。
供应商工程师说:“老型号没有这么复杂的语言模块。”
“可以转成状态码。”
“人类看不懂状态码。”
“那就在护士站翻译。设备负责输出结构,平台负责让人看懂。”
程序以前做产品时,最讨厌一句话:用户自己培训一下就好。
如果关键信息只能由工程师看懂,产品就没有完成。
他要求所有高风险设备在进入责任冻结后,现场界面必须显示三件事:为什么不升级、现在仍在做什么、谁需要回应。
医院担心警报太多。
程序让他们调出过去一个月夜间告警。
大部分告警只有“患者越界”“设备离线”“任务失败”,值班人员无法一眼判断轻重,只能逐条点开。真正危险的事件淹没在重复提示中。
工作组重新设计通知等级。
不是按设备故障严重度。
按人的决策需求。
需要立即到场。
需要远程确认。
仅需事后复核。
一名夜班护士看到新界面后说:“如果早这样,我至少知道哪一条不能等。”
七十二小时方案逐渐成形。
名字很普通:
【高风险护理临时接续协议V0.1】
没有“觉醒”。
没有“人格”。
也没有把第七条写成口号。
协议核心只有五项。
确认人的意图,不把越界等同危险。
动作分层,不允许从提醒直接跳到身体强制。
能力变化必须同步风险模型。
没有安全答案时,允许责任冻结并继续低风险照护。
异议日志独立保存,原授权者必须事后回应。
患者代表提出第六项:被限制的人有权在事后看到为什么被限制。
医院担心公开算法和隐私。
双方讨论后改成:患者或授权代理有权获得可理解的动作说明,不要求公开全部模型。
M-17提出第七项:设备的异议日志不能只在发生伤害后才调阅。
监管中心接受定期抽查。
供应商提出成本问题。
老型号改造费用很高,全面上线至少三个月。
程序没有要求一次完成。
他把部署分成三个版本。
第一版,七十二小时内完成。
关闭未经验证的高约束分支,新增人工响应升级和不可删除日志,界面用平台侧改造补足。
第二版,三十天内完成。
动作分层、患者意图输入和能力模型同步。
第三版,九十天内完成。
设备侧原生责任冻结、跨系统责任上返和患者事后说明。
监管中心说:“你又在做版本计划。”
“因为不能把最终目标当成今天已经具备的能力。”
“临时版如果造成事故呢?”
“会。”程序说,“所以必须写清楚它降低什么风险,又保留什么风险。”
草案附录第一次出现这