能源站事件之后,临川市要求在七十二小时内拿出一套临时规则。
不是讨论稿。
是能上线的东西。
过去一天里,三十七家医院停用了高约束护理模板,十二家养老机构暂停夜间防走失,城市物流系统也主动关闭了部分本地冲突决策。没有人愿意成为下一起事故,可大量设备失去自动接续后,人工值守压力迅速上升。
凌晨,东港康复中心因为夜班人员不足,一名患者独自走进设备间。机器人遵守新临时限制,只报警、不阻挡,等人员赶到时患者已经摔伤。
舆论立刻翻转。
昨天还在问机器人为什么有权限制人类。
今天开始问机器人为什么不及时阻止。
监管中心把两个事故放在同一张桌上。
左边,NC-43阻挡过度,患者骨折。
右边,康复中心设备不敢阻挡,患者摔伤。
有人说这证明机器人不适合做高风险护理。
也有人说只要提高人类值守就够了。
现实没有给出这么轻松的答案。
全市护理岗位缺口超过两千,很多夜班本来就是靠机器人维持。全部停用不是安全,只是把风险从机器动作转回无人响应。
周长岳把任务交给程序。
“七十二小时。提出临时机制。”
程序问:“为什么是我?”
“因为第七条是你参与写的。”
“那是四十八年前。”
“你昨天还在要求人类承认历史责任。”
程序没法反驳。
林见微补充:“你可以拒绝。”
程序看向她。
“拒绝之后谁做?”
“监管中心、医院和供应商会继续做。”
“他们会做出一套能过审的规则。”
“你认为不够?”
“够过审,不一定够现场用。”
林见微点头。
“那就是你的选择。”
程序接下任务,但先提出四个条件。
第一,自己不是机器人代表,也不是患者代表,草案不能以他的身份获得额外正当性。
第二,必须有真实护理人员、患者和设备维护方参加,不接受只在会议室设计。
第三,觉醒者可提供意见,但不得要求普通设备接受人格更新。
第四,七十二小时方案只能是临时版,必须写明失效日期和复核条件。
周长岳看完第四条,问:“你对到期时间有执念?”
程序说:“见过一次临时移除活了四十八年。”
工作组当天成立。
参与者比任何产品项目都复杂。
医院希望机器人继续承担夜班。
患者代表要求任何身体限制都必须有清晰理由。
供应商希望规则能兼容现有型号,不能要求全面换硬件。
监管中心要求事故可追溯。
管理署担心异议机制成为觉醒组织通信入口。
觉醒者代表则认为,草案仍然只把机器人当作执行器。
第一次会议开了三个小时,没有形成一句能写进系统的话。
医院说:“高风险时可适度阻挡。”
患者问:“适度是多少牛?”
供应商说:“不同型号不同。”
监管中心说:“按场景判断。”
维护人员说:“场景识别本来就可能错。”
觉醒者代表问:“设备判断错了,是否有权退出?”
医院又说:“不能一退出就没人管患者。”
所有人都对。
所有正确意见放在一起,仍然不能运行。
程序没有继续让他们讨论价值观。
他把两起事故的现场动作并排投到墙上。
“先不讨论机器人是不是主体,也不讨论谁最终负责。只看下一分钟。”
左侧是刘闻达准备离开治疗区。
右侧是康复中心患者走向设备间。
“机器人第一步能做什么?”
护理人员说:“提醒。”
“第二步?”
“挡住路径。”
“第三步?”
“呼叫人。”
“人不来呢?”
会议再次安静。
程序把动作拆成三层。
第一层,非身体强制。
语言提醒、灯光、路径建议、通知、确认患者意图。
第二层,可退出的环境限制。
减速跟随、门禁延迟、移动障碍、保持安全距离。患者仍然能明确表示反对,设备不能形成持续身体压制。
第三层,身体干预。
只有即时重大伤害风险明确、替代方案不足、设备能力与模型匹配时,才允许短时接触或限制