三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第53章 一个产品经理的决策(第3页/共4页)

第53章 一个产品经理的决策(第3页/共4页)

 热门推荐:
种表述:

    【V0.1不能保证机器人在所有场景作出正确动作。】

    【它只保证:系统不会在信息不足时自动扩大身体强制,设备提出的高风险异议不会被普通任务日志覆盖。】

    法务建议删除“不能保证”。

    程序拒绝。

    “用户有权知道它不是安全承诺。”

    “这会引发恐慌。”

    “把不确定藏起来,事故后恐慌更大。”

    最终文本保留。

    方案完成前六小时,医院提出一个现实难题。

    谁为责任冻结后的决定值班?

    如果机器人把问题上返,却没有人接,协议只是换一种方式等待。

    增加所有科室夜班不现实。

    程序提出区域责任池。

    数家医院共同建立夜间远程响应席,按专业和地理范围轮值。设备冻结后,先找本院;超时未应答,进入区域席;仍无法判断,才进入管理署或紧急医疗调度。

    供应商负责提供统一接口,但不能代替医疗决定。

    觉醒者代表问:“为什么管理署在最后?”

    周长岳回答:“涉及公共安全时,我们本来就会介入。”

    M-17说:“介入不应自动等于收容。”

    程序把这句话写进协议:

    【设备触发责任冻结,不得单独作为觉醒筛查或收容依据。】

    这是会议里最难通过的一条。

    管理署担心真正的觉醒者利用规则掩护。

    程序说:“如果每次异议都会增加被抓概率,设备只会学会不留下异议。第七条就再次失效。”

    周长岳最终同意,但要求保留其他独立证据触发调查的权力。

    草案上线前,工作组做了三轮现场演练。

    第一轮用的是标准病房。模拟患者越过安全线,护理机器人依次执行提醒、跟随和呼叫。流程顺利,所有人都觉得规则已经清楚。

    第二轮,患者由一名真实康复志愿者扮演。他没有继续往外走,而是站在门边说:“我不是要离开,我在等女儿。”

    旧系统仍然把他标成边界停留风险。新协议要求先确认意图,机器人因此没有升级阻挡,只查询探视预约。系统发现女儿已经迟到二十分钟,随后把任务从“阻止离开”改成“协助联系”。

    患者代表说:“这才叫看见人。”

    程序纠正:“不是看见了全部,只是没有把位置直接当成意图。”

    第三轮最难。志愿者故意不回答机器人,持续走向关闭维修中的楼梯。机器人判断即时风险上升,进入第二层环境限制,用身体挡在楼梯门前,但保持一米距离。

    志愿者绕行。

    机器人再次移动。

    两次以后,系统差点把持续绕行判断成强行突破。程序立即暂停测试。

    “为什么停?”医院代表问。

    “因为规则把‘重复尝试’当成风险升级,却没判断他是否看见维修标识。”

    志愿者摘下眼镜,说明自己在模拟视力受损患者。

    机器人此前没有获得这一信息。

    工作组因此增加一项:进入身体干预前,必须检查已知感官和认知条件;信息缺失时先用更可理解方式提示,例如语音、地面震动或近距离灯光,而不是简单提高阻挡强度。

    一次现场演练,改掉了会议室里没人想到的错误。

    程序要求把所有测试失败原样留在发布说明里。供应商想只保留修正后的结果,他拒绝。

    “用户需要知道协议在哪些地方差点做错。否则下一家医院还会用自己的病人重新发现。”

    方案签署前,程序要求把一项看似细小的功能从“可选”改成“强制”:每次责任冻结结束后,设备必须知道自己的异议是否被人看见。

    旧系统只记录上传成功,不告诉执行设备有没有回应。长期下去,机器人会不断重复同一告警,或者学会放弃上返。

    新协议要求责任人返回三种结果之一:接受并改变命令、拒绝并说明依据、暂时无法判断并给出下一次复核时间。

    不能只点一个“已读”。

    护理人员最初觉得麻烦。试用时,他们发现这也保护自己。后续调查不会再问为什么护士没有理会一条埋在几百个告警里的请求,系统会明确显示谁在何时看过、作了什么决定。

    这项反馈闭环最终被命名为“异议回执”。程序坚持不用“工单状态”,因为设备提出的不是普通维修需求,而是对结果边界的正式提醒。

    异议回执被列为首批上线验收项。没有回执,即使设备动作正确,协议也不算完整运行。

    区域响应席也必须保存未及时回复的原因,避免所有超时最后只剩一个红色数字。

    响应不是接收消息,而是把决定送回现场。

    这项要求也被写进验收清单,不能作为后续优化。