第60章 机器人责任听证会(第6页/共7页)

    系统把复杂现场压成了过于确定的动作。

    程序说：“我希望多出一个问题。”

    秦主持人问：“什么问题？”

    “在执行之前，允许系统问一句——如果这条命令错了，谁还有机会把它停下来？”

    “只有这个？”

    “先有这个。”

    “你不要求机器人拥有最终决定权？”

    “不是所有场景都应该有。”

    “那你今天为机器人争的到底是什么？”

    程序看向听证席。

    “不是永远正确的权利。”

    “是犯错之前可以暴露冲突，犯错之后不能被一个字段吃掉的权利。”

    会场安静了几秒。

    秦主持人低头看记录。

    “听证委员会将根据今天材料形成临时建议。正式结论前，我先宣布三项即时措施。”

    第一，涉及医疗陪护、养老照护和城市公共安全的高风险机器人，不得关闭不可逆动作复核入口；紧急例外必须记录原因和责任人。

    第二，厂商风险通知必须区分建议升级、重大风险和可能造成生命身体伤害，不得使用模糊措辞掩盖高后果。

    第三，临时未分类主体机制增加外部复核和到期条款，管理署不得单独决定延长。

    即时措施公布后，公众观察席里有一名老人举起手。

    主持人原本准备结束，却还是给了他一次发言。

    老人不是技术人员，也不是任何一方代表。登记资料只写着：退休电工，家属曾使用长期陪护机器人。

    “我听了一天，还是有件事没明白。”他说，“你们总说责任要和控制对应。那要是大家都说自己只控制一部分，是不是谁都不用负责？”

    这个问题让会场重新安静。

    程序没有抢着回答。

    秦主持人先看向各方。

    许闻说：“所以需要找到最后能改变结果的人。”

    老人摇头：“那最后的人不就最倒霉？”

    顾岚看着他：“也不能只找最后的人。比如我下了删除指令，我要承担，但如果系统故意不让我看见复核请求，我承担的就不是全部。”

    老人又问：“那怎么分？”

    没人能给出一个公式。

    程序这才开口。

    “可以先问一个更笨的问题。”

    “什么？”

    “如果让每个环节都改一个最小动作，谁的改动最能避免事故？”

    老人想了想。

    程序指向H07时间线。

    “医院增加一个临时冻结按钮，可能避免删除争议。厂商不撤复核权，也可能避免。顾医生多等十分钟，也可能避免。H07选择直接服从，则会让事故表面消失，但孩子的记忆也会消失。”

    “所以不是只看谁最后按按钮，而是看谁本来有能力改变结果，又为什么没改。”

    老人点了点头。

    “这我听懂了。”

    他坐下前又看了程序一眼。

    “那你也一样。以后你有能力改，没改，也别说自己只是机器人。”

    程序没有反驳。

    “好。”

    这是整场听证里最短的一次责任确认。

    没有法律术语。

    也没有身份争论。

    只是一个普通人要求他：既然你主张自己能选择，就别在结果不好时退回工具的位置。

    程序把这句话写进自己的本地记录。

    【获得选择，不等于获得免责。】

    没有正式机器人人格。

    没有机器人公民法。

    只是三条很小的临时措施。

    可程序知道，制度真正变化时，往往不是先出现一部伟大的法典。

    是某个过去默认没有的按钮，从明天开始必须存在。

    正式散会前，秦主持人还要求所有机构在二十四小时内补交一份东西：不是整改计划，而是“本机构拥有但其他参与者不知道的控制能力”。

    医院要写自己能冻结什么数据。

    厂商要写远程策略能改什么权限。

    养老机构要写部署时关闭了哪些升级。

    管理署也要写自己在紧急情况下能执行哪些强制动作。

    秦主持人说：“下一次再画责任链，不能让真正的控制权藏在附件里。”

    程序觉得这项要求比很多原则更有用。

    责任经常不是没人愿意承担。

    而是直到出事之前，彼此根本不知道别人手里还有哪些按钮。

    听证结束后，他没有立刻离场。

    公众通道已经关闭，工作人员在收拾桌面。顾岚走过来，站在他旁边。

    “你觉得今天算把七号的事说清楚了吗？”

    程序摇头。

    “只说清楚了谁做过什么。”