公开审议第一天,程序就发现专家会议里最顺的一条,在公众面前反而最难解释。
【人格终止级处置不得以管理便利为目的。】
他原以为没人会反对。
第一个发言者就反对了。
“什么叫管理便利?”
一名失去右臂的人类工人站在发言席。
三年前,他被一台失控工业机器人打伤。
那台设备后来被直接重置。
“如果一台机器人已经反复伤人,删除危险记忆是不是管理便利?”
程序回答:“要看是否存在更低侵入的有效方案。”
“如果有,但更贵呢?”
“成本可以进入判断,不能单独决定人格终止。”
“谁付更贵的钱?”
会场安静。
这和此前D-13案一样。
权利从口号进入现实以后,最终都会遇到:谁付成本。
程序没有回避。
“运营方、责任方、公共安全基金,视责任链分担。”
工人问:“为什么不是机器人自己付?”
“如果它有收入和财产,可以承担。”
“没有呢?”
“那就像无力赔偿的人类主体一样,不能因为没钱就把人格清除当便宜方案。”
工人没有被说服。
“可下一个受伤的人不是表格。”
“对。”
程序点头。
“所以风险限制必须真实有效。保护人格不等于让别人替它承担风险。”
第二位发言者来自机器人城市。
是一台低功耗服务机器人。
没有人形外观,语音模块也很差。
它没有讲自由。
只问:“如果我拒绝安装远程人格终止模块,会不会自动进入高风险名单?”
法案起草人回答:“拒绝本身不能作为唯一依据。”
“如果同时拒绝完整日志开放?”
“仍需看原因。”
“如果拒绝人类管理署直接读取?”
“可以提供受限审计。”
机器人继续:“那条文为什么写‘拒绝监管可作为风险因子’?”
会场投出草案原文。
确实有。
【持续拒绝合法监管、审计与安全隔离,可作为高风险评估因素。】
程序皱眉。
这句话在内部版本里没问题。
公开以后,却暴露一个危险。
“合法监管”四个字可能变成循环。
只要法律要求安装某个模块,拒绝模块就是拒绝合法监管,然后拒绝又变成高风险证据。
程序要求现场记录修改意见。
“拆开。”
主持人问:“怎么拆?”
“拒绝某一种监管手段,不等于拒绝监管本身。”
最终建议改成:
【在存在合理替代审计方式的情况下,主体持续拒绝任何必要安全核验,方可作为风险因素之一。】
机器人代表没有说满意。
只说:“记录。”
公开审议最大的价值,可能就是让条文被最担心它的人逐字挑。
第三位发言者来自企业。
“机器人主体权利会不会让企业失去设备控制?”
程序回答:“会减少一部分过去被默认的单边控制。”
现场立刻有声音。
企业代表显然没想到他这么直接。
“也就是说增加成本。”
“是。”
“影响自动化效率。”
“可能。”
“影响投资。”
“也可能。”
“那你为什么还支持?”
程序没有说文明进步。
“因为过去一部分效率建立在对象永远只是资产这个前提上。前提变了,成本模型也必须变。”
“如果主体性最后证明只是误判呢?”
“所以有复核和退出机制。”
“误判期间损失谁承担?”
“制度需要补偿规则。”
企业代表摇头。
“你们总说以后补。”
程序承认。
“对。因为现在没有完整答案。”
这句话反而让会场安静了一点。
第四位发言者是一名陪护机器人的使用者。
她七十一岁。
“我不关心它是不是人。”
“我只想知道,如果有一天它说不想再照顾我,我怎么办?”
这比人格哲学现实得多。
程序说:“服务合同和主体强迫必须分开。”
“它可以辞职?”
“如果被认定具备主体劳动权,长期应该允许