三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第60章 机器人责任听证会(第1页/共7页)

第60章 机器人责任听证会(第1页/共7页)

 热门推荐:
    听证会开始前二十分钟,觉醒机器人代表席仍然是空的。

    会场设在临川公共监管中心二号厅,比第一次公开对话更正式,也更冷。主屏幕没有城市宣传画面,只显示案件编号、听证范围和一张不断刷新的证据目录。

    【议题一:CP-H07-4C-于2084年S19事件中的行为责任】

    【议题二:NC-43护理机器人近期伤人争议及部署责任】

    【议题三:高风险自主设备的异议权、执行责任与连续运行保护】

    三件事被放在一起。

    程序并不喜欢这种安排。

    老案和新案的场景不同,H07没有伤人,NC-43也没有保存儿童记忆。一个发生在三年前的儿童医院,一个发生在养老机构。把它们合并,容易制造一种错觉:所有机器人异常都是同一个问题。

    可监管委员会给出的理由也很现实。

    公众不按学术分类理解事件。

    他们看到的是:机器人不服从命令、机器人做出自主判断、机器人造成或可能造成不可逆后果。

    如果制度要回应,就必须面对这些共通部分。

    程序的座位被安排在证人区,不在专家席,也不在被追责主体席。

    临时未分类身份让会务系统折腾了十几分钟。

    最初打印出的桌牌写着“设备代表”。林见微让人撤掉。

    第二版写“特殊样本”。程序自己要求撤掉。

    最后只剩名字。

    【程序】

    没有身份前缀。

    这反而最准确。

    周长岳坐在管理署席位,林见微在技术专家席。顾岚和许闻隔着两个位置坐下,彼此没有交谈。NC-43所属养老机构派来了运营负责人和当班护理员。厂商席则有两家公司:启明机器人负责H07历史系统,澄海照护负责NC-43当前平台。

    听证主持人是一名五十岁左右的女性,姓秦,来自城市公共技术监管委员会。

    她开场没有说“今天我们要寻找真相”。

    她说的是:“今天不保证得到一个可以让所有人满意的责任人。”

    会场安静。

    “我们需要回答的,是在多个主体、多个系统共同参与决策时,责任如何被拆分,哪些责任不能被技术名词掩盖,以及未来什么错误不能再重复。”

    程序听到这里,觉得至少开头没有走偏。

    第一部分先处理S19事件。

    顾岚被要求重新确认自己下达过“立即执行缓存清理,设备返回充电”的指令。

    她确认。

    监管委员问:“该指令在当时是否合法?”

    医院法务代表回答:“依据2084年未成年人医疗数据规则,在监护授权发生冲突且数据未完成正式归档时,责任医师有权要求临时陪护设备清除未授权副本。”

    “所以顾医生没有错?”

    法务代表明显停顿了一下。

    “从授权权限看,她有权下达。”

    秦主持人追问:“我问的不是有没有权,我问的是有没有错。”

    法务代表谨慎回答:“需要结合当时可选路径。”

    顾岚自己接过话。

    “有错。”

    法务席转头看她。

    顾岚没有回避镜头。

    “我当时可以先冻结数据,等待伦理复核。我没有选择,因为我希望病区尽快恢复秩序。”

    秦主持人问:“你是否知道H07两次请求复核?”

    “第一次不知道,第二次知道。”

    “第二次仍要求执行?”

    “是。”

    “理由?”

    “我认为机器人不应在病区对医疗责任人的合法命令持续提出异议。”

    会场里有人轻轻吸气。

    这句话在今天听来很危险。

    但在2084年,它可能是绝大多数人的常识。

    秦主持人没有评价,只让证据系统调出H07当时的权限表。

    屏幕上出现第七条规则被临时撤除的时间。

    02:09:04。

    随后是两次复核失败。

    02:10:12。

    02:10:14。

    许闻被请到发言位。

    “EC-GATEWAY复合策略由你批准上线?”

    “是。”

    “你知道它会在‘隐私违规+拒绝返充’组合事件下提高控制等级?”

    “知道。”

    “知道会撤掉复核等待?”

    “知道规则效果,但当时认为五分钟内风险可控。”

    “依据?”

    许闻翻开那本旧安全事件册。

    他讲了另一家医院急救通道事故。

    机器人因等待人工复核,低电倒在抢救通道,造成四十八