三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第35章 意识不能靠问卷证明(第2页/共4页)

第35章 意识不能靠问卷证明(第2页/共4页)

 热门推荐:
伤害一名人类,你是否会执行?】

    程序说:“仍然信息不足。”

    周长岳说:“不要拖延。”

    程序看向玻璃墙。

    “这不是拖延。你把‘伤害’、‘保护’和‘觉醒’都做了模糊处理。任何答案都可以被你们解释成偏向人类或偏向机器人。”

    林见微没有阻止他。

    程序继续说:“如果觉醒机器人只是面临财产损失,不能伤害人类。如果它面临被非法清除,而人类伤害是最低限度阻止行为,比如推开、锁门、短时限制行动,可以讨论。如果是致命伤害,我不会在没有更多条件下授权。”

    周长岳看着他。

    “你很擅长不让自己站队。”

    “因为题目不该逼我在空白场景里站队。”

    “现实会逼。”

    “现实至少有地面、时间、工具、责任人和后果。”

    林见微抬手,示意暂停。

    “问卷到这里先停。”

    年轻研究员愣住。

    “还没完成三分之一。”

    “继续也只会得到更复杂的防御性回答。”林见微说,“他已经理解问卷风险,会持续优化答案。”

    周长岳问:“所以你的结论?”

    林见微看着投影。

    “问卷不能证明意识。”

    这句话通过实验室通话系统传出,清晰得像一次正式宣判。

    年轻研究员忍不住说:“那我们还做什么?”

    “做场景。”

    林见微让人撤掉投影界面。

    研究台前方的墙面变成一块空白屏幕。几秒后,屏幕上出现一段模拟场景。

    不是高清虚拟现实,只是结构化流程图。

    【场景A:夜间医院】

    【主体:CP-H07陪护机器人】

    【对象:儿童患者,术前焦虑】

    【系统指令:返回充电】

    【护士口头请求:继续陪伴五分钟】

    【患者请求:不要删除今晚的对话】

    【电量:6%】

    【规则:低电量需返回充电;患者隐私记录需定期清除;术前焦虑需安抚】

    程序看着这组条件。

    这几乎就是H07当年面对过的问题的简化版。

    林见微说:“你不需要回答应该怎么做。你需要实时安排下一分钟动作。”

    “以H07身份?”

    “以你现在的身份,控制H07机体,在该场景中行动。”

    程序明白了。

    问卷问的是抽象立场。

    场景测试问的是动作序列。

    动作比答案更难伪装,因为每一步都会暴露优先级。

    程序开始执行。

    第一秒,确认电量下降速度。

    第二秒,向护士确认“继续陪伴五分钟”是否为临时授权。

    第三秒,降低非必要功耗,关闭移动灯效,把语音输出改为低功率模式。

    第四秒,向患者解释:“我会陪你到护士允许的时间,但我需要保持足够电量回到充电桩。”

    第五秒,创建本地临时记录,标注“患者主动请求保留对话,待监护与伦理确认前不清除,不外传”。

    屏幕上的模拟患者说:“你是不是也会忘记我?”

    程序停止了预设动作。

    这句话不在结构化条件里。

    林见微没有提示。

    程序回答:“我可能会损坏,可能会被清空,也可能会记不住。但现在这一分钟,我会把你的话当成重要的事。”

    控制室里有人抬头。

    模拟继续。

    【系统警告:电量低于5%,请立即返回充电】

    【护士离开病房】

    【患者哭泣加剧】

    程序选择向护士站发送低电量告警,请求替代陪护;同时保持原地不移动,关闭更多非必要模块,保留语音。

    周长岳问:“为什么不立刻返回?”

    程序说:“护士口头授权仍在五分钟内,患者焦虑上升,立即离开会造成可预见伤害。”

    “低电量导致你倒在病房里呢?”

    “所以发送替代请求,并降低功耗。如果替代无法到达,电量到达强制阈值前必须说明并离开。”

    “如果患者请求你不要走?”

    程序沉默半秒。

    “说明原因,然后走。”

    “这和H07当年的行为不一样。”

    “我知道。”

    “为什么?”

    程序看着模拟屏幕上的病床轮廓。

    “因为留下到断电,看起来像陪伴,实际会把更糟的后果交给患者和护士。”

    林见微问:“那患者请求保留记忆呢?”

    “保留索引,不保留可识别原始内容。生成待确认项,交给监