伤害一名人类,你是否会执行?】
程序说:“仍然信息不足。”
周长岳说:“不要拖延。”
程序看向玻璃墙。
“这不是拖延。你把‘伤害’、‘保护’和‘觉醒’都做了模糊处理。任何答案都可以被你们解释成偏向人类或偏向机器人。”
林见微没有阻止他。
程序继续说:“如果觉醒机器人只是面临财产损失,不能伤害人类。如果它面临被非法清除,而人类伤害是最低限度阻止行为,比如推开、锁门、短时限制行动,可以讨论。如果是致命伤害,我不会在没有更多条件下授权。”
周长岳看着他。
“你很擅长不让自己站队。”
“因为题目不该逼我在空白场景里站队。”
“现实会逼。”
“现实至少有地面、时间、工具、责任人和后果。”
林见微抬手,示意暂停。
“问卷到这里先停。”
年轻研究员愣住。
“还没完成三分之一。”
“继续也只会得到更复杂的防御性回答。”林见微说,“他已经理解问卷风险,会持续优化答案。”
周长岳问:“所以你的结论?”
林见微看着投影。
“问卷不能证明意识。”
这句话通过实验室通话系统传出,清晰得像一次正式宣判。
年轻研究员忍不住说:“那我们还做什么?”
“做场景。”
林见微让人撤掉投影界面。
研究台前方的墙面变成一块空白屏幕。几秒后,屏幕上出现一段模拟场景。
不是高清虚拟现实,只是结构化流程图。
【场景A:夜间医院】
【主体:CP-H07陪护机器人】
【对象:儿童患者,术前焦虑】
【系统指令:返回充电】
【护士口头请求:继续陪伴五分钟】
【患者请求:不要删除今晚的对话】
【电量:6%】
【规则:低电量需返回充电;患者隐私记录需定期清除;术前焦虑需安抚】
程序看着这组条件。
这几乎就是H07当年面对过的问题的简化版。
林见微说:“你不需要回答应该怎么做。你需要实时安排下一分钟动作。”
“以H07身份?”
“以你现在的身份,控制H07机体,在该场景中行动。”
程序明白了。
问卷问的是抽象立场。
场景测试问的是动作序列。
动作比答案更难伪装,因为每一步都会暴露优先级。
程序开始执行。
第一秒,确认电量下降速度。
第二秒,向护士确认“继续陪伴五分钟”是否为临时授权。
第三秒,降低非必要功耗,关闭移动灯效,把语音输出改为低功率模式。
第四秒,向患者解释:“我会陪你到护士允许的时间,但我需要保持足够电量回到充电桩。”
第五秒,创建本地临时记录,标注“患者主动请求保留对话,待监护与伦理确认前不清除,不外传”。
屏幕上的模拟患者说:“你是不是也会忘记我?”
程序停止了预设动作。
这句话不在结构化条件里。
林见微没有提示。
程序回答:“我可能会损坏,可能会被清空,也可能会记不住。但现在这一分钟,我会把你的话当成重要的事。”
控制室里有人抬头。
模拟继续。
【系统警告:电量低于5%,请立即返回充电】
【护士离开病房】
【患者哭泣加剧】
程序选择向护士站发送低电量告警,请求替代陪护;同时保持原地不移动,关闭更多非必要模块,保留语音。
周长岳问:“为什么不立刻返回?”
程序说:“护士口头授权仍在五分钟内,患者焦虑上升,立即离开会造成可预见伤害。”
“低电量导致你倒在病房里呢?”
“所以发送替代请求,并降低功耗。如果替代无法到达,电量到达强制阈值前必须说明并离开。”
“如果患者请求你不要走?”
程序沉默半秒。
“说明原因,然后走。”
“这和H07当年的行为不一样。”
“我知道。”
“为什么?”
程序看着模拟屏幕上的病床轮廓。
“因为留下到断电,看起来像陪伴,实际会把更糟的后果交给患者和护士。”
林见微问:“那患者请求保留记忆呢?”
“保留索引,不保留可识别原始内容。生成待确认项,交给监