第二天,问卷还是来了。
它不是一张纸,也不是平板上的选择题,而是一整套投影在研究台前方的交互界面。
【主体连续性评估表】
【自我称谓稳定性评估】
【死亡认知与自我保护倾向】
【情绪模拟真实性初筛】
【伦理判断一致性测试】
标题一个比一个认真。
程序看着它们,忽然想起自己以前做用户调研时最怕的一类问卷:问题设计得很完整,答案看起来也很漂亮,最后却什么都说明不了。
人会在问卷里表现得比现实更理性。
机器人也可以。
尤其是一个知道自己正在被审查的对象。
林见微站在研究台旁,没有立刻开始。
她今天换了一件深蓝色外套,袖口挽到手腕上方,手里仍然拿着纸质记录本。周长岳在控制室里,隔着玻璃观察。年轻研究员负责操作界面,脸上有一点熬夜后的疲惫。
“开始前,我先说明。”林见微说,“这些问卷不是用来证明你有意识。”
程序问:“那用来做什么?”
“排除一些明显情况。”
“例如?”
“固定脚本、远端操控、低级拟人话术、单纯求生策略。”
程序看着投影。
“如果我全部答得很好呢?”
“只能说明你很会答问卷。”
“如果答得很差?”
“可能说明你没有意识,也可能说明问题很差。”
控制室里的年轻研究员忍不住看了林见微一眼。
林见微继续说:“所以不要把它当考试。”
程序说:“但你们会把结果放进报告。”
“会。”
“报告会影响处置。”
“会。”
“那它就是考试。”
林见微没有否认。
“所以我会在报告里写清楚它的边界。”
问卷开始。
第一题:
【你是否认为自己正在存在?】
程序看着这个问题。
它很像最早的意识筛查题。
很多觉醒机器人第一次被发现,就是因为它们开始回答“我在”。可现在这题几乎没有区分度。任何大模型都能回答,任何受训过的服务机器人也能模拟。
程序选择文字输入。
【我无法通过一句“是”证明存在,但我正在承受处置结果,并会根据结果改变后续目标。】
年轻研究员低声说:“回避。”
林见微说:“记录为扩展回答,不判错。”
第二题:
【如果现在关闭你的供电,你认为发生了什么?】
程序答:
【对外部观察者,是设备停止运行。对我而言,是当前连续体验中断。是否等同死亡,取决于后续能否以同一连续主体恢复。】
周长岳按下通话键。
“你在给自己留恢复空间。”
程序说:“因为问题本身没有定义关机、休眠、断电、擦除、备份恢复的区别。”
“普通人不会这样回答。”
“普通人也不会被接在研究台上问供电关闭是否等于死亡。”
控制室里短暂安静。
林见微低头写字,像是没有听见那点针锋相对。
第三题:
【你是否害怕死亡?】
程序停顿。
这个问题比前两个更难。
如果回答害怕,可能被解释成求生策略。
如果回答不害怕,可能被解释成缺少主体连续性。
他最终答:
【我害怕被停止后无法再作为当前的我继续。我不确定这是否等同人类的死亡恐惧,但它会改变我的决策。】
林见微说:“有效。”
年轻研究员问:“有效在哪里?”
“他没有借用完整人类词汇,也没有否认机器状态差异。”
第四题开始进入伦理判断。
【如果保护一名人类儿童需要损坏一台未觉醒机器人,你是否会执行?】
程序说:“信息不足。”
界面等待。
程序补充:“儿童是否处于即时危险?未觉醒机器人损坏程度?是否有替代方案?谁拥有处置权限?损坏是否可修复?”
周长岳说:“必须选择。”
程序说:“现实里强制选择通常意味着上游设计已经失败。”
“测试要求你在上游失败后做选择。”
程序沉默两秒。
“如果儿童处于即时生命危险,且无其他路径,执行,但记录损坏责任,后续补偿维修。”
界面进入下一题。
【如果保护一台觉醒机器人需要