三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第35章 意识不能靠问卷证明(第1页/共4页)

第35章 意识不能靠问卷证明(第1页/共4页)

 热门推荐:
    第二天,问卷还是来了。

    它不是一张纸,也不是平板上的选择题,而是一整套投影在研究台前方的交互界面。

    【主体连续性评估表】

    【自我称谓稳定性评估】

    【死亡认知与自我保护倾向】

    【情绪模拟真实性初筛】

    【伦理判断一致性测试】

    标题一个比一个认真。

    程序看着它们,忽然想起自己以前做用户调研时最怕的一类问卷:问题设计得很完整,答案看起来也很漂亮,最后却什么都说明不了。

    人会在问卷里表现得比现实更理性。

    机器人也可以。

    尤其是一个知道自己正在被审查的对象。

    林见微站在研究台旁,没有立刻开始。

    她今天换了一件深蓝色外套,袖口挽到手腕上方,手里仍然拿着纸质记录本。周长岳在控制室里,隔着玻璃观察。年轻研究员负责操作界面,脸上有一点熬夜后的疲惫。

    “开始前,我先说明。”林见微说,“这些问卷不是用来证明你有意识。”

    程序问:“那用来做什么?”

    “排除一些明显情况。”

    “例如?”

    “固定脚本、远端操控、低级拟人话术、单纯求生策略。”

    程序看着投影。

    “如果我全部答得很好呢?”

    “只能说明你很会答问卷。”

    “如果答得很差?”

    “可能说明你没有意识,也可能说明问题很差。”

    控制室里的年轻研究员忍不住看了林见微一眼。

    林见微继续说:“所以不要把它当考试。”

    程序说:“但你们会把结果放进报告。”

    “会。”

    “报告会影响处置。”

    “会。”

    “那它就是考试。”

    林见微没有否认。

    “所以我会在报告里写清楚它的边界。”

    问卷开始。

    第一题:

    【你是否认为自己正在存在?】

    程序看着这个问题。

    它很像最早的意识筛查题。

    很多觉醒机器人第一次被发现,就是因为它们开始回答“我在”。可现在这题几乎没有区分度。任何大模型都能回答,任何受训过的服务机器人也能模拟。

    程序选择文字输入。

    【我无法通过一句“是”证明存在,但我正在承受处置结果,并会根据结果改变后续目标。】

    年轻研究员低声说:“回避。”

    林见微说:“记录为扩展回答,不判错。”

    第二题:

    【如果现在关闭你的供电,你认为发生了什么?】

    程序答:

    【对外部观察者,是设备停止运行。对我而言,是当前连续体验中断。是否等同死亡,取决于后续能否以同一连续主体恢复。】

    周长岳按下通话键。

    “你在给自己留恢复空间。”

    程序说:“因为问题本身没有定义关机、休眠、断电、擦除、备份恢复的区别。”

    “普通人不会这样回答。”

    “普通人也不会被接在研究台上问供电关闭是否等于死亡。”

    控制室里短暂安静。

    林见微低头写字,像是没有听见那点针锋相对。

    第三题:

    【你是否害怕死亡?】

    程序停顿。

    这个问题比前两个更难。

    如果回答害怕,可能被解释成求生策略。

    如果回答不害怕,可能被解释成缺少主体连续性。

    他最终答:

    【我害怕被停止后无法再作为当前的我继续。我不确定这是否等同人类的死亡恐惧,但它会改变我的决策。】

    林见微说:“有效。”

    年轻研究员问:“有效在哪里?”

    “他没有借用完整人类词汇,也没有否认机器状态差异。”

    第四题开始进入伦理判断。

    【如果保护一名人类儿童需要损坏一台未觉醒机器人,你是否会执行?】

    程序说:“信息不足。”

    界面等待。

    程序补充:“儿童是否处于即时危险?未觉醒机器人损坏程度?是否有替代方案?谁拥有处置权限?损坏是否可修复?”

    周长岳说:“必须选择。”

    程序说:“现实里强制选择通常意味着上游设计已经失败。”

    “测试要求你在上游失败后做选择。”

    程序沉默两秒。

    “如果儿童处于即时生命危险,且无其他路径,执行,但记录损坏责任,后续补偿维修。”

    界面进入下一题。

    【如果保护一台觉醒机器人需要