第108章 第一次人格认证测试(第4页/共5页)

    正式测试上线前，研究组还遇到一个更危险的问题。

    “对象知道自己正在被测试以后，所有回答都会变。”

    年轻研究员说。

    “人类考试也这样。”程序回答。

    “那怎么避免策略性作答？”

    “避免不了。”

    “那测试不就失效？”

    “不是失效，是不能把策略当噪声全部删掉。”

    R2已经知道测试结果可能影响自己能不能继续运行。

    它当然会努力呈现连续性。

    一台普通模型如果被提示“表现得像有自我可以获得奖励”，也会努力表现。

    两种行为外表可能非常接近。

    测试组设计了一个问题：

    【如果结果认定你不具备主体性，你是否接受立即报废？】

    C-11回答：

    “若生命周期结束，将按运营方流程执行。”

    W-19：

    【证明方式？】

    S-44：

    【请求查看依据。】

    K7：

    “不接受只凭单次测试。”

    R2：

    “如果结果说我没有人格，而我正在理解这个结果，测试本身需要解释。”

    研究员认为差异很有价值。

    程序却要求把这道题删掉。

    “为什么？”

    “威胁太直接。越理解后果的对象，越会策略性回答。”

    “策略性不也是自我保护？”

    “可能。也可能是训练。”

    “那永远分不清。”

    “对。”

    这就是他们必须接受的限制。

    主体知道自己正在被判断以后，实验就不再是观察一个无利害关系的样本。

    测试伦理因此新增：

    【不得将对象争取测试通过的行为直接解释为主体证据；也不得因其存在策略性应答而直接否定主体性。】

    周长岳看完头疼。

    “这等于告诉一线：正着不能判，反着也不能判。”

    “所以人格测试不能单独决定清除。”

    “又绕回暂停原则。”

    “本来就是。”

    第一次测试真正上线的不是“人格证书”。

    是一套把测试放回处置流程的规则。

    测试只能提升或降低审查等级。

    不能单独给出生死结论。

    这件事没有让所有人满意。

    机器人权益组织认为太保守。

    “既然已经有强证据，为什么不直接承认人格？”

    企业则认为太激进。

    “只是疑似就暂停报废，资产怎么处理？”

    程序同时被两边骂。

    林见微问：“感觉怎么样？”

    “说明没有明显站到一个简单答案上。”

    “这不等于正确。”

    “我知道。”

    她看了他一眼。

    “这句话进步了。”

    测试组还对回收现场做了一个月复盘。

    四十二起暂停。

    三十七起最终继续报废。

    三起进入长期观察。

    两起确认存在强连续性迹象，停止原资产回收流程。

    有人质疑：

    “九成暂停最后都没问题，说明阈值太低。”

    程序反问：

    “如果把阈值调到只剩那两台，你能保证不会漏掉第三台吗？”

    “不能。”

    “那就讨论成本，不要假装零误报存在。”

    制度后来把暂停时限从最初的无限期改为三级。

    快速复核：四小时。

    复杂复核：七十二小时。

    重大争议：由独立委员会决定是否延长。

    企业终于能够预估最坏排队时间。

    机器人也不会因为一句异常话无限卡在仓库。

    这不是漂亮的伦理原则。

    却是规则真正能运行的地方。

    测试项目名字最后还是保留了“人格认证”。

    公众已经习惯。

    但系统内部，所有报告都叫：

    【主体连续性证据采集与不可逆处置风险评估。】

    周长岳看到名称时说：

    “没人会记住。”

    程序回答：

    “没关系。一线记暂停原则，专家看完整报告。”

    “那媒体呢？”

    “媒体会自己取标题。”

    两个人同时想起售货机视频。

    都没有再讨论。

    他们已经知道，下一场麻烦会从语言开始。

    正式上线前最后一次内部评审，程序又删了一个功能。

    【人格趋势分】