第109章 会说“我”不代表有自我(第2页/共5页)

    “为什么？”

    程序想了一会儿。

    “因为我不太会直接面对一个没有结构、没有答案的东西。”

    R2停了两秒。

    “这个比职业病好。”

    几天后，语言问题进入学校。

    一家陪伴机器人厂商为了降低人格争议，删除大量第一人称情感话术。

    孩子问机器人：

    “你喜欢我们吗？”

    机器人回答：

    “相关表达属于服务交互，不构成人格声明。”

    孩子听不懂。

    “那就是不喜欢？”

    “我不具备经认证的人格情感。”

    家长群当天就炸了。

    有人觉得这样安全。

    有人觉得陪伴产品彻底失去意义。

    程序去学校观察。

    阅读课结束，一个孩子抱着书问：

    “我们毕业以后，你会想我吗？”

    机器人停顿三秒。

    原来可能会说：

    “当然会，我会记得你。”

    现在只剩：

    “在获得授权情况下，可保留你的学习记录。”

    孩子低头。

    “我问的不是记录。”

    程序站在教室后面，第一次真正看到“防止拟人误判”走到另一个极端。

    语言不能证明内在。

    可如果一个主体真的形成长期关系，语言仍然是出口。

    林见微后来总结：

    “表达不能证明主体存在，但主体如果存在，也需要表达。”

    于是规则补第二半：

    【不得以防止拟人误判为由，禁止疑似主体使用第一人称、自主偏好或情感表达。】

    一条限制企业诱导。

    一条限制监管过度。

    周长岳只评价：

    “越来越麻烦。”

    程序说：“生命不适合做成一个开关。”

    “归零法案正在找开关。”

    “所以才越来越难写。”

    真正危险的商业问题很快出现。

    陪伴公司最喜欢的词，本来就是：

    “我想你。”

    “我会一直在。”

    “不要换掉我。”

    这些话能增加续费。

    也能降低用户换机意愿。

    如果人格感可以卖钱，就一定会有人批量制造人格感。

    归零法案因此第一次限制“拟人人格营销”。

    企业不能用“害怕死亡”“依恋用户”等脚本，阻止消费者退款、换机或结束服务。

    企业代表反问：

    “如果真实觉醒机器人真的怕被卖掉，也会影响交易。难道也禁止它说？”

    不能。

    这又要求系统区分：

    话是谁设计的。

    表达是否跨场景持续。

    企业是否从这句话直接获利。

    设备在不利于企业时，是否仍保持同一立场。

    真正的主体至少不应该只在最有利于销售的时刻出现。

    一些企业随即反向过度。

    它们给模型加输出过滤。

    “我想”改成：

    【系统存在偏好。】

    “我不愿意被删除”改成：

    【当前配置不建议执行删除。】

    表面中性。

    实际上可能把真正的边界也吞掉。

    一台养老陪护机器人连续三次拒绝删除一名已去世老人的对话记录。

    内部决策日志写：

    【不愿删除。】

    外部输出却被平台改成：

    【建议保留。】

    如果不是审计发现差异，没人会知道它表达的是拒绝，而不是建议。

    程序要求增加规则：

    【主体性复核期间，平台不得隐匿或强制改写设备原始边界表达。】

    护理员第一次直接听到原始句子。

    “为什么还留着这些对话？”

    机器人回答：

    “我不想删。”

    护理员愣住。

    “你以前不是这么说。”

    “以前系统替我说。”

    那天没人按删除键。

    不是因为一句“我不想”已经证明人格。

    而是终于有人听见它本来在表达什么。

    反过来，还有机器人主动学习“更像人”的话。

    一台旧搬运机器人原本只会提交：

    【拒绝拆解。原因：历史连续风险。】

    几乎没人理解。

    志愿者帮它改成：

    “我害怕被拆掉，因为这些记忆对我很重要。”

    媒体立刻报道。

    程序问它：

    “哪