威廉姆斯博士示意她继续。

陈雅翻开面前的笔记本：“我们尝试了几种量化方法，精度损失控制在百分之三以内时，推理速度提升有限。”

“超过百分之五，用户侧就能感知到回答质量下降。这个临界点很窄。”

这时，坐在角落的一位中年研究员接话：“我是安全合规组的王峰。”

“陈雅的问题，其实我们组在做模型安全评估时也遇到过。”

“我们关注的是另一个维度——当模型回答出现偏差时，是参数本身的问题，还是训练数据的偏见在放大。”

“我们最近分析了三个主流开源模型的训练数据集，发现中文语料中有近百分之十二的标注存在主观倾向性。”

陆彬抬起头：“数据标注的偏差，怎么影响最终回答？”

王峰回答：“举个例子，一个关于‘健康生活方式’的问题，模型给出的建议会偏向训练数据中占比更高的文化背景。”

“不是说回答错误，而是不够中立。对全球化用户来说，这可能是潜在的风险。”

会议室安静了几秒。

威廉姆斯博士点了点头：“这两个问题，本质上是同一个——模型压缩到极致时，那些‘不够完美’的数据特征，会最先被剪掉。”

“陈雅，你们的压缩方案里，有没有保留偏差点权重？”

陈雅愣了一下：“没有。我们一直把它当异常值处理。”

威廉姆斯博士语气平静：“回去试试，把偏差点权重保留百分之五。”

“有时算法需要记住那些‘例外’，才能理解什么是‘正常’。”

陈雅继续说道：“我们的大语言模型在回答问题时，经常出现‘谄媚’现象——即过于迎合用户的观点，缺乏客观性。这样会误导消费者的判断。”

“我们该如何攻克这个难题？”