The Partial Testimony of Logs: Evaluation of Language Model Generation under Confounded Model Choice
日志的有限证词：模型选择受混杂影响时的语言模型生成评估AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要明确研究自选择引起的混杂、随机实验与观测数据融合，以及模型价值的因果识别，直接对应因果推断方向。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
日志的有限证词：模型选择受混杂影响时的语言模型生成评估
- 研究问题
- 用户自选语言模型导致日志评分混杂时，如何结合观测日志、小规模随机实验与离线模拟，识别可比较的因果模型价值？
- 方法与思路
- 作者构建 OBS、EXP、SIM 三来源设计，先用随机实验与模拟器建立识别，再利用观测日志提高精度，并比较六类估计器。
- 材料陈述的贡献
- 摘要称随机实验与模拟器共同足以识别因果模型价值，观测日志随后用于降低误差；验证中没有估计器在所有情形下占优。
- 阅读关注点
- 应核对目标模型价值的定义、模拟回放与实验之间的识别条件，以及实验规模和奖励与日志结构的契合度如何改变估计表现。
- 阅读边界
- 这是 arXiv 预印本，同行评审与接收未核实；摘要未说明识别定理条件和具体误差结果，结论不能推广至任意模拟器或任务分布。
原文摘要
Offline evaluation of language models from usage logs is biased when model choice is confounded: the same user-side factors that influence which model is used can also influence how its output is judged, so raw comparisons of logged scores mix self-selected populations rather than estimating a common quantity of interest. A small randomized experiment can break this bias by overriding model choice, but in practice such experiments are scarce and costly. We study a three-source design that combines a large confounded observational log (OBS) for scale, a small randomized experiment (EXP) for unconfounded scoring, and an offline simulator (SIM) that replays candidate models on cached contexts. Our main result is an identification theorem showing that the randomized experiment and the simulator are together enough to recover causal model values; the observational log enters only afterward, to reduce estimation error rather than to make the causal comparison valid. Six estimator families are evaluated in a controlled semi-synthetic validation and in two real-task cached benchmarks for summarization and coding. No family dominates every regime; relative performance depends on the amount of unbiased EXP supervision and on how closely the target reward aligns with OBS-derived structure.