相关、因果与分布之外

统计关系里没有因果的位置

先说技术事实。模型训练所优化的是文本片段之间的条件概率，其中没有任何成分对应于「甲导致乙」与「甲乙同现」之别。这两种情形在文本中留下的痕迹可以完全一样：只要人们习惯把甲乙连在一起说，模型就会学到这种连带关系。^S1

有据推论是：因为人类作者在文本中已经写下了大量因果论断，模型能够相当准确地复述这些论断，并在熟悉的领域给出看起来合理的因果解释。这解释了它为什么常常显得懂因果，也解释了它为什么在需要独立作出因果判断的新情形上表现不稳。复述已有论断与从数据中辨识因果结构，是两回事。^S1S2

哲学上，因果能否化约为概率关系本身就有争论。一派试图以概率提升来刻画原因，另一派主张必须引入干预与反事实才能刻画因果，后者发展出了系统的形式工具。本文不打算裁断这场争论，只指出一点：无论哪一派成立，从被动观察到的文本分布中读出因果，都需要额外的假定，而这些假定并不在模型的训练目标里。^S2S3

归纳、类比与它们的边界

从已见推及未见，这一步的合理性是哲学上的老问题。休谟指出，我们无法在不预设自然齐一的前提下为归纳作辩护；后世又有反例表明，即便接受归纳，也无法单凭过往事例决定应当沿哪一条规律外推。这些问题对人同样成立，因此不能拿它们来否定模型的一切推广。^S4S5

真正值得注意的差别在别处。人在把规律推向新情形时，通常能感到边界在哪里：这一条只适用于宋本，那一条只适用于官刻。这种边界感来自对领域的整体把握，也来自失败的经验。模型缺少一个稳定的机制来标示自己所依赖的规律适用到哪里为止，它给出跨界推广时的语气，与给出常规判断时并无不同。^S6

类比的情形与此相似。模型很擅长找出结构相似的例子，这在提示线索时相当有用；但它同样容易在表面相似而实质不同的地方作类比，例如把两个仅仅措辞接近的版本判为同一系统。类比作为发现的手段可用，作为论证的依据不可用，这一点在人的研究中本来就是常识。^S5

越罕见越危险

机器学习领域早已系统讨论过训练分布与使用分布不一致所带来的性能下降。对文献工作而言，这一点有一个不幸的推论：我们最需要帮助的地方，恰恰是模型最不可靠的地方。常见文本、通行版本、标准句式，模型处理得又快又好，但这些本来也不难；罕见异文、讹脱衍倒、僻书僻典、方言俗字，才是耗时费力之处，而它们正落在分布之外。^S6

怎样识别落在分布之外的工作

既然分布之外是危险区，能不能事先认出来就成了实际问题。没有精确的判据，但有几个相当可靠的信号。其一是材料的稀见程度：传世本子少、影印次数少、无今人整理本的文献，训练材料中出现的机会必然少。其二是与常见模式的冲突程度：凡是与通行读法、通行体例、通行结论相左的地方，模型都倾向于往回拉。其三是所问之事是否需要否定性判断，例如「此说不见于他书」，这类判断依赖对全体材料的把握，而模型没有全体，只有分布。^S6

认出危险区之后，对策不是弃用，而是换一种用法。前面案例中把「点校」改成「标出与常见写法不一致之处」，正是这一思路：不让它作判断，只让它作对比；不问它是什么，只问它与常见模式差在哪里。差异本身是可核对的客观事实，而是非判断不是。这一转换几乎适用于所有分布之外的工作，也是本栏反复主张的分工方式。

还有一层用途值得一提。模型在分布之外的失误本身携带信息：它按常见模式处理某处，恰恰说明该处不合常见模式。有经验的使用者会反过来利用这一点，把模型「读顺了」的地方拿来与原文对照，凡它悄悄改动之处，往往正是值得细看的地方。工具在此从判断者变成了探针，这个位置它称职得多。^S6