Reading Guide
先问一个问题
模型输出的东西,在信息、真命题、信念与知识这四个位置上应当放在哪里?
- 适合读者
- 希望把「AI 懂不懂」这类问题问得更精确的读者
- 阅读基础
- fluency-is-not-understanding
Key Points
先记住这些
- 信息是可传递、可度量的结构,与真假无关;一句假话同样携带信息。
- 真命题只是对世界的正确描述,本身不涉及任何人是否相信或是否有理由相信。
- 信念是主体对命题的持有态度;知识在传统分析中要求真、要求信念、还要求有恰当的根据。
- 技术事实:模型输出的是文本;它是否具有信念这类心理状态,无法由输出本身判定。
- 哲学立场:若采取以功能角色界定信念的路径,某种弱意义上的归属或可辩护;若要求现象性或对自身状态的把握,则难以成立。本文不作裁断。
- 实践结论:无论如何裁断,模型输出至多是待检验的信息,从信息到知识的那几步只能由使用者补上。
Terms
几个必要概念
- 信息
在通信意义上,指减少不确定性的可度量结构;其数量与内容真假无关。
把「信息量大」误当作「可信度高」,是使用 AI 时最基本的一种混淆。- 有根据的信念
不仅相信某事为真,而且持有使这一相信成为合理的理由。
它是从「碰巧说对了」通向「知道」的关键一环,也是模型最难满足的一环。- 盖梯尔问题
有反例表明,即使一个信念既为真又有根据,仍可能不算知识。
它说明「说对了且有理由」尚不足够,据此评价模型输出时应更谨慎。
四个位置
信息这个词在通信理论里有严格含义:它度量的是不确定性的减少,与内容是否属实无关。一份精确的假书目与一份精确的真书目,携带的信息量可以完全相同。哲学上另有把信息与真值绑定的路径,主张只有真的内容才算严格意义的语义信息,但即便采取这一路径,也仍然要在信息与知识之间保留距离。S1S2S3
真命题只关乎世界。「李嘉图的《原理》初版于 1817 年」若为真,它的真不取决于任何人是否相信。信念则是主体的态度:某人持有这个命题为真。知识在传统分析中被要求同时满足三项,即命题为真、主体相信、且这一相信有恰当的根据。这一分析在 1963 年遭遇了著名反例,表明三项俱备仍可能不算知识,此后的讨论围绕如何补足第四项展开,至今没有公认方案。S4S5
- 模型输出一段文字:这是信息,成立。
- 这段文字所述为真:可能成立,须核对。
- 模型相信它为真:这是关于心理状态的主张,须先说明何谓相信。
- 模型知道它为真:在上一条未定之前,这一条无从谈起。
模型能否拥有有根据的信念
这个问题必须先分成两半。前一半问模型有没有信念,后一半问它的信念有没有根据。哲学上对信念本身就有不同的界定路径:一种以功能角色为准,只要某状态在系统中起到「引导行为、可被证据修正、与其他状态推理相连」的作用,就足以称为信念;另一种要求主体对该状态有某种把握,或要求相应的现象性质。采取前者,对模型作某种弱意义上的归属并非不可辩护;采取后者,则归属难以成立。这是一个立场分歧,不是可以由更多实验直接解决的分歧。S6
后一半更能落到实处。所谓根据,通常指与命题为真有可靠联系的东西:亲身观察、可靠的推理、可信的证言。模型给出某个年份,其来源是训练材料中大量文本对该年份的分布,以及当次上下文中的材料。前者与真值确有统计上的关联,但这种关联既不稳定也不可被模型自身审查;后者才是较可检验的部分,且它的可靠性来自使用者提供的材料,而不是来自模型。S4S5
还有一层麻烦来自盖梯尔式的反例。即便模型说对了,也给出了看似恰当的理由,仍可能属于「凭错误的路径碰上了正确的答案」。文献工作中这类情形并不罕见:模型引了一条实际存在的注文来支持一个结论,结论恰好为真,但那条注文其实并不支持它。就结果论无可指摘,就知识论则不算知道。S5
这些区分在实务上的用处
- 把输出默认放在「信息」这一格,而不是「知识」那一格,是最省事也最安全的起点。
- 核对结论之外,还要核对理由;理由错而结论对的情形,比两者皆错更危险。
- 「模型很确定」不是根据;确定的语气由训练方式塑造,与真值无关。
- 使用者补上的那几步,恰恰是把信息变成知识的部分,这部分不可外包。
把这些区分用于日常提问
这套区分不是只能用于哲学讨论,它也能改变提问的方式。多数令人失望的回答,源于问题本身把四个位置混在了一起。「这个版本可靠吗」同时问了事实、评价与依据三件事,模型只能给出一个笼统的说法。若拆成三问,情形会好得多:这个本子的刊刻年代与刊刻者,材料中怎么说;判断其可靠性通常看哪几项指标;就本页所给材料而言,这几项各是什么情况,哪些无从判断。S4
- 问事实:只问材料中怎么说,要求附原文片段,不要它下判断。
- 问框架:问判断这类问题通常依据哪些指标,这部分模型往往复述得相当可靠。
- 问依据:让它逐项对照,明确指出哪些指标有材料支持、哪些没有。
- 自己下判断:把三步的结果合起来,由人作出结论并署名。
这样拆开之后,会发现模型在第二步上最有用,因为判断框架属于人类已经写下来的知识,复述它正是模型所长;而第四步无论如何都得由人来做,因为它要求对整个项目负责。第一步与第三步则是可核对的,核对成本也最低。把提问按这个次序组织,等于把模型放在它统计上占优的位置,同时把知识责任留在该留的地方。S4
这样的提问方式还有一个副产品:它使模型的错误更容易暴露。笼统的问题得到笼统的回答,错与不错都难以判定;拆开之后,第一步与第三步的每一句话都指向一段可以覆核的原文,对不对一查便知。换句话说,把问题问得精确,本身就是一种核验手段,而不只是提高回答质量的技巧。
Conclusion
结语
把「AI 懂不懂」拆成四个位置之后,多数争论会显出各自的真实分歧点。而对做具体工作的人来说,结论相当朴素:模型交来的是待检验的信息,从信息到知识那一段路,仍旧得自己走。
仍可追问
- 信念是否应以功能角色界定,学界长期分歧,本文未作裁断。
- 知识分析中第四项条件的补足方案至今没有公认答案。
- 语义信息是否必然为真,哲学上仍有争论,本文并列两种路径。
参考资料
- S1
Claude E. Shannon.A Mathematical Theory of Communication.1948
DOI / ISBN:10.1002/j.1538-7305.1948.tb01338.x查看来源 - S2
Fred I. Dretske.Knowledge and the Flow of Information.1981
查看来源 - S3
Luciano Floridi.The Philosophy of Information.2011
查看来源 - S4
Jonathan Jenkins Ichikawa, Matthias Steup.The Analysis of Knowledge (Stanford Encyclopedia of Philosophy).2018
查看来源 - S5
Edmund L. Gettier.Is Justified True Belief Knowledge?.1963
DOI / ISBN:10.1093/analys/23.6.121查看来源 - S6
Eric Schwitzgebel.Belief (Stanford Encyclopedia of Philosophy).2021
查看来源