信息、真命题、信念与知识

分辨四个常被混用的概念,并据此考察「模型能否拥有有根据的信念」这一问题的实际内容。

  • 认识论
  • 知识
  • 信念
  • 信息

Reading Guide

先问一个问题

模型输出的东西,在信息、真命题、信念与知识这四个位置上应当放在哪里?

适合读者
希望把「AI 懂不懂」这类问题问得更精确的读者
阅读基础
fluency-is-not-understanding

Key Points

先记住这些

  1. 信息是可传递、可度量的结构,与真假无关;一句假话同样携带信息。
  2. 真命题只是对世界的正确描述,本身不涉及任何人是否相信或是否有理由相信。
  3. 信念是主体对命题的持有态度;知识在传统分析中要求真、要求信念、还要求有恰当的根据。
  4. 技术事实:模型输出的是文本;它是否具有信念这类心理状态,无法由输出本身判定。
  5. 哲学立场:若采取以功能角色界定信念的路径,某种弱意义上的归属或可辩护;若要求现象性或对自身状态的把握,则难以成立。本文不作裁断。
  6. 实践结论:无论如何裁断,模型输出至多是待检验的信息,从信息到知识的那几步只能由使用者补上。

Terms

几个必要概念

信息

在通信意义上,指减少不确定性的可度量结构;其数量与内容真假无关。

把「信息量大」误当作「可信度高」,是使用 AI 时最基本的一种混淆。
有根据的信念

不仅相信某事为真,而且持有使这一相信成为合理的理由。

它是从「碰巧说对了」通向「知道」的关键一环,也是模型最难满足的一环。
盖梯尔问题

有反例表明,即使一个信念既为真又有根据,仍可能不算知识。

它说明「说对了且有理由」尚不足够,据此评价模型输出时应更谨慎。

四个位置

信息这个词在通信理论里有严格含义:它度量的是不确定性的减少,与内容是否属实无关。一份精确的假书目与一份精确的真书目,携带的信息量可以完全相同。哲学上另有把信息与真值绑定的路径,主张只有真的内容才算严格意义的语义信息,但即便采取这一路径,也仍然要在信息与知识之间保留距离。S1S2S3

真命题只关乎世界。「李嘉图的《原理》初版于 1817 年」若为真,它的真不取决于任何人是否相信。信念则是主体的态度:某人持有这个命题为真。知识在传统分析中被要求同时满足三项,即命题为真、主体相信、且这一相信有恰当的根据。这一分析在 1963 年遭遇了著名反例,表明三项俱备仍可能不算知识,此后的讨论围绕如何补足第四项展开,至今没有公认方案。S4S5

  • 模型输出一段文字:这是信息,成立。
  • 这段文字所述为真:可能成立,须核对。
  • 模型相信它为真:这是关于心理状态的主张,须先说明何谓相信。
  • 模型知道它为真:在上一条未定之前,这一条无从谈起。
S4

模型能否拥有有根据的信念

这个问题必须先分成两半。前一半问模型有没有信念,后一半问它的信念有没有根据。哲学上对信念本身就有不同的界定路径:一种以功能角色为准,只要某状态在系统中起到「引导行为、可被证据修正、与其他状态推理相连」的作用,就足以称为信念;另一种要求主体对该状态有某种把握,或要求相应的现象性质。采取前者,对模型作某种弱意义上的归属并非不可辩护;采取后者,则归属难以成立。这是一个立场分歧,不是可以由更多实验直接解决的分歧。S6

后一半更能落到实处。所谓根据,通常指与命题为真有可靠联系的东西:亲身观察、可靠的推理、可信的证言。模型给出某个年份,其来源是训练材料中大量文本对该年份的分布,以及当次上下文中的材料。前者与真值确有统计上的关联,但这种关联既不稳定也不可被模型自身审查;后者才是较可检验的部分,且它的可靠性来自使用者提供的材料,而不是来自模型。S4S5

还有一层麻烦来自盖梯尔式的反例。即便模型说对了,也给出了看似恰当的理由,仍可能属于「凭错误的路径碰上了正确的答案」。文献工作中这类情形并不罕见:模型引了一条实际存在的注文来支持一个结论,结论恰好为真,但那条注文其实并不支持它。就结果论无可指摘,就知识论则不算知道。S5

这些区分在实务上的用处

  • 把输出默认放在「信息」这一格,而不是「知识」那一格,是最省事也最安全的起点。
  • 核对结论之外,还要核对理由;理由错而结论对的情形,比两者皆错更危险。
  • 「模型很确定」不是根据;确定的语气由训练方式塑造,与真值无关。
  • 使用者补上的那几步,恰恰是把信息变成知识的部分,这部分不可外包。
S4

把这些区分用于日常提问

这套区分不是只能用于哲学讨论,它也能改变提问的方式。多数令人失望的回答,源于问题本身把四个位置混在了一起。「这个版本可靠吗」同时问了事实、评价与依据三件事,模型只能给出一个笼统的说法。若拆成三问,情形会好得多:这个本子的刊刻年代与刊刻者,材料中怎么说;判断其可靠性通常看哪几项指标;就本页所给材料而言,这几项各是什么情况,哪些无从判断。S4

  • 问事实:只问材料中怎么说,要求附原文片段,不要它下判断。
  • 问框架:问判断这类问题通常依据哪些指标,这部分模型往往复述得相当可靠。
  • 问依据:让它逐项对照,明确指出哪些指标有材料支持、哪些没有。
  • 自己下判断:把三步的结果合起来,由人作出结论并署名。

这样拆开之后,会发现模型在第二步上最有用,因为判断框架属于人类已经写下来的知识,复述它正是模型所长;而第四步无论如何都得由人来做,因为它要求对整个项目负责。第一步与第三步则是可核对的,核对成本也最低。把提问按这个次序组织,等于把模型放在它统计上占优的位置,同时把知识责任留在该留的地方。S4

这样的提问方式还有一个副产品:它使模型的错误更容易暴露。笼统的问题得到笼统的回答,错与不错都难以判定;拆开之后,第一步与第三步的每一句话都指向一段可以覆核的原文,对不对一查便知。换句话说,把问题问得精确,本身就是一种核验手段,而不只是提高回答质量的技巧。

Conclusion

结语

把「AI 懂不懂」拆成四个位置之后,多数争论会显出各自的真实分歧点。而对做具体工作的人来说,结论相当朴素:模型交来的是待检验的信息,从信息到知识那一段路,仍旧得自己走。

仍可追问

  • 信念是否应以功能角色界定,学界长期分歧,本文未作裁断。
  • 知识分析中第四项条件的补足方案至今没有公认答案。
  • 语义信息是否必然为真,哲学上仍有争论,本文并列两种路径。

参考资料

  1. S1

    Claude E. Shannon.A Mathematical Theory of Communication.1948

    DOI / ISBN:10.1002/j.1538-7305.1948.tb01338.x查看来源
  2. S2

    Fred I. Dretske.Knowledge and the Flow of Information.1981

    查看来源
  3. S3

    Luciano Floridi.The Philosophy of Information.2011

    查看来源
  4. S4

    Jonathan Jenkins Ichikawa, Matthias Steup.The Analysis of Knowledge (Stanford Encyclopedia of Philosophy).2018

    查看来源
  5. S5

    Edmund L. Gettier.Is Justified True Belief Knowledge?.1963

    DOI / ISBN:10.1093/analys/23.6.121查看来源
  6. S6

    Eric Schwitzgebel.Belief (Stanford Encyclopedia of Philosophy).2021

    查看来源