Judgment & Responsibility

能力、理解与人的判断责任

模型可以完成越来越多任务,但最终判断并不会因此自动消失。

The Question

一项任务做得像人,是否意味着模型以人的方式理解?

Must Know

必须掌握

  1. 任务表现、语言流畅、主观体验和人类式理解不是同一命题。
  2. 输出由数据、目标、后训练、提示、工具与制度共同塑造。
  3. 高风险结论、署名、价值判断和最终责任不能外包给模型。

Know Enough

应当了解

  • 自动化偏见与责任扩散
  • 数据劳动、资源与权力结构
  • 能力增长与治理滞后的张力

Put It to Work

落实到工作

  1. 01

    在工作流中明确谁提出、谁核验、谁批准。

  2. 02

    把模型参与方式向需要知情的人披露。

  3. 03

    对不可逆或高风险决定保留独立人工判断。

Common Mistakes

不要这样理解

  • 把“像理解”直接写成“已理解”
  • 以模型为借口回避责任
  • 把伦理问题缩减为准确率问题

Primary Sources

继续阅读

  1. 01Foundation Models Report
  2. 02NIST Generative AI Profile