Task Comparison
本地部署
比较许可证、硬件、量化、中文能力和实际数据流。
The Question
哪个模型既跑得动，也真正适合本地任务？
Must Know
必须掌握
- 先核许可证和硬件。
- 同一量化与推理框架再比质量。
- 检查所有联网路径。
Know Enough
应当了解
- 显存与上下文
- 量化损失
- 工具调用和更新维护
Put It to Work
落实到工作
- 01
记录硬件、版本和参数。
- 02
测真实长输入。
- 03
抓取网络与日志行为。
Common Mistakes
不要这样理解
- 只看模型文件大小
- 混比不同量化
- 把本地界面误认为完全离线
Primary Sources