大语言模型
Large Language Model
在大量文本等数据上训练、以语言建模为核心的大规模神经网络模型。
在知识地图中查看概念简介
在大量文本等数据上训练、以语言建模为核心的大规模神经网络模型。
许多语言模型通过预测下一个 Token 学习语言规律,再经过指令调整形成交互能力。生成是概率性的,知识截止、上下文限制与幻觉都需要在应用中处理。
语言建模与生成
许多大语言模型基于 Transformer,通过学习大量序列中 Token 的关系来预测后续内容。指令调整与偏好优化可以改善任务遵循,但不会使每次输出自动成为事实。
能力与边界
| 能力 | 可用场景 | 必须关注的边界 |
|---|---|---|
| 文本变换 | 摘要、改写、翻译 | 原文遗漏与含义偏移 |
| 结构生成 | 提取字段、草拟分类 | 格式正确不等于内容正确 |
| 问答 | 基于材料解释问题 | 缺少依据时可能编造 |
| 工具选择 | 调用检索或计算 | 权限、错误恢复与成本 |
案例:对一份 PRD 做摘要
输入 PRD 并要求列出范围和验收条件,模型可能生成流畅的摘要,也可能遗漏异常状态。实际使用时应让输出包含可核对的原文位置,并由人检查关键约束。对于事实查询,可以结合检索增强生成。
上下文与 Token
模型只能在有限上下文中处理当前任务;Token是计量单元之一。超长材料需要合理分段或检索,不能假设模型会完整记住所有历史内容。
评估与使用
- 定义任务和可接受的错误范围。
- 收集覆盖正常、边界与失败情形的样例。
- 比较准确性、稳定性、延迟与成本。
- 对高影响结论增加来源验证和人工复核。
- 模型或提示更新后重新检查关键样例。
常见误区
- 把表达自信等同于回答正确。
- 以单个成功示例推断系统可靠性。
- 把对话记忆、上下文窗口与训练知识混为一谈。
参考资料
- Vaswani et al. (2017). Attention Is All You Need
- Brown et al. (2020). Language Models are Few-Shot Learners