知序/知识文档
知识文档

大语言模型

Large Language Model

在大量文本等数据上训练、以语言建模为核心的大规模神经网络模型。

示范文档入门更新于 2026-11-22V0.1
在知识地图中查看

概念简介

在大量文本等数据上训练、以语言建模为核心的大规模神经网络模型。

许多语言模型通过预测下一个 Token 学习语言规律,再经过指令调整形成交互能力。生成是概率性的,知识截止、上下文限制与幻觉都需要在应用中处理。

语言建模与生成

许多大语言模型基于 Transformer,通过学习大量序列中 Token 的关系来预测后续内容。指令调整与偏好优化可以改善任务遵循,但不会使每次输出自动成为事实。

能力与边界

能力 可用场景 必须关注的边界
文本变换 摘要、改写、翻译 原文遗漏与含义偏移
结构生成 提取字段、草拟分类 格式正确不等于内容正确
问答 基于材料解释问题 缺少依据时可能编造
工具选择 调用检索或计算 权限、错误恢复与成本

案例:对一份 PRD 做摘要

输入 PRD 并要求列出范围和验收条件,模型可能生成流畅的摘要,也可能遗漏异常状态。实际使用时应让输出包含可核对的原文位置,并由人检查关键约束。对于事实查询,可以结合检索增强生成。

上下文与 Token

模型只能在有限上下文中处理当前任务;Token是计量单元之一。超长材料需要合理分段或检索,不能假设模型会完整记住所有历史内容。

评估与使用

  1. 定义任务和可接受的错误范围。
  2. 收集覆盖正常、边界与失败情形的样例。
  3. 比较准确性、稳定性、延迟与成本。
  4. 对高影响结论增加来源验证和人工复核。
  5. 模型或提示更新后重新检查关键样例。

常见误区

  • 把表达自信等同于回答正确。
  • 以单个成功示例推断系统可靠性。
  • 把对话记忆、上下文窗口与训练知识混为一谈。

参考资料

回到知识地图