定义
大语言模型（Large Language Model，LLM）是一类基于 Transformer 架构、在海量文本上训练而成的深度学习模型，具备文本理解、生成、推理与对话能力。它是当前企业 AI 应用（问答、写作、Agent 等）的核心引擎。
工作原理
LLM 的核心机制是"预测下一个词"：模型在海量文本上学习词语之间的统计规律与语义关联，训练完成后，给定上文即可逐词生成连贯输出。Transformer 的注意力机制让模型能够理解长距离上下文关系；参数规模（从数十亿到数千亿）决定了模型的能力上限。
核心组成
- 训练语料 —— 公开网页、书籍、代码等海量文本，决定模型的知识广度。
- Transformer 架构 —— 以注意力机制为核心的网络结构，支撑长上下文理解。
- 对齐训练 —— 指令微调与人类反馈强化学习，让模型"听懂指令、对齐价值观"。
- 推理引擎 —— vLLM 等推理框架，决定生产环境的并发与速度。
应用场景
- 智能问答与对话
- 文本写作与摘要
- 代码生成与审查
- 作为 Agent 的"大脑"
优势
- 语言理解与生成能力接近通用
- 零样本/少样本即可完成新任务
- 通过 RAG 可注入企业私有知识
限制
- 可能生成看似合理但错误的内容（幻觉）
- 知识有截止时间，需外部更新机制
- 大参数模型推理成本高
企业应用视角
企业使用 LLM 的三种方式：调用公有云 API（快但数据出域）、本地部署开源模型（数据安全、可控）、混合路由（敏感走本地、通用走云端）。讯芯建议从场景出发反推选型。