Skip to content
阅读进度0%
知识库待复核

术语表

LLM、RAG、Agent、训练微调和多模态常用术语速查。

我的学习与文章检索 →
学习记录仅保存在当前浏览器,可随时取消标记。

术语表 ​

每个术语尽量用一句话定义,再给出继续阅读入口。面试或写方案时,先说清“它解决什么问题”,再说技术细节。

术语简明定义深入阅读
Token模型处理文本的基本单位,可能是词、子词或字符片段。Prompt 基础
Context Window单次请求中模型可看到的 token 上限,影响长文档、对话历史和工具结果放置。上下文工程
Embedding把文本、图片等映射成向量,用于相似度检索和聚类。Embedding
RAG生成前先检索外部知识,把检索结果放入上下文再回答。RAG 全景
Chunk为检索把原文切成较小片段;大小、重叠和元数据会影响召回。文档切分
Rerank对初步召回结果重新排序,提高最终上下文质量。重排序
Tool Calling模型按 schema 生成工具调用参数,由系统执行外部函数或 API。工具调用
Agent由模型参与选择后续行动、结合工具和环境反馈完成任务的系统;不要求同时具备所有设计模式。Agent 全景
MCPModel Context Protocol,用统一协议连接 AI 应用与外部工具/数据源。MCP 概念
SFTSupervised Fine-Tuning,用高质量指令/答案数据让模型学习目标行为。SFT
LoRALow-Rank Adaptation,通过低秩增量矩阵进行参数高效微调。LoRA、论文
DPODirect Preference Optimization,用偏好对直接优化模型偏好。DPO、论文
RLHFReinforcement Learning from Human Feedback,利用人类反馈优化策略的一类方法;常见路线包含奖励模型与强化学习。RLHF
Multimodal同时处理文本、图像、音频或视频等多种模态。多模态全景
Evaluation Set用来比较模型/提示/检索版本的一组固定样本和期望结果。评估指标

常见混淆 ​

  • RAG 不是“向量库”:向量库只是检索组件之一。
  • Agent 不是“无限自动化”:越接近生产,越需要权限、审批和可观测性。
  • 微调不是知识库:经常变化、需要引用的数据更适合 RAG。
  • 长上下文不是免费午餐:上下文越长,越需要选择、压缩和评估。

工程中容易漏掉的词 ​

术语定义与边界对应主题
RRF按候选在各检索通道的名次融合排序,避免直接比较原始分数检索
Cross-encoder联合编码查询与候选文本并打分,常用于重排重排
Faithfulness答案断言是否被给定证据支持;不等同事实绝对正确指标
Ground truth在明确标注规则下的参考答案或标签,也需要复核评估
Idempotency同一业务动作重复提交不产生额外副作用,需要明确动作标识与实现保证异常恢复
Checkpoint可恢复的执行状态快照;不能只保存聊天摘要Agent 记忆
Tool schema工具参数与结果的结构契约;不是权限策略工具调用
Capabilities协议参与方声明支持的能力,交换方式取决于规范版本;不等同用户授权MCP 概念
PEFT参数高效微调方法集合,LoRA 是其中一种LoRA
QLoRA量化冻结基座并训练 LoRA 适配器的一种微调方法LoRA
KV cache自回归解码复用历史键值状态的缓存,会占用推理显存部署推理
TTFT首 token 延迟;与生成完整回答的延迟分开看推理性能
Connector将视觉等模态的特征接到语言模型的连接模块连接器
OCR将图像中的文字识别为文本;布局和图表关系可能仍需额外处理多模态 RAG

一句话区分 ​

  • SFT 与 LoRA:前者描述监督学习目标,后者描述更新哪些参数,可以组合。
  • 工具调用与 MCP:前者是能力调用机制,后者是应用与外部能力间的协议接口。
  • Schema 通过与业务正确:字段合法不代表内容真实、资源可访问或动作已成功。
  • 检索相似度与概率:排序分数不能未经校准就解释为“答案正确的概率”。

基于 VitePress 构建