Agent / AI 面经
核心考点
1. LLM 基础
- Transformer 架构：Encoder-Decoder，注意力机制（Attention）是核心
- Self-Attention：Q、K、V 矩阵，计算 token 间相关性
- 位置编码：解决序列顺序问题（绝对/相对/RoPE）
- Temperature & Top-p：控制输出随机性；Temperature 越低越确定
- 上下文窗口：模型一次能处理的最大 token 数
2. Prompt 工程
- Zero-shot：直接提问，无示例
- Few-shot：提供少量示例引导输出格式
- Chain-of-Thought (CoT)：让模型逐步推理，提升复杂任务准确性
- System Prompt：设定角色和行为约束
- Prompt 注入攻击：用户输入覆盖系统指令，需做输入过滤
3. RAG（检索增强生成）
用户问题 → 向量化 → 向量数据库检索 → 相关文档 → 拼入 Prompt → LLM 生成答案
- 向量数据库：Pinecone、Qdrant、Chroma、Milvus
- Embedding 模型：将文本转为高维向量（如 text-embedding-3-small）
- Chunk 策略：固定大小 / 语义分割；重叠窗口避免信息截断
- Re-ranking：检索后用精排模型提升相关性
4. Agent 设计模式
- ReAct：Reasoning + Acting，思考→动作→观察循环
- Plan-and-Execute：先规划子任务，再逐步执行
- Multi-Agent：多个 Agent 协作，各司其职（Orchestrator + Worker）
- Tool Use / Function Calling：LLM 决定调用哪个工具及参数
5. MCP（Model Context Protocol）
- Anthropic 提出的开放协议，统一 AI 与外部工具/数据源的接口
- 架构：MCP Client（LLM 应用）↔ MCP Server（工具提供方）
- 传输方式：stdio（本地）、HTTP+SSE（远程）
- 核心能力：Tools（工具调用）、Resources（数据读取）、Prompts（提示模板）
- 意义：避免每个应用重复实现工具集成，生态统一
6. 微调 vs RAG vs Prompt
| 方法 | 优点 | 缺点 | 适合场景 |
|---|---|---|---|
| Prompt Engineering | 零成本，快速迭代 | 受上下文长度限制 | 通用任务 |
| RAG | 知识可实时更新 | 检索质量影响结果 | 知识库问答 |
| Fine-tuning | 深度定制风格/能力 | 成本高，数据要求高 | 垂直领域专业化 |
7. 高频面试题
- Hallucination（幻觉）怎么缓解：RAG 提供事实依据、CoT 推理、输出校验
- 如何评估 LLM 效果：BLEU/ROUGE（文本相似度）、人工评估、自动化 LLM-as-Judge
- Token 数怎么优化：压缩 Prompt、摘要历史对话、动态检索
- 流式输出原理：SSE（Server-Sent Events）逐 token 推送
- LangChain vs 原生调用：LangChain 封装链路和工具，快速原型；生产环境可考虑轻量替代（LlamaIndex、自研）