RAG 高频面试题

如何为 RAG 项目选择向量数据库？Milvus、Pinecone、Chroma 怎么选？

这道题常用来区分“会背 RAG 名词”和“能把 如何为 RAG 项目选择向量数据库？Milvus、Pinecone、Chroma 怎么选 落到工程链路里”的候选人。

适合阶段：RAG 项目面 / Agent 工程面核心能力：概念边界 · 工程取舍 · 生产落地

面试官角度分析，想考什么

• 真实问法：如何为 RAG 项目选择向量数据库？Milvus、Pinecone、Chroma 怎么选？
  是否能按场景选型，而不是背产品优缺点；是否考虑数据规模、QPS、filter、运维、合规、成本和迁移。
• 能不能讲清边界
  面试官想确认你是否知道这个能力解决什么问题、不解决什么问题，以及它和相邻方案的差异。
• 有没有工程调优意识
  合格答案要能落到文档、索引、检索、重排、Prompt、评估、成本和权限等实际环节。
• 能不能处理失败情况
  生产 RAG 不只追求答对，还要能发现召回差、证据不足、引用错误、旧版本命中和越权风险。

可直接抄走的 30 秒参考答案

我会先看项目阶段和约束：原型验证可以用 Chroma 或 FAISS，少组件、上手快；生产且团队想少运维可以选 Pinecone 这类托管服务；大规模、自部署、需要更强索引控制和私有化时可以考虑 Milvus。真正选型要用自己的语料测 recall、P95 延迟、更新速度、过滤能力、成本和运维复杂度。

面试回答详解，知其所以然

这道题不要只背术语。更稳的回答方式是：先说明它在 RAG 链路中的职责，再讲实现机制，最后补上参数取舍、评估方式和生产风险。

1. 先给出核心定义

我会先看项目阶段和约束：原型验证可以用 Chroma 或 FAISS，少组件、上手快；生产且团队想少运维可以选 Pinecone 这类托管服务；大规模、自部署、需要更强索引控制和私有化时可以考虑 Milvus。真正选型要用自己的语料测 recall、P95 延迟、更新速度、过滤能力、成本和运维复杂度。

用户问题 -> 检索策略 -> 证据上下文 -> 模型生成 -> 引用与评估

2. 放到完整 RAG 链路里理解

• Chroma：适合本地 demo、PoC、个人项目和小规模验证，优点是简单，边界是生产治理、水平扩展和复杂运维能力有限。
• Pinecone：适合希望托管、快速上线、少维护索引基础设施的团队，重点评估数据驻留、成本、供应商锁定和合规要求。
• Milvus：适合向量检索是核心能力、数据规模较大、需要自部署和索引参数控制的场景，代价是运维复杂度更高。
• 也要考虑 pgvector、Qdrant、Weaviate、Elasticsearch/OpenSearch hybrid，不要把选项限制在三个名字。
• 面试里最好说“先建立选型矩阵，再用评估集压测”，指标包括 recall@k、过滤后召回、P95/P99、写入吞吐、索引构建时间、成本和回滚能力。

3. 讲清工程取舍

• 准确率和召回率：不能只追求 top-1 看起来相关，要确认正确证据是否稳定进入候选集。
• 成本和延迟：更大的 top_k、更复杂的重排、更长的上下文会提升机会，也会增加 token、算力和 P95 延迟。
• 可维护性：文档版本、索引版本、embedding 模型版本和 prompt 版本都要可追踪，否则线上问题很难复现。
• 安全边界：权限过滤、租户隔离、来源可信度和无答案拒答要放在检索链路里，而不是只靠前端隐藏。

4. 面试里可以主动补充的生产细节

• 建一套覆盖高频、长尾、无答案、权限、旧版本和冲突证据的评估集。
• 记录每次请求的 query、rewrite、召回候选、分数、rerank 结果、最终上下文、答案和引用。
• 对低置信检索结果触发扩大召回、改写查询、澄清问题、拒答或转人工。
• 每次改 chunking、embedding、向量索引、reranker 或 prompt，都要做 case-level diff 和回归验证。

面试官追问3个问题

追问一：如果线上效果不好，你先排查哪里？

• 考察点：是否具备分层定位能力。
• 回答方向：先看 trace，确认正确证据有没有进入召回候选；如果候选里没有，查解析、切分、embedding、索引和 query rewrite；如果候选里有但没进上下文，查 rerank、过滤和 top-K；如果上下文里有但答错，查 prompt、模型和引用校验。

追问二：这个能力的参数怎么调？

• 考察点：是否知道参数不能凭感觉。
• 回答方向：用固定评估集比较 recall@k、MRR、上下文精度、faithfulness、最终准确率、P95 延迟和 token 成本，按业务风险选择阈值和默认值。

追问三：生产上最容易忽略什么？

• 考察点：是否有真实落地意识。
• 回答方向：容易忽略版本、权限、引用和无答案场景。RAG 系统必须记录索引版本、文档版本、metadata、引用来源和低置信兜底策略，否则很难做到可信和可回滚。

扩展知识

一个通用排障框架

文档是否解析对 -> chunk 是否切得合适 -> embedding 是否匹配 query -> 索引和过滤是否正确 -> rerank 是否把证据排前 -> prompt 是否约束模型 -> 答案是否忠于引用

常见错误回答

• 只说“把资料放进向量数据库”，没有解释检索、重排、Prompt 和评估。
• 把相似度分数当成可信度，没有说明证据校验和引用对齐。
• 忽略权限、版本和删除传播，导致旧文档或越权内容进入上下文。
• 用单个 demo case 证明效果，没有离线评估集和线上 trace。