生产级 AI 系统中的向量数据库运维
定义
向量数据库运维是指把 embedding 检索层稳定运行在生产环境中的工程能力。它不只是会调用相似度搜索 API，而是要理解索引类型、内存与磁盘容量、数据写入与回填、embedding 模型版本、metadata 过滤、召回率与延迟权衡、备份恢复以及查询行为监控。对于 RAG、语义搜索、企业知识库和 agent memory，向量库是模型之外最容易影响答案质量的基础设施层。
为什么对 AI 求职重要
AI 公司重视这项技能，是因为很多 LLM 产品的准确性取决于检索层是否新鲜、稳定、可观测。懂向量数据库运维的人可以定位过期 chunk 导致的幻觉、调优索引以降低 p95 延迟、设计 embedding 模型迁移与重建索引方案，并把检索质量指标接入评测流程。这让候选人能从“做 demo”升级到“维护可上线的 AI 产品”。
核心概念
- 索引选择：理解 HNSW、IVF、磁盘索引和托管服务在召回、延迟、内存与更新频率上的取舍。
- Embedding 生命周期：管理模型版本、维度、归一化、metadata schema 和重建索引计划，保证检索可复现。
- 召回-延迟调优：用真实查询测量 recall@k、top-k、过滤选择性、近似搜索参数、p95 延迟和成本。
- 写入可靠性：构建幂等 chunking、去重、回填、删除和 freshness 检查，适应持续变化的数据源。
- 运维可观测性：监控查询量、索引构建耗时、内存压力、写入失败、过期文档和检索质量信号。
学习路径
- 先用 pgvector、Milvus、Weaviate 或托管向量库做一个小型 RAG 应用，记录 chunk、embedding 模型、metadata 和每次检索结果。
- 准备一组带标准来源文档的问题，测量 recall@k、MRR、延迟和答案质量，再改变索引参数做对比。
- 练习生产变更：用新 embedding 模型重建语料、无重复回填、删除文档，并安全比较新旧索引效果。
- 补上生产控制：p95 延迟与写入失败 dashboard、freshness 检查、权限过滤、备份恢复演练和索引迁移回滚方案。