1 / 4概念
Vector Search
向量检索把文本/图片/音频编码成 embedding,在向量空间里找“语义最近”的邻居。判断标准不是“用不用向量库”,而是召回率、延迟、过滤条件和 embedding 的生命周期。
1 概念
1.1 一句话定义
向量检索把对象映射为高维向量,用距离函数(cosine/L2/inner product)衡量相似度;为避开全量比对,通常建 ANN(近似最近邻)索引,用少量召回率换取延迟和成本。
1.2 它解决什么问题
- 关键词不匹配但语义相近:同义词、改写、跨语言。
- RAG:把文档 chunk 编码,按问题检索上下文。
- 推荐/去重:相似物品、相似用户、相似图片。
- 多模态:文本、图像、音频统一到向量空间。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 倒排索引/分词/BM25 | Full-Text Search / Ranking |
| embedding 模型训练/微调 | ML/模型页(暂无) |
| 向量数据库的分布式存储 | Distributed Systems |
| 关系库事务/索引 | Relational Databases |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| Embedding | 对象 → 定长向量 | 不是“哈希” |
| 距离度量 | cosine/L2/inner product | 归一化后 cosine 与 IP 相关 |
| ANN | 近似最近邻 | 不是“精确 top-k” |
| HNSW | 分层可导航小世界图 | 不是“哈希表” |
| IVF | 倒排文件/聚类分桶 | 不是“倒排索引” |
| PQ | 乘积量化压缩 | 不是“剪枝” |
| Recall@k | 返回结果中真实近邻的比例 | 不是“准确率” |
| Hybrid | 向量 + 关键词混合 | 不是“多路召回”同义词 |
2 机制
2.1 心智模型
向量空间里,语义相近的对象距离更近。精确检索是“和所有向量比一遍”;ANN 是“先建一张近邻图/分桶,只走少量候选”。索引参数决定召回率和延迟的平衡。
2.2 机制拆解
- 编码:用固定模型把对象转成向量;记录模型版本、维度、归一化方式。
- 建索引:HNSW 建图(M/efConstruction),IVF 聚类(nlist),PQ 压缩。
- 查询:查询向量 → 选候选(图遍历/最近簇)→ 计算距离 → top-k。
- 过滤/重排:按元数据过滤,或用 cross-encoder/BM25 重排。
- 维护:新增/删除/更新向量;模型升级时重建索引。
2.3 完整枚举
| 索引 | 结构 | 优势 | 代价 |
|---|---|---|---|
| Flat | 暴力比对 | 100% 召回 | 延迟随 N 线性增长 |
| IVF-Flat | 聚类 + 倒排 | 建索引快、内存低 | nprobe 调召回 |
| IVF-PQ | 聚类 + 量化 | 内存大幅降低 | 召回损失、需调参 |
| HNSW | 分层近邻图 | 高召回、低延迟 | 内存高、构建慢 |
| 系统 | 形态 | 特点 |
|---|---|---|
| pgvector | Postgres 扩展 | 与关系数据同库、SQL 过滤 |
| Milvus | 专用向量库 | 大规模、多种索引、分布式 |
| Elasticsearch knn | 搜索引擎扩展 | 与 BM25/聚合共存 |
| Qdrant/Weaviate | 专用向量库 | 过滤/混合能力强 |
2.4 关键数字与量级
| 指标 | 量级 | 说明 |
|---|---|---|
| 维度 | 384–1536 常见 | 越高内存/计算越大 |
| 向量内存 | 4 bytes × dim × N | float32;PQ 可压缩 |
| 召回@10 | 90%–99% | 取决于索引/参数/数据 |
| HNSW M | 16–64 | 越大召回高、内存大 |
| efSearch | 32–256 | 越大召回高、延迟高 |
3 实践
3.1 最小示例
-- pgvector:建表、HNSW 索引、余弦距离 top-k。
CREATE EXTENSION IF NOT EXISTS vector;
CREATE TABLE docs (
id BIGSERIAL PRIMARY KEY,
content TEXT NOT NULL,
embedding vector(768) NOT NULL
);
CREATE INDEX docs_embedding_idx ON docs
USING hnsw (embedding vector_cosine_ops)
WITH (m = 16, ef_construction = 64);
SET hnsw.ef_search = 100;
SELECT id, content, embedding <=> $1 AS distance
FROM docs
ORDER BY embedding <=> $1
LIMIT 10;
# Milvus:建 collection、插入、搜索。
from pymilvus import Collection, CollectionSchema, FieldSchema, DataType
fields = [
FieldSchema("id", DataType.INT64, is_primary=True),
FieldSchema("embedding", DataType.FLOAT_VECTOR, dim=768),
FieldSchema("tenant", DataType.VARCHAR, max_length=64),
]
collection = Collection("docs", CollectionSchema(fields))
collection.create_index("embedding", {"index_type": "HNSW", "metric_type": "COSINE", "params": {"M": 16, "efConstruction": 64}})
collection.search([[0.1] * 768], "embedding", {"metric_type": "COSINE", "params": {"ef": 100}}, limit=10)
3.2 常用操作与参数
| 操作 | 命令 / 参数 | 说明 |
|---|---|---|
| 距离算子 | <-> L2、<=> cosine、<#> 负内积 | 与索引 opclass 匹配 |
| HNSW 参数 | m、ef_construction、ef_search | 构建 vs 查询 |
| IVF 参数 | lists、probes | 聚类数 vs 探测数 |
| 过滤 | WHERE + 向量排序 | 注意先过滤还是后过滤 |
| 混合检索 | BM25 + 向量 + RRF | 关键词与语义互补 |
| 重建 | 新索引/新表 + alias 切换 | 模型升级时 |
3.3 标准流程
- 选 embedding 模型;固定维度、归一化和版本。
- 决定精确/ANN:小数据用 Flat,大数据用 HNSW/IVF。
- 设计元数据过滤字段;确认过滤不会把候选清空。
- 用真实查询评估 Recall@k 与 P99 延迟,而不是只看单条。
- 建立重建/回填流程;模型升级时全量重编码。
3.4 与相邻技术的组合
- 全文搜索:BM25 召回 + 向量召回 + RRF/重排,兼顾关键词与语义。
- 关系库:pgvector 与业务表同库,过滤/事务更方便。
- RAG:检索 chunk → 重排 → 拼上下文 → 生成;注意引用与截断。
- 推荐:向量召回 + 规则/业务排序。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 数据规模 | 万 / 百万 / 十亿 | Flat vs ANN/分布式 |
| 延迟 | 毫秒 / 十毫秒 | HNSW vs IVF |
| 召回要求 | 高 / 可接受近似 | 参数与索引选择 |
| 过滤 | 强 / 弱 | 预过滤/后过滤 |
| 现有栈 | Postgres / 专用库 | pgvector vs Milvus |
| 更新频率 | 低 / 高 | 索引维护成本 |
3.6 决策规则
- 已有 Postgres、数据量中等:pgvector,少一个系统。
- 十亿级/高吞吐:Milvus 等专用库。
- 需要 BM25 + 向量:ES/OpenSearch 或混合检索层。
- 召回必须 100%:Flat/精确检索,或 ANN + 重排兜底。
- 过滤条件复杂:优先支持预过滤的库,避免候选被过滤空。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| pgvector | 同库、SQL、事务 | 大规模/高并发受限 | 中小规模、RAG |
| Milvus | 分布式、索引丰富 | 运维复杂 | 大规模向量 |
| ES knn | 全文+向量+聚合 | 资源/运维重 | 混合检索 |
| Flat | 100% 召回 | 延迟线性增长 | 小数据/评测基线 |
3.8 何时不该用
- 精确关键词匹配:倒排索引更合适。
- 数据量很小:暴力比对足够,别引入向量库。
- 没有稳定 embedding 模型:先把编码/版本管理做好。
- 需要强事务/多表关联:关系库 + pgvector,而不是纯向量库。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 召回突然变差 | 模型/归一化/维度变化 | 固定版本、全量重编码 |
| 过滤后结果为空 | 后过滤把候选滤光 | 预过滤/增大候选 |
| 延迟飙升 | efSearch/nprobe 过大 | 调参/扩容 |
| 内存不够 | HNSW/float32 占用大 | PQ/量化/分片 |
| 索引构建很久 | 数据量大/参数高 | 降 efConstruction/分批 |
| 语义结果不合理 | chunk 太大/太小 | 调整切分与重叠 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 混用不同模型向量 | 距离无意义 | 统一模型/版本 |
| 不归一化就用 cosine/IP | 结果偏移 | 明确归一化策略 |
| 只看单条查询 | 过拟合 | 离线评测集 + Recall@k |
| 后过滤大范围 | 候选不足 | 预过滤/分区 |
| 模型升级不重建 | 新旧向量混用 | 全量重建 + alias |
4.3 可观测信号
Recall@k(离线)、P50/P99 延迟、QPS、候选数、过滤命中率、索引大小/内存、构建时长、向量维度/模型版本分布。
4.4 安全 / 性能 / 一致性边界
- 一致性:向量是派生数据;源数据更新后要同步,否则检索到旧内容。
- 权限:元数据过滤必须强制租户/权限,不能只靠客户端。
- 成本:内存/存储随维度与 N 增长;先算 TCO。
- 可解释性:向量相似不等于业务相关,关键场景要重排/人工规则。