Milvus milvus-io/milvus

能干什么

一个为规模而生的开源向量数据库（Go + C++，LF AI & Data 基金会项目，Zilliz 是主要贡献方）：存向量 + 标量字段（文本/JSON 等），做高效的近似最近邻（ANN）相似检索。支持主流索引类型（HNSW / IVF / FLAT / SCANN / DiskANN，含量化变体与 mmap），CPU/GPU 硬件加速（GPU 走 NVIDIA CAGRA），亿级向量 + 数万 QPS 的分布式水平扩展（K8s 原生、存算分离），也有单机 Standalone 和 pip 即装的 Milvus Lite（本地文件型，MilvusClient("demo.db") 一行起，适合快速起步/本地开发）。特性还有：元数据过滤、范围检索、稀疏向量全文检索（BM25/SPLADE/BGE-M3）与混合检索、冷热分层存储、多租户（库/集合/分区级隔离）、RBAC + TLS。生态接 LangChain/LlamaIndex/HuggingFace 等，Zilliz Cloud 是它的官方托管（开源项目本体 Apache-2.0 可自托管）。

怎么干

• 最快：pip install -U pymilvus，MilvusClient("demo.db") 直接用本地 Lite 版建集合插向量做检索
• 单机服务器：Docker 起 Standalone；生产规模：K8s 起分布式集群（官方 Helm）
• pymilvus 建 collection（指定维度）→ 灌 embedding 向量 → search 传查询向量取 topK，带标量字段过滤

本站怎么用

它是「本地 RAG 上生产」的存储层答案：RAGFlow/Khoj/LightRAG 这些 RAG 工具默认用内置或小规模存储，文档量一大（几十万 chunk 起步）就需要真正的向量库——Milvus 是 Apache-2.0 里规模能力最完整的那一档，且 Milvus Lite 让你在同一套 API 下从本地文件库平滑升级到集群。它自己不做推理，纯存储/检索：显存默认不吃（CPU 检索），上 GPU 索引（CAGRA）才会用显存，那也只在「十亿级向量 + 高 QPS」场景才值得开。

显存口径

默认 CPU 检索，不占显存；内存账 = 热数据向量 + 索引（DiskANN/mmap 可把冷数据压到磁盘）。GPU 索引（CAGRA）才用显存，显存需求与向量规模/维度相关（十亿级 768 维量级通常要多卡 GPU——项目口径，按官方 benchmark 文档查你那个规模，非本站实测）。小数据集（百万级以内）单机 CPU + DiskANN/mmap 完全够。