在之前的文章中，我们系统性的介绍了 嵌入和语义检索 以及 向量相似度。 本文将在语义检索领域探讨更加接近实战的话题：如何如何选择FAISS的索引类型。 Faiss 是一个用于高效相似性搜索和密集向量聚类的库。它使用 C++ 编写，并提供了完整的 Python 封装。 可以在 CPU 上运行，只是一些最有用的算法是在 GPU 上实现的。它的主要功能是： k-NN 检索: 不仅返回最近的邻居，还返回第二近、第三近、……、第 k 近的邻居； 批量处理: 一次搜索多个向量，而不是一次搜索一个。 对于许多索引类型，这比一个接一个地搜索向量更快； 以精度换取速度: 以 10% 的不正确结果为代价，换取 10 倍的速度或使用更少的内存； 范围搜索：返回查询点给定半径内的所有元素； 本地存储： 将索引存储在磁盘上而不是在 RAM 中； … ...
之前两篇文章:MCP简介和MCP能做什么阐述了MCP的基本概念和原理。 本文将使用Visual Studio Code写一个MCP服务端和MCP客户端，演示MCP的基本功能。 MCP版本迭代很快，能用把代码顺利跑起来并不是一件容易的事：） ...
由于大部分AI平台提供的API/接口都兼容 OpenAI API ,所以我们可以使用 OpenAI SDK 实现通用的 LLM（大语言模型） 客户端。 关于 OpenAI API 更多内容，可参考 程序员应该熟悉的概念(2)OpenAI API 本文讲述了如何实现一个简单的大模型客户端。 ...
本文将简单介绍如何使用 AutoSchemaKG 提升 RAG(Retrieval Augmented Generation,检索增强生成) 的问答效果。实现的主要思路是： 解析知识图谱文件：用 NetworkX 解析 GraphML 知识图谱文件； 嵌入：用 FAISS (Facebook AI Similarity Search) 矢量化节点（实体、事件、概念），并将边的 “源节点 + 关系 + 目标节点” 拼接为字符串之后再做嵌入； 语义检索： 检索 “源节点 + 关系 + 目标节点” 的矢量库，找出最相似的文档，再用 大语言模型（LLM）对结果进一步筛选，筛选出节点； 检索相似的 passage(文本段落)； 将上述包含分数的结果合并，将分数作为初始权重，通过 NetworkX 的 Pagerank 方法在 知识图谱 中通过节点间的关联关系传播权重，权重更新后，选择权重最高的 passage(文本段落) 为结果。 PageRank 核心原理（知识图谱场景）： 给节点赋予初始权重（与查询相关的节点权重高） 每个节点将自身权重按 “出边数量” 平均分配给相邻节点（例如，节点 A 有 2 条出边，就将自身权重的 1/2 分别传给两个邻居） 迭代传播，直到权重分布稳定（误差小于 tol），最终每个节点的 pr[node] 即为 “综合相关度分数”。 通过权重传播，与查询节点间接关联的节点（例如 “苹果手机”→“苹果公司”→“芯片供应商”）也能获得较高分数，挖掘出 “字面不直接匹配但语义相关” 的内容。 传统的 RAG(Retrieval Augmented Generation,检索增强生成) 一般是直接查询返回相似的 passage(文本段落)，没有上述通过知识图谱调整权重的过程。 ...
本文将简单介绍如何把文本生成 知识图谱（Knowledge Graph）。具体来说，是使用开源项目 AutoSchemaKG 生成 GraphML 。 GraphML 是 XML（Extensible Markup Language） 格式的文件，可以使用 NetworkX 等框架轻松处理这种格式的文件。下图是一个典型的 GraphML ： ...