[合集]本地大模型编程实战
此系列文章讲述了:如何在普通电脑上自己写代码完成常见的基于大语言模型能力的任务。 ...
此系列文章讲述了:如何在普通电脑上自己写代码完成常见的基于大语言模型能力的任务。 ...
此系列文章详细的阐述了如何从第一行代码开始搭建一个可以运行完全在本地服务器的RAG(Retrieval Augmented Generation)系统,包含了详细的步骤说明和代码,它是保姆级教程。 它主要包含以下功能: 使用本地大语言模型做语言翻译 使用本地大语言模型做专业领域的知识问答 从系统架构来看,本系统包含了前端、API网关、后台服务三大部分: ...
此系列文章通过几个详细的经典案例,演示了如何从使用vuetify3前端框架快速开发简单的web程序。 ...
在之前的文章中,我们系统性的介绍了 嵌入和语义检索 以及 向量相似度。 本文将在语义检索领域探讨更加接近实战的话题:如何如何选择FAISS的索引类型。 Faiss 是一个用于高效相似性搜索和密集向量聚类的库。它使用 C++ 编写,并提供了完整的 Python 封装。 可以在 CPU 上运行,只是一些最有用的算法是在 GPU 上实现的。它的主要功能是: k-NN 检索: 不仅返回最近的邻居,还返回第二近、第三近、……、第 k 近的邻居; 批量处理: 一次搜索多个向量,而不是一次搜索一个。 对于许多索引类型,这比一个接一个地搜索向量更快; 以精度换取速度: 以 10% 的不正确结果为代价,换取 10 倍的速度或使用更少的内存; 范围搜索:返回查询点给定半径内的所有元素; 本地存储: 将索引存储在磁盘上而不是在 RAM 中; … ...
之前两篇文章:MCP简介和MCP能做什么阐述了MCP的基本概念和原理。 本文将使用Visual Studio Code写一个MCP服务端和MCP客户端,演示MCP的基本功能。 MCP版本迭代很快,能用把代码顺利跑起来并不是一件容易的事:) ...