本地大模型编程实战(10)与外部工具交互(1)

某些模型能够进行工具方法调用:生成用户自定义的方法的签名并调用它。一般来说,此交互过程主要包含下面几个步骤: LLM(大语言模型) 根据用户的问题推理生成调用工具方法的名称和参数 调用工具,返回简单的结果 再次调用 LLM ,生成自然流畅的回答 下面我们来说明这一过程。 应该是因为 langchian 对 deepseek 的支持还完善,使用 deepseek-r1 无法生成工具方法签名,使用 MFDoom/deepseek-r1-tool-calling:7b 可以生成工具方法签名,但是在调用工具方法时不成功。 所以本文仅使用 llama3.1。 ...

二月 7, 2025 · 2 分钟 · 火云

本地大模型编程实战(09)完善聊天机器人(3)

本文将实现一个比较完善的聊天机器人的主要功能。包括: 使用 LangGraph 构建聊天机器人 自动裁剪聊天历史 管理聊天会话的方法 以流的方式输出回复 我们将同时使用 llama3.1 和 deepseek 做演示。由于 langchain 可能对不同大模型支持程度不同以及其它限制,所以这个对比并不能说明哪个模型更好。 ...

二月 6, 2025 · 3 分钟 · 火云

本地大模型编程实战(08)用提示词改变聊天机器人的能力(2)

本文将演示使用大语言模型自制聊天机器人。主要的内容有: 使用 LangGraph 进一步完善聊天机器人 使用提示词改变 LLM 的能力 我们将同时使用 llama3.1 和 deepseek 做演示。由于 langchain 可能对不同大模型支持程度不同,不同大模型的特点也不同,所以这个对比并不能说明哪个模型更好。 ...

二月 5, 2025 · 4 分钟 · 火云

本地大模型编程实战(07)用langgraph自制聊天机器人(1)

本文将演示使用大语言模型自制聊天机器人。主要的内容有: 如何让机器人具有记忆 如何使用 langgraph 自动记录聊天历史 我们将同时使用 llama3.1 和 deepseek 做演示。由于 langchain 可能对不同大模型支持程度不同,不同大模型的特点也不同,所以这个对比并不能说明哪个模型更好。 ...

二月 4, 2025 · 4 分钟 · 火云

本地大模型编程实战(06)从文本中提取重要信息(2)

本文将演示使用大语言模型从文本中提炼结构化信息。这次我们不直接使用提示词,而是使用大模型的 few-shot prompting 特性,即使用很少的例子来引导大模型做推理。 我们将用 llama3.1 和 deepseek 做一个简单的对比。 由于 langchain 可能对不同大模型支持程度不同,不同大模型的特点也不同,所以这个对比并不能说明哪个模型更好。 ...

二月 3, 2025 · 3 分钟 · 火云