本地大模型编程实战(10)与外部工具交互(1)
某些模型能够进行工具方法调用:生成用户自定义的方法的签名并调用它。一般来说,此交互过程主要包含下面几个步骤: LLM(大语言模型) 根据用户的问题推理生成调用工具方法的名称和参数 调用工具,返回简单的结果 再次调用 LLM ,生成自然流畅的回答 下面我们来说明这一过程。 应该是因为 langchian 对 deepseek 的支持还完善,使用 deepseek-r1 无法生成工具方法签名,使用 MFDoom/deepseek-r1-tool-calling:7b 可以生成工具方法签名,但是在调用工具方法时不成功。 所以本文仅使用 llama3.1。 ...