IT运维

如果我比别人看得更远，那是因为我站在巨人的肩上。 – 艾萨克·牛顿 不知道您是否像我一样：希望自己能有一个完全本地部署的AI实验室，它有可视化界面，可以与大模型聊天，可以做智能体，还可以提供标准化的接口… Chatbox、Dify、Ollama 与 Qwen（通义千问）大模型完全可以整合在一起，且整合后能形成 “本地模型 + 可视化开发管理 + 多端交互” 的完整 AI 应用链路。四者的定位互补性强，整合核心逻辑是 Ollama 负责本地运行 Qwen 模型 → Dify 提供模型管理与应用开发能力 → Chatbox 作为轻量客户端实现多端交互： 系统/模型 核心定位 关键角色 Ollama 轻量本地大模型运行框架 「模型载体」：简化本地模型部署，支持一键启动 Qwen、Llama 等开源模型，提供 API 接口供外部调用 Qwen（通义千问） 阿里开源大模型（如 Qwen-8B/14B） 「核心能力源」：提供对话、生成、推理等 AI 能力，需依赖 Ollama 或其他框架运行 Dify 开源 LLM 应用开发平台 「开发与管理中枢」：支持接入 Ollama 部署的 Qwen 模型，提供可视化 workflow、RAG 检索、Agent 工具链，可快速搭建 AI 应用（如问答系统、智能助手） Chatbox 多端 AI 客户端 「交互入口」：支持接入 Dify 或 Ollama 的 API，提供桌面（Windows/Mac/Linux）、移动端（iOS/Android）的轻量交互界面，优化用户使用体验 下面我们就一步一步的把这个AI实验室搭建起来。 ...

dify 是一个开源的 LLM 应用开发平台，其核心功能包括： 工作流：可在画布上构建和测试强大的 AI 工作流程。 全面的模型支持：与数百种专有 / 开源 LLMs 及数十种推理提供商和自托管解决方案无缝集成，支持 GPT、Mistral、Llama3、qwen 等及任何与 OpenAI API 兼容的模型。 Prompt IDE：提供直观界面，用于制作提示、比较模型性能及为聊天类应用添加文本转语音等功能。 RAG Pipeline：具备广泛的 RAG 功能，涵盖文档摄入到检索，支持从 PDF、PPT 等常见文档格式提取文本。 Agent 智能体：可基于 LLM 函数调用或 ReAct 定义 Agent，提供 50 多种内置工具如谷歌搜索、DALL・E 等。 LLMOps：能监测和分析应用日志与性能，基于生产数据和注释持续改进提示、数据集及模型。 Backend-as-a-Service：所有功能都提供 API，便于将 Dify 集成到自有业务逻辑中。 本文将把详细的讲述搭建 dify 并且用它的 Chatflow 搭建智能体应用的过程。 ...

Chatbox 是一款开源的跨平台 AI 聊天客户端，核心功能是聚合管理多个 AI 模型，并提供更高效、隐私可控的对话体验。 Chatbox 默认支持桌面端 Electron 应用，在构建纯 web 的 docker 容器时，需要自定义构建过程。 最近我因为构建AI实验室的需要，希望构建 Chatbox 的纯web的docker镜像，然后部署在服务器上，方便大家使用。 这个过程比较艰辛，希望它能让您少走弯路：） ...

Ollama 是一个致力于让每个人都能在本地设备上自由运行大型语言模型的开源平台。它可以在 windows 和 linux 平台上运行，即支持 GPU ，也支持 CPU，使用起来很方便。 本文介绍了如何在ubuntu中离线部署 ollama 和大模型 qwen3。 ...

docker 作为容器化技术的代表，其核心优势在于解决了 软件在不同环境中运行不一致 的痛点，并通过轻量级虚拟化、标准化部署等特性显著提升了开发、测试和运维效率。 在绝大部分场合，掌握了 docker 和 docker-compose 就足够应对一般的应用场景了，本文将讲述在服务器不连接互联网的情况下，如何在ubuntu中离线部署 docker 和 docker-compose。 ...

我在内网中有很棒的服务资源，但是没有固定IP，如何能够在公网使用呢？ 要解决这种问题，内网穿透工具 frp（Fast Reverse Proxy） 是一个很棒的选择：既然外网不能访问内网，那么就主动从内网打通到外网的通道！ 基本的原理是： 前提条件 要有一台有公网地址的服务器【配置可以比较低】，内网服务器可以连接到这台公网服务器 内网服务器安装frp客户端:frpc，公网服务器安装frp服务端:frps 建立 “长连接”—— 打通内网到公网的 “通道” 内网设备启动 frpc 客户端，并加载配置文件（配置中包含 frps 的公网 IP、端口、认证信息等）。 frpc 主动向公网的 frps 发起 TCP 长连接（默认用 8000 端口，可自定义），并维持这个连接（通过心跳机制防止断开）。 这一步是穿透的关键：由于内网设备没有公网 IP，公网无法主动 “找到” 内网设备，因此必须由内网的 frpc “主动出击”，与公网的 frps 建立连接，形成一条稳定的 “数据通道”。 内网设备无法被公网访问的根本原因，是路由器的 NAT（网络地址转换）机制会隐藏内网 IP。frp 通过 “frpc 主动连接 frps” 的方式，让路由器将 frpc 与 frps 的连接加入 “NAT 映射表”，后续 frps 向 frpc 发送的数据（公网请求），会被路由器正确转发到内网的 frpc，从而实现 “穿透” NAT 的效果。 本文通过一个具体的例子来展示如何使用内网穿透工具frp将内网的web服务推向公网。 frp下载地址 ...