1. 首页 > 技术教程 > 正文

部署 AI 工具需要什么 VPS 配置?CPU、内存、磁盘和带宽建议

部署 AI 工具最常被问的就是“我这台 VPS 到底够不够用?”答案不是简单的“够”或“不够”,得看你跑的是哪种 AI 工具——是纯 API 调用型,还是本地跑模型,还是搞自动化工作流。这篇文章直接拆解不同场景下 CPU、内存、磁盘和带宽的真实需求,帮你避开“买了低配跑不动”或“多花冤枉钱”的坑。

zhujixuan TASK 169

分清场景再选配置:API 调用 vs 本地模型 vs 自动化工作流

AI 工具对 VPS 的压力差异很大,先对号入座:

API 调用型:比如 Claude Code、Codex、Hermes Agent、MCP 客户端,这些工具本身只负责发请求和接收结果,不跑模型。VPS 只需要跑一个轻量级代理或脚本,1 核 1G 内存、20G 磁盘、1Mbps 带宽就能跑起来。但注意,如果同时跑多个 Agent 或频繁轮询,内存和 CPU 会跟着涨。

本地模型型:比如 Ollama、Open WebUI、ComfyUI。这类工具需要把模型下载到 VPS 上,推理时吃掉大量内存和 CPU/GPU。没有独立显卡的 VPS 只能用 CPU 推理,速度慢,内存是瓶颈。跑 7B 模型至少 8G 内存,13B 模型建议 16G,70B 模型没 32G 以上别想。

自动化工作流:比如 n8n、Dify、Flowise,它们本身不跑模型,但会连接多个 API、处理数据、触发 Webhook。这类工具吃 CPU 和内存,尤其是并发任务多时。2 核 4G 内存是起步,复杂场景建议 4 核 8G。

内存:AI 部署的第一瓶颈

很多新手以为 CPU 最重要,实际跑 AI 工具时,内存最先报警。Ollama 加载模型时,模型参数数量 × 精度 ≈ 内存占用。例如 7B 模型用 fp16 精度约 14GB,用 q4 量化约 4-5GB。所以跑量化版 7B 模型,8G 内存勉强够(还得预留系统开销),推荐 16G。

AI Agent 类工具(如 Hermes Agent)如果同时管理多个会话,每个会话缓存上下文,内存消耗也会线性增长。实测跑 10 个并发 Agent,8G 内存很快被占满。

老鸟叮嘱:不要用 1 核 1G 的机器跑 Ollama,哪怕只加载一个 3B 模型也会 OOM。内存不足时系统会疯狂 swap,磁盘读写变慢,整台 VPS 卡死。建议先查官方文档或社区讨论,确认模型量化后的内存需求,再加 1-2G 余量。

CPU:够用就好,但别太弱

纯 API 调用的工具,1 核 2.0GHz 就够。本地模型推理用 CPU 的话,核心数越多越好,但单核性能更重要。例如用 llama.cpp 跑量化模型,单核 IPC 高的 CPU(如 AMD EPYC 或 Intel Xeon 新架构)比多核低频快很多。实测 4 核 3.0GHz 跑 7B 模型每秒能生成 5-8 个 token,勉强可用;2 核只能 2-3 token,体验很差。

自动化工作流工具(n8n、Dify)对 CPU 要求中等,2 核 2.5GHz 能应付日常,但如果有大量定时任务或 Webhook 触发,建议 4 核。

磁盘:模型文件是巨兽

模型文件大小:7B 量化版约 4-6GB,13B 约 8-10GB,70B 量化版也要 40GB 以上。加上 Docker 镜像、日志、数据库,磁盘空间很容易吃紧。建议:

• 纯 API 调用:20-40GB 足够

• 跑本地模型(7B 以下):80GB 起步

• 跑多个模型或大型模型:200GB 以上

磁盘类型也很关键。机械硬盘(HDD)随机读写慢,加载模型和推理时会有明显卡顿。强烈建议用 SSD,NVMe 更好。IOPS 低的磁盘会让 Ollama 加载模型慢几倍。

带宽:看流量方向

• 如果只是本地调用 API,1Mbps 上传都够,因为只传文本。

• 如果部署 Open WebUI 或 ComfyUI 供外部访问,带宽取决于图片/视频输出。生成一张 1024×1024 图片约 2-3MB,5Mbps 带宽能同时服务 2-3 个用户,再多就排队。

• 如果 AI Agent 需要下载模型或插件,带宽越高越好。但大多数 VPS 限制带宽,下载模型时建议用 wget 后台跑,别阻塞服务。

老鸟叮嘱:带宽不足不会让 AI 工具跑不动,但用户访问 Web UI 时会卡。如果只是自己调试,低带宽也无所谓。生产环境建议 5Mbps 以上,且注意流量超额收费。

常见场景配置速查表

| 场景 | CPU | 内存 | 磁盘 | 带宽 |
|——|—–|——|——|——|
| Claude Code / Codex API | 1核 | 1-2G | 20G | 1Mbps |
| Hermes Agent(单Agent) | 1核 | 2G | 20G | 1Mbps |
| n8n + 少量工作流 | 2核 | 4G | 40G | 1Mbps |
| Ollama + 7B量化模型 | 4核 | 8-16G | 80G | 1Mbps |
| Open WebUI + 7B模型 | 4核 | 16G | 100G | 5Mbps |
| 多Agent + 本地模型 | 4-8核 | 16-32G | 200G | 5-10Mbps |

老鸟叮嘱:别忽略这些细节

1.swap 不是救命稻草:内存不够时系统会用 swap,但 SSD 的 swap 速度远低于内存,推理速度会从秒级降到分钟级。宁愿加内存,也别依赖 swap。
2.Docker 资源限制:如果一台 VPS 跑多个容器,记得用 `–memory` 和 `–cpus` 限制每个容器的资源,防止一个服务吃掉全部内存导致其他服务崩溃。
3.端口安全:AI 工具常暴露 Web 端口(如 3000、7860、8080),不要直接绑 0.0.0.0 不加防火墙。用 Nginx 反向代理 + HTTPS + 基本认证,或者用 Cloudflare Tunnel。
4.模型版本更新:Ollama 模型库经常更新,新模型可能更大。选 VPS 时留出 20% 余量,避免以后升级麻烦。

FAQ

Q1:1 核 1G 的 VPS 能跑 Ollama 吗?
不能。最小 3B 量化模型也需要 2G 内存,1G 内存连系统都跑不顺畅,会频繁 OOM。

Q2:跑 AI Agent 需要买带 GPU 的 VPS 吗?
纯 API 调用不需要。如果要在本地跑模型,GPU 能大幅提升推理速度,但带 GPU 的 VPS 价格高。CPU 跑小模型(3B-7B)也能用,只是慢。

Q3:n8n 部署 AI 工作流,2 核 4G 够吗?
够。n8n 本身很轻量,但如果你在工作流里调用了 Ollama 或外部模型 API,内存开销主要在外接服务上,n8n 本身 1-2G 内存足矣。

Q4:磁盘用 HDD 行不行?
建议 SSD。HDD 随机读写慢,加载模型和 Docker 镜像时耗时很长,推理时也可能因磁盘 I/O 拖累性能。

Q5:带宽 1Mbps 能跑 Open WebUI 吗?
能跑,但多人访问时图片加载慢。如果只自己用,1Mbps 可以接受。生产环境建议 5Mbps 以上。

Q6:VPS 内存 8G,跑 7B 模型总是卡死怎么办?
检查是否用了量化版本(如 q4_K_M),非量化版本 7B 需要 14G 内存。可以用 `ollama run <model> –verbose` 查看实际内存占用,若接近 8G,建议换成 3B 模型或升级内存。

转载请注明出处:https://www.zhujixuan.com/jishujiaocheng/9952.html 商家投稿邮箱:zhujixuanblog@qq.com