站长部署 AI 工具,选服务器比选工具本身更考验经验。不同场景——跑个 Ollama 本地模型、挂 n8n 自动化工作流、还是部署 AI Agent 接 MCP——对 VPS 的要求天差地别。这篇清单直接按场景拆配置,帮你绕过“买回来跑不动”的坑。

入门级 VPS:跑 API 调用型 AI 工具和轻量 Agent
适合场景:Claude Code 代码辅助、n8n 低代码工作流、Hermes Agent 简单对话、Open WebUI 前端(后端接云端 API)。这类工具本身不跑大模型,只负责编排和调用,对算力要求低。
•CPU:2 核起步,主流 x86(Intel/AMD)即可,ARM 架构也能跑但部分镜像不兼容。
•内存:4GB 是最低门槛。n8n 加几个节点后容易吃掉 1.5GB,Open WebUI 配合 Docker 大概占 2GB。低于 4GB 会频繁 OOM。
•磁盘:40GB SSD 足够。系统加 Docker 镜像加日志,20GB 很容易被撑满。建议选 50GB 以上。
•带宽:5Mbps 够用,如果对外提供 Web 服务(比如 Open WebUI 公网访问),建议 10Mbps 以上。
•系统:Ubuntu 22.04/24.04 最省心,CentOS 已停更,Debian 12 也行。
老鸟叮嘱:入门级 VPS 不要直接挂数据库生产环境。n8n 的 Webhook 端口别暴露公网,用 Nginx 反代加 Basic Auth 或 Cloudflare Tunnel。如果跑 AI Agent 需要调 OpenAI/Claude API,注意出口 IP 是否被限流,选海外节点时测一下延迟。
进阶级 VPS:本地运行小模型和中等规模 Agent
适合场景:Ollama 部署 7B 以下模型(如 qwen2.5:7b、llama3.2:3b)、Codex 本地代码补全、MCP 服务器、多个 Agent 并发。
•CPU:4 核以上,推荐 8 核。推理时 CPU 模式慢但可接受,7B 模型量化后跑在 8 核上大概 2-3 tokens/s。
•内存:16GB 起步,32GB 更稳。7B 模型量化后需要 6-8GB,加上系统和其他服务,16GB 勉强够用。如果同时跑 Ollama 和 n8n,32GB 才不卡。
•磁盘:100GB SSD,NVMe 最佳。模型文件动辄 4-8GB,多个模型版本累积很快。注意 IOPS,不要用共享存储。
•GPU:可选,但普通 VPS 很少配 GPU。如果需要加速推理,选带 NVIDIA T4/RTX 4090 的 GPU 云服务器,价格翻倍。纯 CPU 推理也能用,只是响应慢。
•带宽:10Mbps 以上,如果对外提供模型 API,上行带宽要够。
老鸟叮嘱:Ollama 默认监听 127.0.0.1:11434,别直接改成 0.0.0.0 暴露公网。建议用 Nginx 反代并加 API Key 验证。模型下载前先看磁盘剩余空间,`df -h` 检查,否则下载一半报磁盘满。内存不足时不要开 swap,会拖死整台机器。
生产级 VPS:多模型并发、AI Agent 集群、高可用部署
适合场景:多个 Agent 同时运行、MCP 服务对外提供、n8n 企业级工作流、Ollama 同时服务多个用户、Codex 团队协作。
•CPU:16 核以上,推荐 32 核或更高。多并发推理时 CPU 是瓶颈,单核性能也很重要,选高频型号。
•内存:64GB 起步,128GB 常见。每个模型实例占用 8-16GB,加上 Agent 进程、n8n 节点、数据库,64GB 很容易吃满。
•磁盘:500GB NVMe SSD,RAID1 或分布式存储。日志、模型、数据库备份都需要空间。建议额外挂载独立数据盘。
•GPU:强烈推荐。至少一张 T4/RTX 4090,或者 A10/A100。没有 GPU 的话,纯 CPU 推理延迟高,无法支撑生产。GPU 云服务器成本高,但省时间。
•网络:100Mbps 以上,BGP 多线,低延迟。如果服务全球用户,选靠近用户区域的数据中心。
•高可用:至少两台以上,用负载均衡(如 Nginx、HAProxy)分摊流量。数据库和模型文件用共享存储或对象存储同步。
老鸟叮嘱:生产环境不要用 root 跑所有服务。为每个服务创建独立用户,Docker 容器用非 root 用户运行。API Key 存环境变量,不要写进代码。日志轮转必须配置,否则磁盘很快写满。压力测试一定要做,用 `ab` 或 `wrk` 测并发上限。
老鸟叮嘱:避坑清单
1.内存不足:很多入门 VPS 标 2GB 内存,实际可用可能只有 1.5GB。跑 Docker 加 AI Agent 很容易 OOM。选 VPS 时看实际可用内存,预留 20% 余量。
2.磁盘 IO 差:便宜 VPS 用 HDD 或共享 SSD,Ollama 加载模型时非常慢,甚至超时。务必选 NVMe 或企业级 SSD。
3.带宽虚标:共享带宽高峰期只有标称的 1/10。测试方法:`curl -o /dev/null -s -w '%{speed_download}' https://speedtest.tele2.net/1GB.zip`。
4.IP 被墙或限流:海外 VPS 如果被墙,AI API 调用会失败。选之前测一下 IP 连通性。国内用户建议选香港或日本节点。
5.系统版本太旧:Ubuntu 20.04 以下安装 Docker 和 Ollama 麻烦,Python 版本低也影响 Agent 运行。直接用 Ubuntu 24.04 最省事。
6.安全裸奔:公网端口全开、root 密码弱、无防火墙,是黑客的靶子。至少执行 `ufw default deny incoming && ufw allow ssh && ufw enable`。
FAQ
Q:2GB 内存的 VPS 能跑 Ollama 吗?
A:能跑 1B 以下小模型(如 qwen2.5:0.5b),但跑 7B 模型肯定 OOM。建议至少 4GB,实际跑 7B 模型需要 8GB 以上。
Q:n8n 和 Open WebUI 可以装在同一台 VPS 上吗?
A:可以,但注意端口冲突。n8N 默认 5678,Open WebUI 默认 3000,用 Docker 映射不同端口即可。4GB 内存下勉强跑,建议 8GB。
Q:AI Agent 需要 GPU 吗?
A:如果 Agent 只调云端 API,不需要 GPU。如果 Agent 本地跑小模型(如 Codex 代码补全),CPU 也能跑但慢。生产环境建议配 GPU。
Q:怎样判断 VPS 磁盘 IO 够不够?
A:用 `dd if=/dev/zero of=test bs=1M count=1024 oflag=direct` 测写速度,NVMe SSD 应 >300MB/s,普通 SSD >100MB/s。低于 50MB/s 别买。
Q:Ollama 模型下载失败怎么办?
A:先检查磁盘剩余空间和网络。可以用 `ollama pull –insecure` 跳过证书验证,或手动下载模型文件放到 `~/.ollama/models`。
Q:生产环境一定要用 Docker 吗?
A:强烈建议。Docker 隔离环境、方便迁移、版本管理。AI Agent 依赖的 Python 版本和库容易冲突,Docker 可以避免。
站长部署 AI 工具,配置选对了省一半时间。从入门 VPS 到生产环境,核心看内存、磁盘 IO 和网络,GPU 按需上。动手前先拿小配置测试,确认跑得稳再升级。
转载请注明出处:https://www.zhujixuan.com/jishujiaocheng/9973.html 商家投稿邮箱:zhujixuanblog@qq.com
