1. 首页 > 技术教程 > 正文

VPS 可以部署哪些 AI 工具?AI Agent、编程助手、知识库和自动化平台全景指南

VPS 能跑哪些 AI 工具?这个问题几乎每周都有站长和开发者来问主机选。很多人买完 VPS 第一件事就是装面板跑网站,但其实 VPS 的资源弹性、独立 IP 和 root 权限,非常适合部署 AI Agent、编程助手、知识库和自动化工作流。这篇文章直接按场景分类,列出目前社区验证过、能真正跑起来的工具,附带部署要点和资源参考。

zhujixuan TASK 079 4

VPS 部署 AI 工具的核心分类

VPS 部署 AI 工具不能一概而论。有的工具只调用 API,对本地算力要求低;有的要跑本地模型,需要 GPU 或足够内存。按实际负载场景,大致分四类:

AI Agent 与编程助手:依赖 API 调用,对 VPS 的 CPU 和内存要求不高,1 核 1G 也能跑,重点在 Python 环境、网络稳定和 API Key 管理。

本地模型推理:需要 CPU/GPU 算力,推荐至少 4 核 8G 以上配置,支持 Ollama、vLLM 等推理引擎。

知识库与 RAG 系统:依赖向量数据库和嵌入模型,对磁盘 IO 和内存有一定要求,常见组合是 Ollama + Open WebUI + 向量库。

自动化平台与 MCP 服务器:通常是 Web 服务或后台进程,对内存要求中等,适合 n8n、MCP 等工具。

AI Agent 与编程助手

这类工具的核心是“调用大模型 API 完成任务”,VPS 只提供运行环境和网络出口。适合部署在低配 VPS 上,但要注意 API Key 的安全存储和日志清理。

Claude Code 部署要点

Claude Code 是 Anthropic 推出的命令行编程助手,可以在终端里直接对话、生成代码、执行命令。部署在 VPS 上后,你可以通过 SSH 远程使用,适合在服务器上直接改配置、写脚本。

部署方法很简单:

curl -fsSL https://deb.nodesource.com/setup_18.x | sudo -E bash –
sudo apt install -y nodejs

npm install -g @anthropic-ai/claude-code

export ANTHROPIC_API_KEY="sk-ant-xxxx"
claude

老鸟叮嘱:不要把 API Key 写死在脚本或环境文件里,建议用 `export` 命令临时注入,或者用 dotenv 管理。Claude Code 的会话日志会保存在 `~/.claude` 目录,定期清理,避免磁盘写满。

Codex CLI 与 Hermes Agent

Codex 是 OpenAI 推出的代码生成工具,Hermes Agent 则是开源的多工具 Agent 框架,支持调用 Shell、文件系统、浏览器等。两者都依赖 API 调用,部署流程类似:

python3 -m venv agent-env
source agent-env/bin/activate

git clone https://github.com/hermes-ai/hermes-agent.git
cd hermes-agent
pip install -r requirements.txt

export OPENAI_API_KEY="sk-xxxx"
python run.py

常见坑:Hermes Agent 默认会创建临时目录执行代码,如果 VPS 磁盘空间不足(比如 20GB 系统盘),很容易报错。建议挂载一个独立数据盘,或者用 `–work-dir` 参数指定路径。

本地模型与推理引擎

如果你的 VPS 有 GPU(比如 NVIDIA RTX 系列),或者内存足够大(16GB+),可以部署本地模型。这类工具对硬件要求高,但数据不出服务器,适合隐私敏感场景。

Ollama + Open WebUI 组合

Ollama 是目前社区最流行的本地模型管理工具,支持 Llama、Mistral、DeepSeek 等主流模型。Open WebUI 是一个前端界面,提供类似 ChatGPT 的交互体验。

部署步骤:

curl -fsSL https://ollama.com/install.sh | sh

ollama pull llama3.1:8b

docker run -d -p 3000:8080 \
-v open-webui:/app/backend/data \
–name open-webui \
–restart always \
ghcr.io/open-webui/open-webui:main

资源参考:7B 模型推荐 8GB 内存,13B 模型推荐 16GB,70B 模型需要 32GB+。如果 VPS 只有 4GB 内存,建议用 3B 或 1.5B 的小模型,或者只部署 Ollama 做 API 服务,前端用轻量级客户端。

vLLM 与推理加速

vLLM 是一个高性能推理引擎,支持 PagedAttention 和连续批处理,适合生产环境。部署前需要确认 VPS 有 GPU 和 CUDA 环境。

pip install vllm

python -m vllm.entrypoints.openai.api_server \
–model meta-llama/Llama-3.1-8B-Instruct \
–port 8000

老鸟叮嘱:vLLM 默认绑定 0.0.0.0,端口 8000 会直接暴露在公网。必须用 Nginx 反向代理加 Basic Auth 或 IP 白名单,或者用 `–host 127.0.0.1` 限制本地访问,再通过 SSH 隧道转发。

知识库与 RAG 系统

知识库工具的核心是“文档 -> 向量化 -> 检索 -> 生成”。VPS 上常用组合是 Ollama + Open WebUI + ChromaDB 或 Qdrant。

部署 RAG 工作流

以 Open WebUI 内置的 RAG 功能为例,你只需要在管理后台配置向量库和嵌入模型:

1. 在 Open WebUI 后台开启 RAG 功能。
2. 设置嵌入模型(如 `nomic-embed-text`)。
3. 上传 PDF、TXT 等文档。
4. 系统自动切片、向量化并存储。

资源建议:嵌入模型通常很小(几百 MB),但文档多的话,向量数据库会占用磁盘空间。建议给 `/app/backend/data` 挂载独立存储,或者用外部数据库如 Qdrant。

常见坑:中文文档的切片效果容易出问题,默认按字符切分可能切断句子。建议在 Open WebUI 的 RAG 设置里调整 `chunk_size` 和 `chunk_overlap`,英文用 500-1000,中文用 200-500 字符。

自动化平台与 MCP 服务器

自动化平台让 AI 工具之间、AI 与外部系统之间能互相通信。n8n 是最流行的开源工作流自动化工具,MCP(Model Context Protocol)则是 Anthropic 提出的 Agent 间通信协议。

n8n 部署与 AI 节点

n8n 支持 Docker 部署,自带 Webhook、HTTP 请求、AI 节点等,适合搭建 AI 自动化流水线。

mkdir n8n && cd n8n
cat > docker-compose.yml <<EOF
version: '3.8'
services:
n8n:
image: n8nio/n8n
ports:
– "5678:5678"
environment:
– N8N_BASIC_AUTH_ACTIVE=true
– N8N_BASIC_AUTH_USER=admin
– N8N_BASIC_AUTH_PASSWORD=your_strong_password
volumes:
– ./data:/home/node/.n8n
EOF
docker-compose up -d

安全提醒:n8n 默认端口 5678 不要直接暴露公网。用 Nginx 加 HTTPS 反向代理,或者只开内网访问。n8n 的工作流可以调用 API Key,建议用环境变量管理,不要硬编码。

MCP 服务器搭建

MCP 服务器是 Agent 之间的通信桥梁,适合部署在 VPS 上作为中间件。目前 Claude Code 和部分 Agent 框架已经支持 MCP 协议。

git clone https://github.com/anthropics/mcp-servers.git
cd mcp-servers
pip install -r requirements.txt

export MCP_PORT=8080
export MCP_API_KEY="your_mcp_key"
python server.py

老鸟叮嘱:MCP 目前仍处于早期阶段,不同框架的协议实现可能不兼容。部署前先确认你的 Agent 客户端支持的 MCP 版本,避免花时间调不通。

老鸟叮嘱:部署 AI 工具前必须知道的 4 个坑

1.配置别只看 CPU 核数。很多 AI 工具吃内存,尤其是本地模型和知识库。1 核 1G 的 VPS 能跑 Claude Code,但跑不了 Ollama 7B。买 VPS 前先确定工具的内存基线。
2.API Key 别写死在代码里。用环境变量、dotenv 或密钥管理服务。如果 VPS 被黑,API Key 泄露会直接导致账单爆炸。
3.端口别裸奔公网。所有 Web 服务(Open WebUI、n8n、vLLM)默认都绑定 0.0.0.0,必须用 Nginx 反代加 HTTPS,或者用 ufw 限制 IP。
4.日志和缓存会吃满磁盘。AI 工具的日志、会话记录、模型缓存可能很大。定期用 `du -sh ~/.cache` 检查,设置 logrotate 自动清理。

FAQ

问:1 核 1G 的 VPS 能部署哪些 AI 工具?
答:可以跑 Claude Code、Codex CLI、n8n(不带复杂工作流)、MCP 服务器。不能跑本地模型和知识库。

问:部署 Ollama 需要多大内存?
答:7B 模型推荐 8GB,3B 模型 4GB 勉强能跑,1.5B 模型 2GB 可用。内存不足时模型会自动使用 swap,但速度极慢。

问:Open WebUI 的 RAG 功能怎么配置?
答:在管理后台开启 RAG,设置嵌入模型(如 nomic-embed-text),上传文档后系统自动处理。中文文档建议调整 chunk_size 为 200-500 字符。

问:n8n 的 Webhook 安全吗?
答:默认不安全。必须启用 Basic Auth 或 IP 白名单,或通过 Nginx 加 HTTPS 和认证。Webhook URL 不要公开。

问:MCP 服务器和普通 API 有什么区别?
答:MCP 是 Agent 间的通信协议,支持工具发现、上下文传递和任务编排。普通 API 是单向请求,MCP 是双向交互。

问:VPS 部署 AI 工具需要 GPU 吗?
答:只有跑本地模型需要 GPU。API 调用型工具(Claude Code、n8n)不需要,纯 CPU 也能跑。

总结

VPS 部署 AI 工具的核心是“按需匹配资源”。API 调用型工具低配 VPS 就能跑,本地模型和知识库需要更多内存和 GPU,自动化平台和 MCP 服务器则要关注网络和安全性。主机选建议先明确你的使用场景,再挑合适的工具,别一开始就上大模型。配置前多看官方文档和社区排障帖,能省很多时间。

**相关阅读:**

– [VPS部署AI工具100讲:AI Agent、Codex、Claude Code、Hermes Agent、Ollama与自动化工作流实战教程](https://www.zhujixuan.com/jishujiaocheng/9606.html)
– [Codex、Claude Code、OpenClaw、Hermes Agent、Ollama、n8n 分别适合什么场景](https://www.zhujixuan.com/jishujiaocheng/9759.html)
– [n8n VPS 部署教程:搭建自己的自动化工作流平台](https://www.zhujixuan.com/jishujiaocheng/9892.html)

转载请注明出处:https://www.zhujixuan.com/jishujiaocheng/9749.html 商家投稿邮箱:zhujixuanblog@qq.com