1 核 1G 的 VPS 能不能跑 Ollama？结论是：能跑，但别指望用它跑 7B 以上模型。主机选实测过几台低配机器，Ollama 本身占用很小，真正吃资源的是模型加载。如果你手头只有这种配置的服务器，又想体验本地 LLM 或者跑一些轻量 AI Agent，这篇分析会告诉你哪些场景可行、哪些别浪费时间。
低配 VPS 跑 Ollama 的硬件瓶颈在哪
Ollama 服务本身只占用几十 MB 内存，但加载模型后，模型参数需要全部加载到内存。1G 内存减去系统占用（大约 200-300MB），可用内存约 700-800MB。这意味着你只能选参数量极小、量化程度高的模型。
模型选择：只看 1B 以下 + Q4 量化
•TinyLlama 1.1B：Q4 量化后约 600MB，勉强能跑，但生成速度慢，CPU 跑的话每 token 大概 0.5-1 秒。
•Phi-2 2.7B：即使 Q4 量化也有 1.5GB 左右，1G 内存直接 OOM，别试。
•Gemma 2B：同样超内存，除非你开大 swap，但性能会降到没法用。
•Qwen2.5-0.5B或Llama-3.2-1B：这类小模型更合适，Q4 量化后约 300-500MB，能流畅对话。
核心原则：模型文件大小必须小于可用内存的 70%，否则系统会频繁 swap，生成一个字等几十秒。
部署实操：Docker 还是直接装？
Ollama 官方推荐直接安装，但低配机器上 Docker 会多占一层资源（约 100-200MB），建议用原生安装。
直接安装步骤（Ubuntu/Debian）
curl -fsSL https://ollama.com/install.sh | sh
systemctl start ollama
ollama pull tinyllama:1.1b-q4_K_M
ollama run tinyllama:1.1b-q4_K_M
注意：安装后检查一下日志 `journalctl -u ollama -n 50`，如果出现 `OOM` 或 `killed`，说明内存不足，换更小的模型或增加 swap。
配置 swap 的必要性
1G 内存跑小模型也容易在上下文变长时爆内存。建议配置 2G swap 作为保险：
fallocate -l 2G /swapfile
chmod 600 /swapfile
mkswap /swapfile
swapon /swapfile
echo '/swapfile none swap sw 0 0' >> /etc/fstab
但别指望 swap 能救大模型，它只能让系统不崩溃，速度会降到无法交互。
可行场景分析
场景一：纯 API 调用测试
如果你只是想测试 Ollama API 接口，比如对接 n8n、Open WebUI 或 AI Agent（如 Codex、Claude Code 的本地模型替代），1 核 1G 完全够用。Ollama 本身作为 API 服务，不加载模型时几乎无负载。你可以在另一台高配机器上跑模型，用这台低配 VPS 做 API 代理或前端展示。
场景二：简单对话/文本生成
用 tinyllama 或 qwen2.5:0.5b 跑单轮对话，上下文长度限制在 512 token 以内，能正常交互。适合做聊天机器人原型、测试 prompt 效果。注意并发用户数不要超过 1 个，否则 CPU 100% 卡死。
场景三：本地 AI Agent 的轻量推理
一些 AI Agent 框架（如 Hermes Agent、MCP 的客户端）需要本地模型做简单判断或分类。1B 模型足够做关键词提取、情感分析、代码注释生成等任务。但别用它做代码生成或复杂推理，效果很差。
不可行场景
•运行 7B 以上模型：想都别想，1G 内存连模型加载都完成不了。
•生产环境高并发：单个请求就吃满 CPU，多用户直接雪崩。
•长上下文（超过 1024 token）：内存会迅速耗尽。
•同时运行 Ollama + 其他服务（如 Nginx、数据库）：除非你只跑最轻的模型，否则很容易 OOM。
老鸟叮嘱（避坑模块）
1.别用 root 跑 Ollama：默认安装会创建 ollama 用户，但如果你手动改目录，注意权限。安全起见，API 端口 11434 不要暴露到公网，用 Nginx 反向代理加 IP 白名单。
2.模型版本号写清楚：拉模型时指定量化标签，比如 `tinyllama:1.1b-q4_K_M`，不指定会拉最大版本（约 2.5GB），直接撑爆内存。
3.监控内存：用 `htop` 或 `free -h` 实时看内存占用，一旦发现 swap 使用率超过 50%，立即停止任务。
4.不要用 Docker：除非你机器内存大于 2G，否则 Docker 额外开销会让可用内存更少。
5.Ollama 的 keep-alive 设置：默认模型会保持加载 5 分钟，低配机器建议设为 0，用完立即卸载内存：`ollama run –keep-alive 0 tinyllama:1.1b-q4_K_M`。
FAQ
Q：1 核 1G VPS 能跑 Ollama 的哪个模型？
A：推荐 TinyLlama 1.1B Q4 量化版本，或 Qwen2.5-0.5B、Llama-3.2-1B 的 Q4 版本。绝对不要尝试 2B 以上模型。
Q：跑 Ollama 需要多大磁盘？
A：模型本身约 500MB-1GB，加上系统，建议至少有 5GB 剩余空间。Ollama 默认下载到 `/usr/share/ollama/.ollama/models`，也可用软链接改到数据盘。
Q：为什么我拉完模型就卡死了？
A：大概率内存不足。检查是否拉错了模型版本（比如拉了 full 版），或者系统内存被其他进程占用。用 `ollama list` 查看已拉模型大小。
Q：低配 VPS 可以用 Open WebUI 连接 Ollama 吗？
A：可以，但 Open WebUI 本身需要 Node.js 和 Python，建议单独用一台机器部署 WebUI，低配 VPS 只跑 Ollama API，通过内网或反向代理连接。
Q：Ollama 在 1 核 CPU 上生成速度多慢？
A：TinyLlama 1.1B Q4 在 1 核 2.0GHz 上约 3-5 token/秒，勉强可读。如果同时有其他进程，速度会降到 1 token/秒以下。
Q：可以用 swap 来跑大模型吗？
A：理论上可以，但实际体验极差。swap 读写速度是内存的百分之一，生成一段话可能需要几分钟，不建议用于任何交互场景。
结尾
1 核 1G VPS 跑 Ollama 不是伪命题，但必须接受“只能跑最小模型”的现实。如果你只是想体验本地 LLM 或做简单 API 测试，这个配置够用；如果追求响应速度或复杂推理，建议升级到 2 核 4G 以上。主机选建议：先按本文步骤跑一遍 tinyllama，感受一下性能瓶颈，再决定是否需要升级硬件。
—
**相关阅读：**
– [VPS部署AI工具100讲：AI Agent、Codex、Claude Code、Hermes Agent、Ollama与自动化工作流实战教程](https://www.zhujixuan.com/jishujiaocheng/9606.html)
– [Codex、Claude Code、OpenClaw、Hermes Agent、Ollama、n8n 分别适合什么场景](https://www.zhujixuan.com/jishujiaocheng/9759.html)
– [Hermes Agent VPS 部署教程：Docker Compose 安装和初始化配置](https://www.zhujixuan.com/jishujiaocheng/9872.html)
转载请注明出处：https://www.zhujixuan.com/jishujiaocheng/9864.html 商家投稿邮箱：zhujixuanblog@qq.com
