Ollama 命令速查表 - 本地大模型运行 CLI 全参数
Ollama 解决的是一个具体的工程问题：让模型文件和运行参数可复现，而不是"我机器上能跑"。它把下载、量化格式、GPU 层数、上下文长度、Modelfile 定制和 OpenAI 兼容服务收进同一套命令，因此和手动维护 llama.cpp 相比，升级模型时不必重编参数、CI 里不必缓存二进制。判断该用它还是云端 API 的依据很清楚——数据能否出本机、是否需要固定某个量化版本、峰值并发是否值得独占显卡——后面两种才是值得折腾本地运行时的情况。真正需要动手配置的是三处：Modelfile 里固化 SYSTEM 与 PARAMETER，让行为随模型一起版本化；用 create 造出带名字的变体而不是每次敲一长串 run 参数；用 ollama serve 把服务常驻、端口与保持时长调对，再让业务代码按 OpenAI 协议接进来。
运行与交互 5
ollama run llama3.1ollama run llama3.1 "一句话总结"ollama run -mollama serveollama ps模型管理 5
ollama pull <model>ollama push <model>ollama listollama rm <model>ollama cp <src> <dst>Modelfile 定制 5
FROM llama3.1PARAMETER temperature 0.7SYSTEM "你是一名严谨的助手"TEMPLATE """{{ .Prompt }}"""ollama create mymodel -f Modelfile服务与端口 5
ollama serveOLLAMA_HOST=0.0.0.0 ollama servecurl http://localhost:11434/api/generateollama show <model>ollama embeddings实用技巧 5
ollama run llama3.1 -c 4096ollama list | headollama run --verbose多模型并行 ps 监控ollama run <m> "翻译..."提示
- Ollama 是本地推理事实标准，AI 表补"本地模型"入口能覆盖隐私/离线/零 API 成本场景，与云端 CLI 形成互补。
- 用 Modelfile 的 SYSTEM/PARAMETER 固化行为，比每次在提示词里重复系统指令更稳、可版本化。
- 显存紧张用
-c限制上下文窗口，或用ollama ps监控多模型并行占用，避免 OOM。 - 需要被代码调用时走
ollama serve+ REST API，比交互式更适合服务化部署。 ollama show <model>能看到模型真实的量化类型、参数量、上下文长度和 Modelfile 内容，换模型跑出不同结果时先比这一项，比反复调 prompt 更快定位。ollama cp复制模型、ollama rm清理：ollama list里的 blob 会一直占盘，多模型轮换后用du配合 rm 定期清，否则磁盘先于显存告急。- 并发调同一个模型时注意
ollama ps里的 PROCESSOR 一栏：显示 100% GPU 说明算力已饱和，排队变慢不是请求写法的问题。
常见问题
Ollama 有哪些常用命令？
最常用的是 ollama run <模型> 直接拉取并进入交互；ollama pull <模型> 只下载不运行；ollama list 查看本地已拉取的模型；ollama ps 查看正在运行的模型；ollama create 用 Modelfile 定制模型；ollama serve 把模型以兼容 OpenAI 的 API 暴露在本机 11434 端口。
怎么用 Ollama 下载并运行一个模型？
执行 ollama run llama3.2 这类命令即可：若本地没有该模型会自动从官方库拉取，拉完直接进入对话。只想先下载可执行 ollama pull <模型>。
Ollama 怎么把模型跑成 API 服务？
ollama serve 会启动本地服务，默认在 11434 端口提供与 OpenAI 兼容的 /v1 接口；也可以不显式 serve，因为 ollama run 时后端已按需拉起。把 OpenAI 客户端的 base URL 指向 http://localhost:11434 即可接入。
Ollama 怎么查看本地有哪些模型、哪些正在运行？
ollama list 列出全部已拉取的模型及大小、修改时间；ollama ps 只显示当前正在内存中运行的模型与占用。要删模型用 ollama rm <模型>。
由 巧匠 维护
公开更新于 2026年8月21日，内容持续校对官方文档。