Ollama部署全攻略：从安装到模型下载的完整指南

环境准备与Ollama安装

在开始部署之前，需要确保本地计算机满足基本的运行要求。Ollama支持Windows、macOS和Linux主流操作系统。对于Windows用户，需要Windows 10或更高版本；macOS用户则需要macOS 11（Big Sur）及以上。硬件方面，虽然对CPU无特殊限制，但运行大型语言模型对内存有较高要求，建议准备至少8GB可用内存，若要运行70亿参数及以上规模的模型，16GB或更多内存会获得更流畅的体验。

安装过程十分简便。访问Ollama官方网站，根据操作系统下载对应的安装程序。Windows和macOS用户直接运行下载的安装包，跟随图形界面指引即可完成。Linux用户则可以通过在终端中执行一行官方提供的curl命令来完成安装。整个安装过程会自动处理依赖项，并将Ollama注册为系统服务，安装完成后通常无需额外配置。

服务的启动与基础操作

安装完成后，Ollama服务会自动在后台启动。可以通过系统任务管理器（Windows）或活动监视器（macOS）确认“ollama”进程是否正在运行。对于Linux用户，可以使用systemctl status ollama命令检查服务状态。所有用户都可以通过打开命令行终端（如Windows的PowerShell、macOS的Terminal或Linux的Shell）来与Ollama进行交互。

在终端中输入“ollama”命令，可以看到一系列可用的子命令列表，这是管理本地模型的核心工具。最常用的操作是运行模型。例如，输入“ollama run llama2”命令，Ollama会检查本地是否已存在名为“llama2”的模型，如果不存在，则会自动从官方模型库拉取该模型，下载完成后自动进入交互式对话界面。在此界面中，用户可以直接输入问题，模型会生成并流式返回回答，完成对话后输入“/bye”即可退出。

模型的拉取与管理

Ollama的核心功能之一是管理多种多样的开源大语言模型。除了上述运行命令时会自动拉取模型外，也可以使用专门的命令来管理模型库。使用“ollama list”可以列出当前本地已下载的所有模型及其版本和大小。要主动下载一个模型而不立即运行，可以使用“ollama pull 模型名”命令，例如“ollama pull mistral”会下载Mistral 7B模型。

官方模型库提供了丰富的选择，从轻量级的Phi、Gemma，到中等规模的Llama 2、Mistral，再到更强大的CodeLlama、Llama 2 70B等。每个模型可能有不同的参数版本，通过在模型名后添加冒号和标签来指定，如“ollama pull llama2:13b”即下载130亿参数的Llama 2版本。对于不再需要的模型，可以使用“ollama rm 模型名”命令将其从本地删除，以释放磁盘空间。

通过API接入第三方应用

Ollama不仅提供命令行交互，更强大的功能在于其本地API服务。默认情况下，Ollama在本地主机的11434端口启动了一个API服务，该API兼容OpenAI的格式，这使得许多支持OpenAI接口的第三方应用程序可以直接连接到本地运行的模型。

例如，在支持自定义API基础的Chatbot UI、Open WebUI或某些笔记软件中，只需将API基础地址设置为“http://localhost:11434/v1”，并将API密钥字段留空或填写任意字符即可。设置成功后，这些前端界面就可以像调用云端ChatGPT一样调用本地部署的模型，实现了图形化界面的对话、创作或分析功能，极大地扩展了Ollama的实用性和易用性。

模型下载与版本控制进阶技巧

对于网络环境特殊或需要批量管理模型的用户，Ollama命令行提供了更细致的控制。下载模型时，可以通过观察终端输出的进度条了解下载状态。如果下载中断，重新执行相同的pull或run命令会尝试断点续传。使用“ollama show 模型名”命令可以查看该模型的详细信息，包括其使用的Modelfile配置。

版本管理是模型迭代中的常见需求。当官方模型库更新后，可以使用“ollama pull 模型名”来获取最新版本，本地旧版本会保留。如果需要运行某个特定版本，在run命令中指定完整标签即可，例如“ollama run llama2:7b-text-fp16”。这种设计允许用户在测试新版本的同时，稳定工作流仍可依赖于旧版本模型，保障了使用的灵活性。

来源：互联网