Ollama大模型Windows系统部署

1. ollama下载

访问ollama官网点击Download进行ollama下载；

选择Windows系统，点击Download for Windows进行下载；

2. ollama安装

双击OllamaSetup.exe进行Ollama安装；

点击Install进行安装(安装位置默认不可更改)，安装完成自动关闭安装窗口并自动启动Ollama，在电脑右下角状态栏中可以看到小羊驼图标；

3. 模型下载位置更改

鼠标右键点击Win图标选择Windows PowerShell(管理员)(A);

在Windows PowerShell窗口输入命令：setx OLLAMA_MODELS "D:\ollama_model"将Ollama模型存储位置从C盘改为D盘ollama_model文件夹中；

4. 模型下载

在Windows PowerShell窗口输入如下命令(一条为一个命令对应一个模型)(可以下载多个模型，配置比较低的设备可以选择3b以下的模型使用)；

ollama run llama3.2:3b

ollama run gemma:2b

ollama run qwen2.5:3b

ollama run phi3:3.8b

ollama run gemma2:2b

ollama run qwen2.5-coder:3b

ollama run orca-mini:3b

ollama run phi3.5:3.8b

ollama run moondream:1.8b

5. Chatbox.CE安装

Chatbox是一款跨平台的大语言模型桌面客户端，可以可视化交互使用ollama；Chatbox下载

双击Chatbox.CE-Setup.exe进行安装

Chatbox.CE安装完成点击完成，程序开始运行；

如上图左侧列表均是提问示例，可选中后进行编辑或删除；

点击设置，在设置界面模型选项下可选择模型提供方为：ollama

系统自动填充本地ollama模型API域名，选择模型为刚才下载的llama3.2:3b模型，可自行设置上下文的消息数量上限；点击保存或可以设置其他参数。

现在就可以使用本地ollama模型进行问答；

下图是在VMware虚拟机上运行的ollama模型。