一、ollama 一建部署启动开源大模型服务

    适合新手。无需关心运行环境问题，类似docker镜像一切都是给配置好的，只需要下载下来启动就可以，可以在命令行内聊天。仅需要在官网下载Windows端，安装完成按照以下命令在CMD中操作即可。

ollama 修改模型默认安装位置：由于模型较大、模型存放目录不建议在C盘，修改方式：

系统环境变量中 新建 变量名：OLLAMA_MODELS 变量值为默认安装位置如 D:\.ollama\models

Ollama官网 

#CMD 命令行

#下载大模型deepseek-r1:1.5b
ollama push deepseek-r1:1.5b

#启动deepseek1.5b大模型服务（如果没有下载会先自动下载模型后启动）
ollama run deepseek-r1:1.5b

#停止服务
ollama stop deepseek-r1:1.5b

#列出所有已安装的大模型
#ollama list

ollama run deepseek-r1:1.5b 效果：

/bye退出命令行聊天

二、图形化界面聊天

命令行内聊天是不友好的，功能也是不丰富的。可以使用以下软件进行界面化聊天。不仅可以配置数据源为本地ollama，也支持绝大多数开放平台的大模型api。同时支持本地知识库搭建。

以chatbox为例：

1点击左侧新建对话，2点击设置

选择模型提供方为 ollama api，模型为下载好的模型如deepseek保存即可。

类似的软件有：

Chatbox、Cherry-Studio、LM-Studio、Anything-LLM‌ 等，配置方式大同小异，建议都下载用一下选择自己喜欢的。

三、搭建本地知识库

国内模型站魔搭社区

huggingface全球最大模型站  

GitHub