首页 DeepSeek系列2:本地部署
文章
取消

DeepSeek系列2:本地部署

1,下载并安装ollama

简化了大型语言模型的部署流程,你可以用它快速在本地运行和测试模型。

安装后cmd输入ollama验证一下

打开ollama网页,点击左上角的models

终端运行 ollama run deepseek-r1:7b 即可

2,使用可视化ui 下载并安装https://chatboxai.app/zh

启动后,选择 使用自己的 API Key 或本地模型。选择ollamaAPl,注意使用时要保持ollama run运行状态

还有DeepSeek本部部署整合包。

参考 https://mp.weixin.qq.com/s/6w8VT0KNzJw5RjSeTyCTJw

本文由作者按照 CC BY 4.0 进行授权

windows开发系列3:C++库管理器vcpkg

AI系列19:模型蒸馏是什么