DeepSeek是一款基于AI技术的智能搜索引擎,结合深度学习与自然语言处理,提供精准、高效的搜索体验。探索DeepSeek,感受未来智能搜索的无限可能!
软件介绍:VL是由杭州深度求索人工智能基础技术研究有限公司开发的开源视觉 - 语言模型系列,其采用混合视...
本文将详细介绍如何在本地部署 DeepSeek 模型,并以图文的形式把操作步骤展示出来,确保即使是初学者也能轻松上手。我们将从环境准备、安装依赖、模型下载到运行模型的每一步进行详细讲解。
电脑配置较高,有独立显卡:本地部署需要较强的硬件支持,尤其是GPU需求。
有私密数据需要处理,担心泄密:本地部署可以避免数据上传到云端,确保数据安全。
需要与本地工作交流结合:处理高频任务或复杂任务时,本地部署可以提供更高的灵活性和效率。
日常使用量大,调用 API 需要收费:本地部署可以节省 API 调用的费用。
想要在开源模型基础上做个性化定制:本地部署允许你对模型进行二次开发和定制。
总结:有钱有技术 + 怕泄密 → 本地部署 没钱没技术 + 图省事 → 直接使用网页/APP
Linux择按照我编辑的跟着操作就行,Windows根据自己的电脑类型,选择不同版本。
苹果电脑选最左边(蓝色框),Windows系统选最右边(红色框),之后点击下载(绿色框)。
下载 DeepSeek 的预训练模型权重,并将其放置在 models/ 目录下。你可以从guan方提供的链接下载,或使用以下命令(假设模型权重已上传到某个服务器):
如果你觉得上述步骤过于复杂,可以使用 Ollama 来简化本地部署过程。Ollama 是一个用于管理 AI 模型的工具,特别适合初学者。
选择 deepseek-r1 模型,并根据你的电脑性能选择合适的参数版本(如 1.5b、7b、14b 等)。
打开命令行(Windows 用户按 Win + R,输入 cmd),粘贴并运行上述命令。模型将自动下载并安装。
当你关闭电脑后,下次再打开ollama。会发现点击ollama的图标,电脑没反应。
因为你点击图标,只是启动了ollama,想要和大模型聊天,还是需要打开命令行。
同时按下键盘上的Win和R键,在弹出的窗口里输入cmd,点击确定打开命令行。在命令行界面,输入刚刚的命令“ollama run deepseek-r1:1.5b”。因为你之前已经下载过,这次无需下载,可以直接和模型聊天。
Open-WebUI 可以为 Ollama 提供一个更友好的图形界面,但安装过程较为复杂,适合有一定技术基础的用户 (只是让交互界面更好看,可以不必安装)
打开浏览器,搜索 Docker,进入guan网,根据你的电脑系统下载并安装 Docker 桌面版。
安装完成后,需要重新启动电脑,才能正常使用docker。重新启动后,如果你的桌面上出现了docker的图标,就表示安装成功了。
安装完成后,打开浏览器,访问 xxx://localhost:3000,注册一个账号并登录。
双击docker的桌面图标,打开软件。点击红框端口,即可运行Open-WebUI。
比如:输入“ollama stop”是停止模型运行,“run + 模型名”是运行对应模型。
通过以上步骤,你可以轻松在本地部署 DeepSeek 模型。无论是通过手动安装还是使用 Ollama,本地部署都能为你提供更高的灵活性和数据安全性。