DeepSeek本地部署教程,小白也能搞定!

安装环境操作系统:Windows 10及以上准备工具:轻量级AI模型调用工具Ollama,调用AI模型为deepseek-r1AI 模型管理工具Cherry-Studio或AnythingLLM(二选一)资源链接:复制安装步骤第一步、下载安装Ollama并修改环境变量要运行大模型,首先需要一个好用的工具,推荐使用 Ollama ,它是一个轻量级的工具,支持快速安装和运行大语言模型(如deepseek、Llama、Qwen 等)。 ollama下载地址 :官网链接(文章开头)选择合适的操作系统下载,默认安装完成即可。 这里注意,ollama安装完成后先不要启用,因为它默认是会将模型下载到C盘的,deepseek、Qwen等模型最小也有好几个GB会占用C盘空间,所以需要先设置ollama的环境变量。

安装环境

操作系统:Windows 10及以上

准备工具:

  • 轻量级AI模型调用工具Ollama,调用AI模型为deepseek-r1
  • AI 模型管理工具Cherry-Studio或AnythingLLM(二选一)

资源链接:

复制
https://pan.baidu.com/s/1RVWsJPRdPubjB9ppBTh4Bg
提取码:xyj1

DeepSeek本地部署教程,小白也能搞定!

安装步骤

第一步、下载安装Ollama并修改环境变量

要运行大模型,首先需要一个好用的工具,推荐使用 Ollama ,它是一个轻量级的工具,支持快速安装和运行大语言模型(如deepseek、Llama、Qwen 等)。

ollama下载地址 :官网链接https://ollama.com/download/或者我的网盘(文章开头)

DeepSeek本地部署教程,小白也能搞定!

选择合适的操作系统下载,默认安装完成即可。这里注意,ollama安装完成后先不要启用,因为它默认是会将模型下载到C盘的,deepseek、Qwen等模型最小也有好几个GB会占用C盘空间,所以需要先设置ollama的环境变量。

环境变量设置方法:

① 菜单键搜索“环境变量”

DeepSeek本地部署教程,小白也能搞定!

② 按照如下步骤设置环境变量:

复制
OLLAMA_HOST: 0.0.0.0 
OLLAMA_MODELS:D:\Ollama model

DeepSeek本地部署教程,小白也能搞定!

  • OLLAMA_HOST:设置为0.0.0.0 会将ollama服务应用到所有的网络,默认ollama只绑定到了127.0.0.1和localhost上了;
  • OLLAMA_MODELS_PATH:设置了AI模型的存放路径。

③安装ollama并且设置完环境变量后,CMD打开命令窗口输入下述命令即可查看版本:

复制
ollama -v

DeepSeek本地部署教程,小白也能搞定!

第二步、加载AI大模型(这里使用deepseek-R1大模型)

① 打开ollama官网https://ollama.com/search可以找到AI大模型deepseek-r1,因为爆火,头个就是它

DeepSeek本地部署教程,小白也能搞定!

进入后可根据自身电脑的配置选择规格,然后复制后边对应的命令即可

DeepSeek本地部署教程,小白也能搞定!

这里说明一下:只有671B是满血deepseek大模型,其它的都是蒸馏小模型。另外根据自身电脑配置选择规格参考如下(配置太低是跑不动高规格模型的)

模型

显存需求

内存需求

推荐显卡

性价比方案

7B

10-12GB

16GB

RTX 3060

二手2060S

14B

20-24GB

32GB

RTX 3090

双卡2080Ti

32B

40-48GB

64GB

RTX 4090

租赁云服务器

② 将刚刚复制的命令在CMD命令窗口中运行,即可完成AI模型下载(由于修改了环境变量,存放路径不再是C盘):

复制
ollama run deepseek-r1:7b

DeepSeek本地部署教程,小白也能搞定!

然后就可以提问AI了:

DeepSeek本地部署教程,小白也能搞定!

按Ctrl+Z可以回到上级,输入以下命令可以查看已下载的模型列表:

复制
ollama list

DeepSeek本地部署教程,小白也能搞定!

为了更加美观和可视化的与AI交流,下面需要通过交互工具实现,可以用cherry-studio或者anythingLLM,二选一。本文即介绍anythingLLM的部署方法。

第三步、安装AnythingLLM并通过ollama加载deepseek模型

① 下载地址:官网链接https://anythingllm.com/desktop或我的网盘(文章开头)

DeepSeek本地部署教程,小白也能搞定!

② 完成安装后打开AnythingLLM,点击“设置”修改变量参数:

DeepSeek本地部署教程,小白也能搞定!

DeepSeek本地部署教程,小白也能搞定!

设置完成后创建自己的工作区,这样就可以可视化的开展页面对话了:

DeepSeek本地部署教程,小白也能搞定!

相关资讯

终于把卷积神经网络算法搞懂了!!!

大家好,我是小寒今天给大家分享一个强大的算法模型,卷积神经网络算法卷积神经网络算法(CNN)是一种专门用于处理具有网格结构数据(如图像)的深度学习模型,广泛应用于图像分类、目标检测、语义分割等任务。 CNN 的核心思想是通过模拟生物视觉皮层处理视觉信息的方式,能够自动从图像中提取特征,从而进行分类、检测等任务。 卷积神经网络的基本组成CNN 主要包括卷积层、池化层和全连接层。

Transformer 的三大优化技术!!

Transformer 是一种基于自注意力(Self-Attention)机制的深度学习模型,最早由 Vaswani 等人在 2017 年的论文《Attention Is All You Need》中提出。 与传统的循环神经网络(RNN)和长短期记忆网络(LSTM)不同,Transformer 丢弃了递归计算结构,而是通过自注意力机制并行处理输入序列,从而大大提高了计算效率。 Transformer 广泛用于自然语言处理(NLP)和计算机视觉(CV)领域,如机器翻译、文本生成、文本分类、目标检测等。

DeepSeek新AI模型有多震撼?外媒:相当于30美元iPhone降临

DeepSeek(深度求索)再次推出新版开源AI模型,它的性能与美国最先进的AI模型虽然还有一些差距,但差距极小,成本低很多很多。 西方许多人认为,美国限制中国AI发展的企图遇挫,中国正在加速前进,以更高效率打造高端AI模型。 去年12月,杭州幻方量化推出DeepSeekV3开源大语言模型,它的性能与OpenAI 40和Anthropic Claude 3.5 .