大家好,我是宪哥。
今天在 AI 群看到有小伙伴问关于 DeepSeek 本地部署的事情:
![图片[1]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161055.png)
讲真,我还真收藏了很多的教程和攻略,甚至我还去万能的宝随手一搜:
![图片[2]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161117.png)
好家伙,不搜不知道,一搜吓一跳,这玩意居然这么赚钱?24 小时内 200+人已买,
1 天 3100 元,一个月就是 93000 元,这得是多少个月的工资啊,这一波还真得感谢下 DeepSeek。(此时的我留下了不争气的泪水😭)
这还只是个简单的教程,而且说实话,本地部署对于很多小伙伴估计就是几分钟的事情。
不过有需求的地方就有市场嘛,作为一名合格的科技博主,必须也得整点科技与狠活。
不信你看,就简单 3 步:
![图片[3]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161158.png)
当然了,在教程前,先来个灵魂拷问:
我觉得吧,你要想本地能和官网一样的效果,那是不现实的,说实话也没这个必要,但本地部署最终要的是能解决数据隐私的问题。
他是你自己的智能助手,况且折腾本身也是对 AI 更理解的一种实践,毕竟马克思曾说过:
第一步 :安装 Ollama
Ollama 是个啥?你可以叫它「欧拉马」,可以理解成是个自己电脑上运行大语言模型的容器,开源,免费,不用联网。
这玩意怎么下?要么直接搜索 Ollama:
![图片[4]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161250.png)
要么,就直接点击这个链接:https://ollama.com ,就可进入官网:
![图片[5]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161306.png)
(ps:这个呆萌的羊驼还挺有意思😂)
点击 Download 进行下载,选择自己电脑对应的版本即可:
![图片[6]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161324.png)
特别注意:这里下载需要特殊的网络环境。如果省的麻烦,也可以直接发消息给此公众号获取,我都下载好了,暗号:Ollama
下载好后,直接点击对应的 app 运行:
![图片[7]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161416.png)
点击 install 下载命令行(下载后就可以在命令号使用 Ollama 命令啦):
![图片[8]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161440.png)
如果你是 macos,就可以在菜单栏看到 Ollama 的小图标啦,这表明基础环境已经 ok。
![图片[9]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161459.png)
第二步:下载 DeepSeek-R 1 模型
还是打开刚才的 Ollama 官网,进入「Models」页面。
![图片[10]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161525.png)
搜索或直接找到「deepseek-r1」模型。
![图片[11]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161542.png)
直接根据自己电脑配置选择对应参数的模型下载:
那你肯定会问,我电脑该选择哪个尺寸的下载呢?1.5b、7b、8b、14b 这些是啥?
1.5b 这些其实是大语言模型的参数规模,单位是 billion,B,即十亿。
比如 1.5b 就代表是 15亿参数。
一般来说,
需要先确定自己的内存大小及存储,一般来说,模型参数越大,所需的计算资源和内存也越多。
如果您的设备内存为 8 GB,建议选择 1.5 B 或 7 B 模型,以确保模型能够流畅运行。如果您的设备内存为 16 GB 或更高,可以考虑选择 8 B 或 14 B 模型。至于 32 B 模型,可能需要更高的硬件配置才能流畅运行。
那怎么看自己电脑的配置呢?你可以直接搜索,但我这里建议你直接问 DeepSeek,更快获得答案🐶
比如我电脑配置就是这个(mac m1)。
我的内存大小:
![图片[12]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161644.png)
我的硬盘存储剩余空间:
![图片[13]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204161932.png)
显卡查看:
和独立显卡的一个对标情况:
![图片[14]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162031.png)
当然你如果是有独立显卡的就可以直接查看自己的显卡配置。
好了,经过一番综合对比,最终我觉得我的小电脑运行个 8b 参数的模型勉强够用,于是乎,继续开整。
直接复制这个命令:
ollama run deepseek-r1:8b
![图片[15]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162048.png)
然后打开你电脑的终端,直接执行:
![图片[16]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162205.png)
我家的网速一般,慢的时候只有 200 多 kb,可以说,我去看了姑妈打完 2 局麻将还没下载完🐶。
等啊等啊,终于下载完了:
出现这样,就表示已经部署完成:
![图片[17]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162215.png)
这说明是用命令行启动了个客户端,你直接就可以在这里发消息和 DeepSeek 大模型对话啦。
我的第一个问题是:”猪能不能爬树?”
![图片[18]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162241.png)
对于这个问题,回答的还可以,果然是推理型模型,思考的过程也给我们列出来了。(所以,大模型觉得野猪可能可以上树,如果来世我变成了一只猪,我希望自己是一只野猪🐷)
很多人会和苍何有一样的顾虑,我的天,我自己电脑跑个大模型,这不得把电脑资源吃透?
我抱着好奇心来看了下内存和 CPU 使用情况:
![图片[19]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162259.png)
![图片[20]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162308.png)
也还好啊,在推理任务过程中,也就占了 1.09G 的内存,对于拥有 16G 内存的大户来说,还可以接受😂
不想要继续在命令行对话了咋办?可以直接输入命令:
/bye to exit
这样,命令行这个客户端就关闭了。
![图片[21]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162422.png)
这个时候 ollama 模型其实还是在后台运行的:
![图片[22]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162441.png)
![图片[23]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162505.png)
当然如果你生怕 ollama 在后台影响你拔剑的速度,你也可以直接退出:
![图片[24]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162524.png)
第三步:搭建 Chatbox 界面
这命令行对于不会编程的小伙伴来说,太难受了。
不过没关系,开源的 Chatbox 就可以解决这个问题,你可以理解成他是个好看的 UI 界面搭载的应用程序,让你和大模型对话就像呼吸空气一样自然🉑
使用方法也很简单,下面简单介绍一下:
1、下载并安装客户端
打开官网直接下载:**https://chatboxai.app/zh
![图片[25]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162557.png)
选择对应的版本,比如我的是苹果芯片的:
![图片[26]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162611.png)
下载安装后,第一次打开是这样的:
![图片[27]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162627.png)
选择使用自己的 API Key 或者本地模型:
选择 Ollama API
![图片[28]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162641.png)
(如果不小心点错了,或者之前已经安装过 Chatbox,也可以点击设置重新选择。)
![图片[29]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162657.png)
选择本地跑的 DeepSeek:
![图片[30]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162712.png)
除了对模型进行设置外,还可以对对话显示效果进行设置:
可以给助手设置头像和默认提示:
比如我用上了自己的头像,
![图片[31]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162738.png)
其他的一些设置:
![图片[32]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162754.png)
点击保存即可。
这个时候就可以在 UI 界面使用了:
![图片[33]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2025/02/d2b5ca33bd20250204162816.png)
但这个时候,在你本地跑的只是个小 baby,他并没有像官方一样智能,只能处理简单的任务。
不过如果只是单纯的做自己知识库助手,也够了,毕竟本地的数据也就这么多。
这里也给大家挖一个坑,我先调教调教他,再给大家汇报汇报战果。
简单 3 步骤的教程,你肯,是不是帮你省了 15.5 了?
甚至你还可以拿着教程做成视频再去卖?狠狠赚他一波。
![图片[34]-感谢DeepSeek,1天就赚了3100。附(本地部署)超详细教程。-哔搭谋事网-原创客谋事网](https://zhkee.com/wp-content/uploads/2024/08/1167610aa120241104005401.jpg)
>>> 欢迎加入【渡鸦科技社-全网最大万人引流截流技术社群】一个只学习引流搞钱的实战圈子!
提示:如发现链接失效,请联系我们,我们会第一时间更新补档。
宗旨:让大家以最低的价格学习网赚网创界 所有高价收费项目资源 加入会员最划算。