最近,deepseek 爆火,先进的算法、卓越的能力,表现出众,其凭一己之力推动了AI大模型跨越式的发展。作为一款现象级的AI产品,用户量暴增,同时 deepseek 开源了他们的模型,我们自己也可以将 deepseek 部署在本地。
将 deepseek 部署在本地电脑,只需三步即可完成。
一、下载安装 Ollama
部署DeepSeek要用到 Ollama,它支持多种大模型。
Ollama官网:ollama.com
下载安装Ollama,macOS、Linux 和 Windows都可以下载安装,这里选用Windows系统。
二、下载 DeepSeek-R1
1、进入Ollama官网,找到Models。
2、进入就可以看到deepseek-r1模型,如果没有,在搜索栏搜索即可。
3、选择对应的模型来下载,1.5b、7b、8b、14b、32b、70b或671b,这里有很多版本可选,模型越大,要求电脑内存、显卡等的配置越高。老宅这台机子是4060的显卡,选择8b的模型。
4、找到Windows【开始菜单】,鼠标右键点击【终端管理员】。
5、复制下边8b的代码。
6、粘贴到PowerShell(管理员)运行框,然后回车。(这里会默认安装在C盘,注意C盘空间)
出现下载等待窗口,等待下载完成。
7、下载完成后稍微等待,看到success,即部署完成。
8、部署完成,send a message,输入内容即可开始对话。
三、Chatbox前端搭建
通过第二步的操作,已经部署好DeepSeek,但每次使用都要在终端管理员里操作,相当繁琐。这里可以借助Chatbox,实现网页或客户端操作。
1、下载安装Chatbox
Chatbox官网:chatboxai.app/zh
进入官网下载安装Chatbox客户端。
2、点击设置,选择Ollama API
3、选择安装好的deepseek r1模型,保存即可
4、部署完成,就可以正常使用了。
通过以上三步,DeepSeek就部署在本地电脑上了,有些不方便公开的数据,比如实验数据,可以通过部署大模型到本地的方式进行处理,不用担心数据泄露。
原文链接:https://blog.csdn.net/weixin_45880295/article/details/145494195?ops_request_misc=%257B%2522request%255Fid%2522%253A%25223c0317d71058cc0abadde9d41b550a7c%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=3c0317d71058cc0abadde9d41b550a7c&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-29-145494195-null-null.nonecase&utm_term=deepseek%E9%83%A8%E7%BD%B2