DeepSeek-r1本地化部署
- 直接部署
①https://ollama.com/下载ollama,默认安装位置在C:\Users\Administrator\AppData\Local\Programs\Ollama,通过命令提示符进入该界面的
②https://ollama.com/search依据自己的电脑配置下载deepseek-r1模型的1.5b版本等,复制命令ollama run deepseek-r1:1.5b,回车键 后自动安装,
安装后,运行也得输入ollama run deepseek-r1:1.5b
在 Send a message处输入查询或推理内容即可,
以上方法每次启动DeepSeek-r1需每次通过CMD启动,需要熟练DOS命令。断网也可以使用大模型。对于一般人现实意思不大。
2.UI部署
Ollama+Chatbox, UI部署是在直接部署的基础上增加UI界面,此时的Chatbox相当于一个UI界面,下载Chatbox安装,
别忘点击保存。然后点击新对话即可。
以上方法每次直接启动Chatbox,界面似网页版,断网也可以使用Chatbox进行问询。对于一般人现实意思也不大。
3.私有知识大模型部署
ollama+deepseek+bge-m3+Cherry Studio
bge-m3嵌入式私有部署模型打通私库与deepseek衔接,再打通架构IP就相当于局网可访问了,如监狱、银行等特殊行业。
查询自己已有的模型,
打开Cherry Studio按下图红色123进行设置。添加内容为自己查询已有的模型,
按下面456添加知识
原文链接:https://blog.csdn.net/weixin_47696437/article/details/145415548?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522cd497d42b4966be100c60fe226493976%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=cd497d42b4966be100c60fe226493976&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-11-145415548-null-null.nonecase&utm_term=deepseek%E9%83%A8%E7%BD%B2