人工智能大数据,工作效率生产力
Ctrl + D 收藏本站,更多好用AI工具
当前位置:首页 » 最新消息

本地化部署deepseek

2025-03-17 4

看到最近比较火热的deepseek话题,我也做一下自我实践,将心得记录于此。

0x01.模型对标的功能和配置需求

本地化部署deepseek插图

本人硬件条件有限,选用deepseek-r1:8b版本。

0x02.ollama安装(一个羊驼的图标)

默认安装在C盘用户目录,可以通过修改系统变量方式迁移至D盘,以节省系统盘空间。迁移后可以用命令测试,ollama -v查看版本,ollama -h查看帮助。

本地化部署deepseek插图1

0x03.拉取模型

ollama run deepseek-r1:8b

本地化部署deepseek插图2

到这里就可以通过命令行与它交互了,

本地化部署deepseek插图3

为了能够方便的管理,选用Firefox浏览器添加Page Assist插件,方便管理模型。

本地化部署deepseek插图4

0x04.提问前的设置

1)RAG设置

选择文本嵌入模型

本地化部署deepseek插图5

2)添加新知识

管理模型-添加新知识

本地化部署deepseek插图6

本地化部署deepseek插图7

短暂等待后……

本地化部署deepseek插图8

0x05.交互

1)请做一下自我介绍(这和最开始命令行显示的完全不同)

本地化部署deepseek插图9

2)问一个刚刚上传手册里的问题

本地化部署deepseek插图10

0x06.挑战一下14b的看看有何不同

本地化部署deepseek插图11

修改模型后测试只是显卡显存占用略多,8b只是用了一半越6GB,交互思考时可以听到风扇呼呼的声音。

本地化部署deepseek插图12

本地化部署deepseek插图13

原文链接:https://blog.csdn.net/lhy441/article/details/145529736?ops_request_misc=%257B%2522request%255Fid%2522%253A%252284026ef76edc4d76f76ec62d6bfb6fd9%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=84026ef76edc4d76f76ec62d6bfb6fd9&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-18-145529736-null-null.nonecase&utm_term=deepseek%E5%91%BD%E4%BB%A4

相关推荐

阅读榜

hellenandjeckett@outlook.com

加入QQ群:849112589

回顶部