人工智能大数据,工作效率生产力
Ctrl + D 收藏本站,更多好用AI工具
当前位置:首页 » 最新消息

deepseek本地部署

2025-03-21 8

DeepSeek本地部署详细指南

DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,同时保护数据隐私,这里记录自己DeepSeek本地部署流程。

主机环境

  • cpu:amd 7500F
  • gpu:4060 8G
  • system:win11
  • memory: 32G

步骤

  1. 下载安装Ollama
    去官网https://ollama.com/download/windows下载ollama,根据自己需求下载对应版本,我这里下载的是windows版。
    在这里插入图片描述
    安装成功标志,桌面左下角展示ollama图标
    在这里插入图片描述

  2. 设置大语言模型下载目录
    这里修改下存储目录,不是必须设置,不设置的话会默认将所有内容下载到C盘下面。
    高级系统设置->环境变量->新建系统变量
    在这里插入图片描述
    在这里插入图片描述

  3. 下载大语言模型
    在刚才的官网搜索deepseek,选择合适的模型,若显存8GB选择7/8b,若显存为12GB,可选择14b。
    在这里插入图片描述
    若选择了8b,可使用下面命令进行安装

ollama run deepseek-r1:8b 

随后打开任务管理器(记得用管理员),然后输入命令进行部署,本地会下载对应的模型。
在这里插入图片描述
安装成功标志
在这里插入图片描述
在这里插入图片描述

原文链接:https://blog.csdn.net/weixin_46515691/article/details/145481242?ops_request_misc=%257B%2522request%255Fid%2522%253A%252231139942e9f95b5e540db1cb7d8277e2%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=31139942e9f95b5e540db1cb7d8277e2&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-10-145481242-null-null.nonecase&utm_term=deepseek%E9%83%A8%E7%BD%B2

相关推荐

阅读榜

hellenandjeckett@outlook.com

加入QQ群:849112589

回顶部