人工智能大数据,工作效率生产力
Ctrl + D 收藏本站,更多好用AI工具
当前位置:首页 » 最新消息

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案

2025-03-13 3

目录

一、Ollama 介绍

二、Ollama下载

2.1 官网下载

2.2 GitHub下载

三、模型库

四、Ollmal 使用

4.1 模型运行(下载)

4.2 模型提问

五、Ollama 常用命令

相关推荐


一、Ollama 介绍

Ollama是一个专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计的开源框架。以下是对Ollama的详细解释:

  • 简化部署:Ollama旨在简化在Docker容器中部署大型语言模型的过程,使得非专业用户也能方便地管理和运行这些复杂的模型。
  • 轻量级与可扩展:作为轻量级框架,Ollama保持了较小的资源占用,同时具备良好的可扩展性,允许用户根据需要调整配置以适应不同规模的项目和硬件条件。
  • 跨平台支持:Ollama提供针对macOS、Windows(预览版)、Linux以及Docker的安装指南,确保用户能在多种操作系统环境下顺利部署和使用。

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图

二、Ollama下载

2.1 官网下载

Ollama 支持多平台部署,可以在官网,选择适合的平台进行下载,如下图:

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图1

2.2 GitHub下载

GitHub – ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models. – ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollama高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图2https://github.com/ollama/ollama

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图3

三、模型库

Ollama 支持在 ollama.com/search 上获取的模型列表,比如最近比较火的 deepseek-r1:

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图4

不同版本的模型所需内存大小也有所不同。例如在Ollama中部署DeepSeek-R1的不同版本(1.5b、7b、8b、14b、32b、70b、671b)所需的内存大小:

DeepSeek-R1版本 所需内存(大约) 备注
1.5b 1.1GB硬盘空间 内存需求相对较低
7b 4.7GB硬盘空间 内存和显存需求适中
8b 约4.9GB硬盘空间 显存占用约6.5GB左右
14b 约9GB硬盘空间 内存需求较高,建议至少8GB以上内存,显存占用约13GB
32b 约20GB硬盘空间 需要更高的内存和显存配置,建议至少32GB内存
70b 约43GB硬盘空间 需要非常大的内存和显存资源,适合高端配置
671b 约404GB硬盘空间 这是目前提到的最大版本,所需内存和显存资源将是所有版本中最高的

根据自身需要选择版本,如下是我之前下的几个模型的版本和所占内存大小:

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图5

四、Ollmal 使用

4.1 模型运行(下载)

打开命令终端,输入指令 ollama run xxxx(模型名称,如deepseek-r1),若是首次运行某个模型,Ollma 会先下载对应的模型文件,然后运行模型

//下载7b版本 ollama run deepseek-r1 //下载14b版本 ollama run deepseek-r1:14b

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图6

可以根据不同命令下载不同版本,怎么获取命令?你可以先选中模型的版本,ollama 会根据不同的版本生成命令,如下图所示:

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图7

4.2 模型提问

高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图8

五、Ollama 常用命令

  • ollama serve:该命令用于启动Ollama服务器(在不运行桌面应用程序的情况下启动 ollama;),以便运行模型和处理请求。首次启动可能会生成ssh私钥文件,并提示服务端口状态。
  • ollama start:启动服务。
  • ollama list或ollama ls:列出本地所有可用的模型。
  • ollama ps:显示当前正在运行的模型列表。
  • ollama show [模型名称]:查看特定模型的详细信息,如模型名称、版本等。
  • ollama pull [模型名称]:从模型注册表中拉取一个模型到本地使用。此命令也可以用于更新本地模型,只会拉取差异部分。
  • ollama run [模型名称]。运行一个已安装的模型,执行某些任务。可以根据需要指定模型的参数和配置。
  • ollama create [模型路径]:使用包含模型信息的 [模型路径]来创建一个新模型。
  • ollama push [模型名称]:将本地模型推送到模型注册表中,以便他人或其他系统使用。
  • ollama cp [原模型名称] [新模型名称]:复制一个模型到另一个位置或给定名称的地方。
  • ollama rm [模型名称]:删除一个已安装的模型。
  • ollama -vollama --version:显示当前Ollama工具的版本信息。

相关推荐

Download Ollama on macOSDownload Ollama for macOShttps://ollama.com/downloadhttps://ollama.com/downloadhttps://ollama.com/download高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图2https://ollama.com/downloadhttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollama高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图2https://github.com/ollama/ollamaNeo4j 图数据库安装与操作指南(以mac为例)_neo4j安装-CSDN博客文章浏览阅读1w次,点赞78次,收藏82次。本文介绍了Neo4j图数据库的安装、配置、启动以及基本操作方法。首先,需要满足Java环境的安装要求,并可选择使用Homebrew进行安装。然后,从官方网站下载Neo4j并解压,或通过Homebrew进行安装。配置Neo4j时,可设置环境变量以简化命令操作。启动Neo4j后,可通过Cypher查询语言进行节点、关系的创建、修改、匹配和删除等操作。本文还介绍了Neo4j的其他常用命令,如查询版本、服务状态、重启、停止和卸载等。_neo4j安装https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514高端入门:Ollama 本地高效部署DeepSeek模型深度搜索解决方案插图2https://shuaici.blog.csdn.net/article/details/144115514

原文链接:https://blog.csdn.net/g984160547/article/details/145464633?ops_request_misc=%257B%2522request%255Fid%2522%253A%25223b225299839f95f1c92386dccc58cf9f%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=3b225299839f95f1c92386dccc58cf9f&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-12-145464633-null-null.nonecase&utm_term=deepseek%E5%91%BD%E4%BB%A4

相关推荐

阅读榜

hellenandjeckett@outlook.com

加入QQ群:849112589

回顶部