Continue-AI编程助手本地部署llama3.1+deepseek-coder-v2

目录

推荐以下开源模型：

显卡低于30系列的可选1B~3B的模型

Ollama 本地安装模型：

以Windows11为例：

配置文件示例：

使用教程：

轻松理解代码

Tab自动完成代码

​编辑

重构正在编码的函数

询问有关代码库的问题

快速使用文档作为上下文

​编辑

使用斜杠命令开始操作

将类、文件等添加到上下文中

了解终端错误

---

领先的开源人工智能代码助手。您可以连接任何模型和任何上下文，以在 IDE 内构建自定义自动完成和聊天体验 话不多说，直接开整！

推荐以下开源模型：

聊天：llama3.1-8B

推理代码：deepseek-coder-v2:16b

嵌入模型：nomic-embed-text

显卡低于30系列的可选1B~3B的模型

deepseek-coder:1.3b

starcoder-2-3b

Ollama 本地安装模型：

官网下载安装： https://ollama.com/download

以Windows11为例：

模型默认存储路径：C:\Users\你的用户名\.ollama\models\blobs

模型离线下载：https://pan.quark.cn/s/dbc3fdeffc68

由于文件较大，网络不好的可以先现在解压到本地

打开cmd命令行运行：

ollama run deepseek-coder-v2:16b ollama run llama3.1:8b ollama pull nomic-embed-text:latest

VScode搜索：Continue

打开配置文件：

配置文件示例：

 "models": [ { "title": "Ollama", "provider": "ollama", "model": "llama3.1:8b" } ], "tabAutocompleteModel": { "title": "deepseek-coder-v2:16b", "provider": "ollama", "model": "deepseek-coder-v2:16b" }, "embeddingsProvider": { "provider": "ollama", "model": "nomic-embed-text" },

使用教程：

轻松理解代码

VS code： cmd+L (MacOS) / ctrl+L (Windows)

Tab自动完成代码

重构正在编码的函数

VS code： cmd+I (MacOS) / ctrl+I (Windows)

询问有关代码库的问题

VS Code： @codebase (MacOS) / @codebase (Windows)

快速使用文档作为上下文

VS code： @docs (MacOS) / @docs (Windows)

使用斜杠命令开始操作

在此处了解有关斜杠命令的更多信息 VS Code： /edit (MacOS) / /edit (Windows)

将类、文件等添加到上下文中

VS code： @files (MacOS) / @files (Windows)

在此处了解有关上下文提供程序的更多信息。

了解终端错误

VS code： cmd+shift+R (MacOS) / ctrl+shift+R (Windows)

原文链接：https://blog.csdn.net/GHY2016/article/details/140906775