跳到主要内容

使用 Ollama 本地模型

下载 Ollama 工具

先下载 Ollama 工具,通过它我们可以获取 Deepseek 模型,并且启动 Deepseek模型。

Ollama 官网: link
Ollama下载: link

运行本地 Deepseek 模型

下载 Ollama 后,打开电脑的 命令行(CMD, Terminal)。

输入以下指令运行 Ollama 模型(根据电脑配置选择合适的模型大小):

1.5B Qwen DeepSeek R1

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1

ollama run deepseek-r1:7b

8B Llama DeepSeek R1

ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

ollama run deepseek-r1:32b

70B Llama DeepSeek R1

ollama run deepseek-r1:70b

设置本地模型

通过以上的指令,运行 Ollma 模型后。打开 GPT AI Flow 软件,输入运行的模型名称后,即可使用本地模型。

加入我们

AI 写作知识与视频

更多与 Obsidian、LLM-wiki、AI 写作相关的实战内容正在制作中。 请关注 小卡up 频道,和我们一起把笔记变活。

立即体验 GPT AI Flow,让你自己 Obsidian 里那些沉睡多年的笔记,重新开始生长。