00:00 - 00:02

大家好 这里是零度解说

00:02 - 00:04

今天我们主要来说一下

00:04 - 00:06

如何利用最新免费开源的

00:06 - 00:08

DeepSeek R1大模型

00:08 - 00:10

来搭建一个可以完全离线使用的

00:10 - 00:11

本地知识库

00:11 - 00:13

实用性非常高

00:13 - 00:14

无论是用它来编写代码

00:14 - 00:16

开发小游戏

00:16 - 00:16

分析文档

00:16 - 00:17

图片

00:17 - 00:19

或者是疑难解答等

00:19 - 00:21

通通都可以轻松搞定

00:21 - 00:23

今天我们所用的软件都是开源的

00:23 - 00:24

在开始之前

00:24 - 00:26

首先我们打开这帖子

00:26 - 00:28

这个地址我会放在视频下方和零度博客上

00:28 - 00:30

打开以后在下方这里

00:30 - 00:31

找本地部署的方法

00:31 - 00:32

首先第一步

00:32 - 00:34

我们可以通过Ollama进行本地部署

00:34 - 00:36

到时候我们点前往

00:36 - 00:38

来安装下Ollama的客户端

00:38 - 00:40

打开以后点击下方有个Download

00:40 - 00:41

把这客户端给Download下来

00:41 - 00:45

它上面有Mac Linux Windows版本都有

00:45 - 00:47

到时候根据情况去选择就可以了

00:47 - 00:49

因为我当前的电脑是Windows的

00:49 - 00:52

所以我就选第三个 现在点击下载

00:53 - 00:55

总共是700多M 我们点击下载

00:55 - 00:57

下载好以后

00:57 - 00:59

然后现在我们双击打开进行安装下

00:59 - 01:00

点击安装就可以了

01:00 - 01:03

安装完成以后 在下方这里看到

01:03 - 01:05

它已经开始运行了 现在我们打开它

01:05 - 01:07

打开以后 它上方会显示

01:07 - 01:09

欢迎来到Ollama

01:09 - 01:10

现在我们回到刚才的帖子下

01:10 - 01:13

在下方这里 我总共提供了6个安装命令

01:13 - 01:16

像第一个是1.5B的 就是它的量化版

01:16 - 01:18

如果显卡显存是低于4G的

01:18 - 01:20

那你选就这个模型

01:20 - 01:22

就通过这行命令进行安装就可以了

01:22 - 01:24

然后后面两个是7B和8B模型

01:24 - 01:27

这两个模型的话比较适合8G到12G左右的显卡

01:27 - 01:28

第四个就是14B的

01:28 - 01:30

这个就需要12G以上显卡了

01:30 - 01:32

因为我的显卡是24GB的显存

01:32 - 01:34

所以这我就选第四个就可以了

01:34 - 01:35

把这行命令给它copy出来

01:35 - 01:38

好 copy好以后 现在回到刚才的终端下

01:38 - 01:41

现在鼠标右键点粘贴 确认一下

01:41 - 01:44

它就会自动开始拉取并部署这个模型

01:44 - 01:45

这个过程可能需要一点时间

01:45 - 01:46

到时候大家自己耐心等待一下

01:46 - 01:48

当然这里需要注意的是

01:48 - 01:49

如果你人不在海外的话

01:49 - 01:51

那么要提前做好科学上网

01:51 - 01:53

否则的话到时没法下载的

01:53 - 01:54

好 大概过了几分钟以后

01:54 - 01:56

它现在已经下载安装完成了

01:56 - 01:58

当然如果你的电脑有更大的显存的话

01:58 - 01:59

那么可以选择后面两个

01:59 - 02:01

像32B的还是70B的会更强

02:01 - 02:03

到时候大家可以自己去尝试

02:03 - 02:05

现在我来测试一下

02:05 - 02:08

到时候你只要在终端下

02:08 - 02:09

输入这命令就可以进行安装了

02:09 - 02:11

好 当我们下载好的32B模型以后

02:11 - 02:12

现在我们来测试一下

02:12 - 02:15

看下我的24G显存能不能跑起来

02:15 - 02:16

现在重新回到刚才的帖子下

02:16 - 02:18

在下方这里

02:18 - 02:19

现在我们需要把这款开源程序

02:19 - 02:22

AnythingLLM 这款程序给下载下来

02:22 - 02:23

我上方提供了开源版

02:23 - 02:24

还有官方版都可以

02:24 - 02:26

到时候你可以自行去选择

02:26 - 02:27

比如我选择开源版

02:27 - 02:28

我们点下载

02:28 - 02:29

打开后我们看到

02:29 - 02:31

目前这款开源程序是非常火的

02:31 - 02:33

它目前总共有3万多个Stars

02:33 - 02:34

接着我们往下拉

02:34 - 02:36

在下方这里找它的下载链接

02:36 - 02:39

它目前支持Windows、Mac

02:39 - 02:40

Linux系统都可以

02:40 - 02:42

现在我们点击上方有个download按钮

02:42 - 02:45

打开以后在上方这里

02:45 - 02:46

你可以选择自己对应版本

02:46 - 02:48

比如我选择Windows版本

02:48 - 02:49

上方这个是64位的

02:49 - 02:50

下方是ARM结构的

02:50 - 02:52

一般情况下我们选第一个就可以了

02:52 - 02:54

总共是280M左右

02:54 - 02:55

点击下载

02:55 - 02:57

下载好以后

02:57 - 02:59

然后现在把客户端进行安装一下

02:59 - 03:01

打开以后现在我们点下一步

03:01 - 03:02

点安装就可以了

03:02 - 03:04

这个安装过程可能需要几秒钟左右

03:04 - 03:06

到时候自己耐心等待一下

03:06 - 03:08

安装好以后

03:08 - 03:09

点击完成

03:09 - 03:12

打开以后现在我们点击允许

03:12 - 03:15

这个时候它就会启动这款程序了

03:15 - 03:16

点击Get Started

03:16 - 03:18

然后这一步的话我们直接跳过就可以了

03:18 - 03:19

点击下一步

03:19 - 03:20

这一步的话我们可以直接跳过

03:20 - 03:21

不用管它

03:21 - 03:22

点下一步跳过按钮就可以了

03:22 - 03:23

这个工作区名称的话

03:23 - 03:24

你可以随便自定义

03:24 - 03:25

比如我输入1就可以了

03:25 - 03:26

点击下一步

03:26 - 03:30

它就会正式进入到控制面板

03:30 - 03:32

然后现在我们需要把它对接到DeepSeek大模型上

03:32 - 03:34

到时候就跟我一样

03:34 - 03:35

点击上方这个设置按钮

03:35 - 03:37

打开以后

03:37 - 03:39

现在我们点击上方有个聊天设置

03:39 - 03:40

进入以后

03:40 - 03:42

现在我们点下方有个模型选择的按钮

03:42 - 03:44

打开以后接着往下拉

03:44 - 03:46

然后在下方这里找到有个Ollama选项

03:46 - 03:47

就这里了

03:47 - 03:49

我们选择它

03:49 - 03:52

选择以后它会自动识别我们刚才下载好的模型

03:52 - 03:55

比如我之前下载好的这个14B和32B都在里面

03:55 - 03:57

到时候根据这情况选择就可以了

03:57 - 03:58

选择好以后

03:58 - 04:00

然后现在需要进行保存一下

04:00 - 04:02

在下方这里拉最底部

04:02 - 04:05

一定要点下方有一个Update Workspace的按钮

04:05 - 04:06

就这里了

04:06 - 04:07

打开它

04:07 - 04:09

这样的话它才会保存成功

04:09 - 04:11

然后现在我们来测试一下

04:11 - 04:12

看效果到底怎么样

04:12 - 04:14

因为对于一款AI大模型来说

04:14 - 04:15

它的实用性才是最关键的

04:15 - 04:17

比如现在我让它帮我分析一下

04:17 - 04:19

这两个封面哪个更好

04:19 - 04:21

哪一个点击率会更高

04:21 - 04:22

然后现在把它进行上传一下

04:22 - 04:23

我们点下方有个上传按钮

04:23 - 04:27

它是可以直接上传多个图片的

04:27 - 04:31

比如我输入:这两个封面哪个更是一筹

04:31 - 04:33

好 输入好以后我们点发送一下

04:33 - 04:35

这样的话它立马就可以帮我们分析出来了

04:35 - 04:36

它上方是这么说的

04:36 - 04:38

经过仔细分析

04:38 - 04:41

我认为img 1在这次比较中更具有优势

04:41 - 04:42

这需要注意一下

04:42 - 04:44

左侧这个第一个就是img 0

04:44 - 04:45

右侧这个是img 1

04:45 - 04:49

首先img 1采用了鲜艳的红色主色调

04:49 - 04:51

能够立即抓住读者的注意力

04:51 - 04:53

适合用于吸引年轻受众

04:53 - 04:55

或者传达积极热情的内容

04:55 - 04:58

插图设计直接表达了主题

04:58 - 05:01

使潜在读者可以快速理解这个核心内容

05:01 - 05:05

它另外虽然这个img 0的设计简洁且专业

05:05 - 05:08

但是在视觉吸引力和情感表达上稍显不足

05:08 - 05:11

可能更适合特定的专业领域

05:11 - 05:12

它说综合来看

05:12 - 05:14

如果目标是吸引更广泛的受众

05:14 - 05:16

并传达强烈的情感或主题

05:16 - 05:18

那么img 1是个更好的选择

05:18 - 05:20

也就意味着它选择右侧这个图片了

05:20 - 05:22

然后现在进行实际测试一下

05:22 - 05:24

因为在YouTube平台上它是有这个功能的

05:24 - 05:26

这个是真人测试的

05:26 - 05:28

通过上方的测试我们可以看到

05:28 - 05:29

这个缩留图它是获胜的

05:29 - 05:31

它的点击率是51.7%

05:31 - 05:33

这个封面2 它的点击率会更高

05:33 - 05:35

通过真人测试以后

05:35 - 05:36

它给出答案是正确的

05:36 - 05:39

就是它选择img 1点击率会更高

05:39 - 05:41

它给出建议选择是非常准确的

05:41 - 05:42

然后现在测试第二个功能

05:42 - 05:44

就是代码编写能力

05:44 - 05:45

看一下到底怎么样

05:45 - 05:46

比如现在我输入

05:46 - 05:48

我需要定制一个解压的小游戏

05:48 - 05:50

用Python语言编写

05:50 - 05:53

来实现大炮射击天上飞的气球

05:53 - 05:55

输入好以后我们点击发送一下

05:55 - 05:57

让它帮我编写一个代码

05:57 - 05:58

它说好的

05:58 - 05:59

我现在需要帮助用户

05:59 - 06:02

用python语言编写一个解压小游戏

06:02 - 06:04

它立马就开始了

06:04 - 06:05

稍等一会

06:05 - 06:06

这个速度非常快

06:06 - 06:08

这样的话它就提供好代码了

06:08 - 06:10

而且它会告诉你怎么使用

06:10 - 06:11

首先我们需要打开这个终端

06:11 - 06:12

我们在下方搜索栏里

06:12 - 06:14

输入关键字cmd

06:14 - 06:16

来打个命令提示符

06:16 - 06:17

打开以后

06:17 - 06:19

如果你电脑上已经安装好Python环境的话

06:19 - 06:20

那么现在跟我一样

06:20 - 06:22

先安装下这个环境库

06:22 - 06:24

输入好命令以后确认一下就可以了

06:24 - 06:26

然后现在需要把下方的游戏代码给copy出来

06:26 - 06:28

我们点击copy

06:28 - 06:30

复制好以后

06:30 - 06:31

然后现在跟我一样

06:31 - 06:32

在桌面上鼠标右键

06:32 - 06:34

创建一个txt文档

06:34 - 06:37

接着鼠标右键

06:37 - 06:38

点击粘贴

06:38 - 06:39

把这个代码给它粘贴进去

06:39 - 06:42

粘贴以后保存一下

06:42 - 06:43

现在我们需要存命名下这个文件

06:43 - 06:44

还有后缀名

06:44 - 06:47

比如现在把这个名字改为dapao

06:47 - 06:49

然后后缀名改成py

06:49 - 06:51

就把txt改成py就行了

06:51 - 06:53

好 修改好以后确认一下

06:53 - 06:54

重命名以后

06:54 - 06:55

然后现在运行一下

06:55 - 06:56

看能不能跑起来

06:56 - 06:58

现在鼠标右键点击在终端下打开

06:58 - 07:00

打开以后

07:00 - 07:02

现在输入命令python

07:02 - 07:04

接着后面跟上这个文件名称

07:04 - 07:06

就dapao

07:06 - 07:07

.py

07:07 - 07:08

然后确认一下

07:08 - 07:09

这样就可以了

07:09 - 07:10

打开了

07:10 - 07:11

来看 试一下

07:11 - 07:13

诶 诶 诶 可以玩哦

07:13 - 07:15

就通过空格键就可以发射大炮了

07:15 - 07:18

然后通过这个方向键可以把大炮这个

07:18 - 07:20

仰角角度给改一下

07:20 - 07:22

07:22 - 07:24

大家看一下是不是很简单

07:24 - 07:26

几行代码就可以实现一个游戏制作了

07:26 - 07:27

非常方便

07:27 - 07:29

当然这个要求你可以自己添加

07:29 - 07:30

因为代码的话它可以帮你一直优化

07:30 - 07:32

帮你修改的

07:32 - 07:33

这效果还是非常不错的

07:33 - 07:34

可以直接使用

07:34 - 07:36

当然我们也可以用它来分析文档

07:36 - 07:38

比如现在我上传一个pdf文档来试一下

07:38 - 07:40

然后现在我输入一下

07:40 - 07:42

请帮我分析一下这个pdf文档内容

07:42 - 07:44

来列出这个重点

07:44 - 07:46

输入好以后我们点击发送一下

07:46 - 07:47

这样就开始了

07:47 - 07:49

这速度非常快的

07:49 - 07:52

它就可以帮我们把这文档的重点内容给列出来

07:52 - 07:53

这样可以方便我们查看阅读

07:53 - 07:56

同时可以上传多个文档进行分析都是可以的

07:56 - 07:57

然后接下来测试一下

07:57 - 07:59

它的逻辑推理能力

07:59 - 08:01

比如现在找几个比较难的问题来问它一下

08:01 - 08:02

比如第一个

08:02 - 08:05

就是一个挂钟敲六下需要30秒

08:05 - 08:07

那么敲12下需要几秒

08:07 - 08:10

大家先猜一下需要几秒

08:10 - 08:11

我们先把问题给发给它

08:11 - 08:12

看它行不行

08:12 - 08:14

看它能不能做对

08:14 - 08:15

这样它立马就开始了

08:15 - 08:17

它说一个挂钟敲六下用了30秒

08:17 - 08:20

说明每次敲击之间的间隔是5次间隔

08:20 - 08:24

因此每次间隔时间为30/5=6秒

08:24 - 08:26

那么敲12下就会有11个间隔

08:26 - 08:29

总时间是66秒

08:29 - 08:30

它答案是66秒

08:30 - 08:32

现在看一下它对不对

08:32 - 08:34

看下它答案是多少

08:34 - 08:35

正确答案是66秒

08:35 - 08:36

没错的

08:36 - 08:38

那么第一个它答对了

08:38 - 08:41

然后现在来问它一个脑筋急转弯问题

08:41 - 08:43

就从1写到1万需要多少时间

08:43 - 08:44

我们来问它一下

08:44 - 08:47

看它能不能理解出来这个问题

08:47 - 08:48

发送一下

08:48 - 08:50

这样它立马就开始了

08:50 - 08:51

来看它是怎么分析的

08:51 - 08:53

它里面给出了两种分析

08:53 - 08:55

第一个就是从1写到1万

08:55 - 08:57

就是1和1万组合起来的就是一直

08:57 - 08:58

那么答案就是一直

08:58 - 09:00

然后第二种情况它分析的是

09:00 - 09:01

从1写到1万需要多少时间

09:01 - 09:04

实际上是可能意味着不需要任何时间

09:04 - 09:05

因为从1写到1万

09:05 - 09:07

其实只写了一个1和一个万

09:07 - 09:09

所以只需要写两个字的时间

09:09 - 09:10

第二种情况是对的

09:10 - 09:12

但是它分析出了两种情况

09:12 - 09:13

最后给出答案是一直

09:13 - 09:15

其实答案是应该是这个

09:15 - 09:17

就是1写到1万就两个字的时间而已

09:17 - 09:19

它分析过程是对的

09:19 - 09:21

但最后给出答案它没有正确

09:21 - 09:22

现在我们问它第三个问题

09:22 - 09:25

就是5只鸡5天生了5个蛋

09:25 - 09:26

100天要100个蛋

09:26 - 09:28

那么需要多少只鸡

09:28 - 09:30

正确答案是5只鸡

09:30 - 09:32

我们来看一下它能不能做对

09:32 - 09:34

把这个问题扔给它

09:34 - 09:37

看它能不能答对

09:37 - 09:39

它整个推理过程推完以后

09:39 - 09:40

它最后给出答案是正确答案

09:40 - 09:41

就是需要5只鸡

09:41 - 09:43

现在我们来问它一个更难的题目

09:43 - 09:45

就是一口井7米深

09:45 - 09:47

有只蜗牛从井底往上爬

09:47 - 09:50

白天爬12米 晚上下坠2米

09:50 - 09:53

问这只蜗牛几天后可以从这个井底爬出来

09:53 - 09:55

我们来看它能不能答对

09:55 - 09:56

大家可以先试着做一下

09:56 - 09:58

看能不能答对

09:58 - 09:59

发送一下

09:59 - 10:01

它整个推理过程是非常快的

10:01 - 10:02

它最后给出答案是

10:02 - 10:04

蜗牛需要在第5天爬出井口

10:04 - 10:06

也就意味着它需要5天时间

10:06 - 10:07

我们来看一下正确答案

10:07 - 10:08

正确答案就是5天

10:08 - 10:09

那说明它是做对的

10:09 - 10:11

然后现在我们来问它第5道题

10:11 - 10:13

就是这个爸爸妈妈有4个女儿

10:13 - 10:15

每个女儿有1个弟弟

10:15 - 10:17

那么请问这个家里总共有多少人

10:17 - 10:19

大家先做一下 看你能不能做出来

10:19 - 10:20

先把这个题目扔给它

10:20 - 10:22

看一下它能不能做对

10:22 - 10:24

好 经过它的推理以后

10:24 - 10:25

它说这个家里总共有7口人

10:25 - 10:27

大家猜一下它有没有答对

10:27 - 10:28

现在把它揭晓答案

10:28 - 10:30

正确答案是7个人

10:30 - 10:31

现在总共5道题

10:31 - 10:32

它答对了4道题

10:32 - 10:33

还是非常厉害的

10:33 - 10:35

当然如果你想搭建更加自定义化的

10:35 - 10:36

本地知识库的话

10:36 - 10:38

那么在左上方这里

10:38 - 10:39

你可以点上面有个上传按钮

10:39 - 10:40

就这里了

10:40 - 10:41

打开以后

10:41 - 10:42

你可以看到

10:42 - 10:44

在这里面可以上传文档或者文件

10:44 - 10:48

这是TXT Excel 脚本 音频 或者视频等

10:48 - 10:49

都可以上传

10:49 - 10:51

上传以后

10:51 - 10:53

你就可以搭建更加丰富的本地知识库

10:53 - 10:55

更多的功能的话大家可以自己尝试

10:55 - 10:56

像这个文本分割呀

10:56 - 10:58

还有这个向量数据库等等

10:58 - 11:00

语音对话 转录模型等等

11:00 - 11:01

都可以在上面进行实现

11:01 - 11:03

好 今天视频所用的全部资料

11:03 - 11:05

它们的下载链接

11:05 - 11:06

我都会放在视频下方还有零度博客上

Building an Offline Knowledge Base with DeepSeek R1 Model

In this tutorial, we will explore how to utilize the latest free and open-source DeepSeek R1 model to create a fully offline usable local knowledge base. This practical tool can be applied for various tasks such as coding, game development, document analysis, image processing, and troubleshooting. All the software used in this tutorial is open-source.

Setting Up with Ollama for Local Deployment

To begin, open the post provided in the link below the video and navigate to the local deployment section. Follow these steps for local deployment using Ollama:

  1. Download the Ollama client compatible with your system (Mac, Linux, Windows).
  2. Install the client and select the appropriate model version based on your GPU memory (1.5B, 7B, 8B, 14B).
  3. Copy and paste the installation command into the terminal to deploy the model.

Using AnythingLLM for Code Writing & Analysis

Next, download the open-source program AnythingLLM as mentioned in the post. Install the program and configure it to integrate with the DeepSeek model. Utilize this tool for tasks like code generation and document analysis effectively.

Testing the Model's Capabilities

  • Image Analysis: Upload images for analysis and get detailed feedback on visual appeal and audience engagement.
  • Code Writing: Generate Python code snippets for tasks like game development effortlessly.
  • Document Analysis: Extract key content from PDFs to aid in research and reading.
  • Logical Reasoning: Test the model's reasoning skills by asking complex questions.

Customizing the Knowledge Base

For a more customized knowledge base experience, utilize the upload feature to add various file types such as text, Excel, scripts, audio, and video files. Explore advanced functionalities like text segmentation, vector databases, and speech-to-text models for an enriched knowledge management system.

Conclusion

Today's tutorial showcased the potential of DeepSeek R1 for building a versatile offline knowledge base. The provided resources and tools offer a glimpse into the endless possibilities of AI applications in various fields. Experiment with different functionalities and tailor the knowledge base to suit your needs for a more personalized experience. All the download links mentioned in the video are available below the video and on the Zero Degree blog.

Unlock the power of AI in knowledge management and enhance your productivity with DeepSeek R1's capabilities!