实现数据投喂训练AI,需要下载nomic-embed-text和安装AnythingLLM。
下载nomic-embed-text:
在终端输入

ollama pull nomic-embed-text

回车下载nomic-embed-text嵌入式模型(后面做数据投喂会用到)。

图1

安装AnythingLLM:
进入官网:https://anythingllm.com/
选择对应系统版本的安装包进行下载,安装

图2

安装完成后,打开软件打,点击【Get started】。

图3

点击箭头,进行下一步。

图4

输入工作区名称,点击下一步箭头。

图5

点击【设置】,里面可以设置模型、界面显示语言等。

图6

若软件显示英文,可在Customization外观定制里面选择Chinese即可。

图7

AnythingLLM设置
在软件设置里面,LLM首选项界面,提供商选择Ollama,Ollama Model选择你前面下载的DeepSeek-R1系列模型1.5b~671b,然后点击Save changes。

图8

在Embedder首选项界面,嵌入引擎提供商选择Ollama,Ollama Embedding Mode选择【nomic-embed-text】,然后点击保存更改。

图9

①点击【工作区设置】,②点击聊天设置,③工作区LLM提供者选择【Ollama】,④工作区聊天模型选择【deepseek-r1】模型,⑤然后点击【Update workspace agent】。

图10

代理配置界面,工作区代理LLM提供商选择【Ollama】,工作区代理模型选择【deepseek-r1】,然后点击【Update workspace agent】。

图11

最后就是数据投喂训练AI:
在工作区界面,点击【上传】。

图12

❶点击upload选择需要上传的文件(支持PDF、Txt、Word、Excel、PPT等常见文档格式)。❷勾选上传的文件,❸点击【Move to Workspace】。

图13

点击【Save and Embed】。

图14

到这里数据投喂训练AI就完成啦,有需求的完全可以自己搭建一个智能知识库出来。
最后,本地部署和在线使用各有利弊,本地对GPU配置要求较高,但运行稳定,不受网速影响,还可以训练自己专属的大模型。有需要的小伙伴可以体验一下~