本地搭建大模型知识库Ollama+AnythingLLM(保姆级)
输入“/”快速插入内容
本地搭建大模型知识库Ollama+AnythingLLM(保姆级)
用户4246
用户4246
2024年9月20日修改
一、安装OLLAMA
好多同学不知道怎么下载需要用到的工具,我这里给大家都准备好了,需要的文末领取。qwen7b.gguf是阿里巴巴的通义千问大模型,7B大模型,7亿参数,至少需要8G内存,越大回复越流畅,
下载完后,双击OllamaSetup,自动安装成功,默认安装在C盘,不能选择安装路径的哦,安装完后,右下角会出现Ollama图标。
二、创建环境变量
OLLAMA_MODELS,随意指定变量值,如图所示:
代码块
Python
OLLAMA_MODELS
三、重启OLLAMA
选择右键小图标,然后退出,
在开始菜单中找到重启Ollama
四、重启后目录如下: