ollama

ollama 是一个简明易用的本地大模型运行框架，只需一条命令即可在本地跑大模型。开源项目，专注于开发和部署先进的大型语言模型（LLM）。与 docker 类似

ollama 命令

查看 ollama 所有命令

ollama -h

拉去大模型

ollama pull codellama

运行本地大模型

ollama run xxx
ollama run xxx:xxb

查看本地大模型

ollama list

查看模型信息

ollama show xxxx

删除大模型

ollama rm xxxx

停止大模型

ollama stop xxxx