Ollama的安装以及大模型下载教程
Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型, Ollama极大地简化了在Docker容器内部署和管理LLM的过程,使得用户能够快速地在本地运行大型语言模型。
·
简介
Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型, Ollama极大地简化了在Docker容器内部署和管理LLM的过程,使得用户能够快速地在本地运行大型语言模型。
Ollama的安装
下载网址:https://ollama.com/
进入官网直接点击Download下载即可

下载完后会得到一个.exe文件,直接运行就会自动安装,会强制安装在C盘,无法更改路径,所以C盘要预留足够的空间。
大模型下载
1、下载完Ollama之后回到网站,点击Models
里面有很多开源模型可以下载
2、模型信息
3、下载指令
打开命令提示符,运行下面指令会自动下载

4、运行

指令
起动Ollama后在命令提示符中运行下面一些指令可以对模型进行操作

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐

所有评论(0)