【开源项目】ollama:本地部署大模型
从Github项目的最新release下载安装包,点击运行即可。
·
项目地址:Github - ollama/ollama
注意:项目对硬盘容量、内存要求比较高。
1. 安装
从Github项目的最新release下载安装包,点击运行即可。
2. 使用体验
2.1. 运行llama2
ollama run llama2
- 先下载模型

- 大模型库,一行命令安装。

- 查看帮助信息

- 直接就可以对话,不过该模型中文能力较弱
2.2. 运行llama2-chinese
ollama run llama2-chinese
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐



所有评论(0)