ollama+qwq
2.单词 “strawberry” 中有多少个字母 “r”？本次验证,直接使用的默认q4量化版本。1.9.9 和 9.11 哪个更大？这里用到的就是三个简单的问题。3.李白的风格写一首七言绝句。通过ollama启动的qwq。回答结果没有任何问题。
·
1.准备ollama环境
2.模型下载和启动
选择自己需要的版本
本次验证,直接使用的默认q4量化版本
只需要一张4090
ollama run qwq:32b3.模型启动和测试体验
这里用到的就是三个简单的问题
1.9.9 和 9.11 哪个更大？
2.单词 “strawberry” 中有多少个字母 “r”？
3.李白的风格写一首七言绝句
通过ollama启动的qwq
回答结果没有任何问题
prompt eval rate 560 token/s
eval rate 32 token/s
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
4
0- 0
已为社区贡献1条内容
所有评论(0)