Ollama部署马斯克Grok-1模型
并且在Hugging Face上有大佬放出了Grok-1的非官方GGUF量化模型。在ollama官网，有大佬也已经上传了Grok-1模型。近日llama.cpp添加了对grok-1模型的支持。
·
llama.cpp支持
近日llama.cpp添加了对grok-1模型的支持。
PR 6404
GGUF模型
并且在Hugging Face上有大佬放出了Grok-1的非官方GGUF量化模型。
目前可供下载的量化模型:
Ollama支持
在ollama官网，有大佬也已经上传了Grok-1模型。
资源充足的各位可以选择适合自己的版本试一下：
ollama run joefamous/grok-1:314b-q2_K
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
9
0- 0
已为社区贡献10条内容
所有评论(0)