快捷指令
 

ollama list
ollama run qwen2.5-coder
ollama rm qwen2.5-coder

1.首先先打开网址Ollama,这里可以选择下载不同系统的版本,这里以windows为例

        如下方法也可以部署deepseek,从体验感来说我先推荐使用qwen2.5-code。进行本地部署之后再也不用担心网络问题了。

ollama安装好之后,可以在终端打开,然后在ollama官网查找需要的模型,复制对应版本的指令在终端执行:

这里我等了几个小时,最后发现可以卡BUG,它这个网速会越来越慢。所以就慢的时候ctrl+c终止,再运行上面指令,又会很快!

#打开ollama,其以终端形式展现,输入

ollama run qwen2.5-coder:7b

#便可以安装qwen2.5-coder:7b

下载过程比较漫长,等待下载之后就可以在终端使用了。

2.嵌入VScode插件

        这里推荐 continue 插件,可在插件中安装,然后选择我们已经下载好的ollama和其对应的模型即可。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐