AMD 显卡解锁 Ollama 支持:没有 N 卡也能跑大模型
本篇就两点一是AMD 显卡解锁 Ollama 支持:没有 N 卡也能跑大模型二是安装后，运行模型出现报错"An existing connection was forcibly closed by the remote host"的最有效解决方案
·
支持的显卡
A卡怎么让ollama跑GPU教程，直达AMD 显卡解锁 Ollama
如果更新文件后，直接重启ollama的话，概率会出现下面报错
Error: PosT predict: Post “http://127.0.0.1:54360/completion”: read tcp 127.0.0.1:54369->127.0.0.1:54360:wsarecv: An existing connection was forcibly closed by the remote host.
提示"An existing connection was forcibly closed by the remote host.",无法连接到目标主机
【解决方案】重装Ollama，别说啥DNS、防火墙的，有些能成效，有些没效果，不如直接重装Ollama
【注意】如果之前下载过模型的话，可以提前保存起来，避免又要重新下载
C:\Users\xxxx\.ollama\models # xxxx为当前主机的用户名
参考链接
- https://ollama.org.cn/blog/amd-preview
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
10
0- 0
已为社区贡献1条内容
所有评论(0)