ChatWtihRTX安装情形 及 问题解决:mistral 7b failed
·
Condition
2024 /06 /03
安装 Chat with RTX v0.2.1
在Check System Compatibility 处理过久,后来才知道10~20分钟是正常的,目前用其他電腦測試,大概不到十秒就能進去
遇到mistral 7b failed,以下说明,通常是早已安装miniconda才会遇到这类问题
Solution(不保證有效)
Step 1
于安装包的RAG夹打开String.dat

编辑 <string name="MiniCondaPath" value="${{CommonAppData}}\Miniconda"/>·,把地址改到想要的位置

Step 2
找到安装包的RAG / trt-llm-rag-windows-main.zip

解压缩 并修改其中的app_launch.json資料

修改這兩處位置,改到與Step 1的位置相同

重新压缩档案

Step 3
以系统管理员执行安装包
也有可能是磁碟空間不足造成的,或可通過nvidia-smi確認cuda版本有沒有滿足 v535
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)