Condition

2024 /06 /03
安装 Chat with RTX v0.2.1

在Check System Compatibility 处理过久,后来才知道10~20分钟是正常的,目前用其他電腦測試,大概不到十秒就能進去

遇到mistral 7b failed,以下说明,通常是早已安装miniconda才会遇到这类问题

Solution(不保證有效)

来源

Step 1

于安装包的RAG夹打开String.dat
在这里插入图片描述

编辑 <string name="MiniCondaPath" value="${{CommonAppData}}\Miniconda"/>·,把地址改到想要的位置
在这里插入图片描述

Step 2

找到安装包的RAG / trt-llm-rag-windows-main.zip
在这里插入图片描述
解压缩 并修改其中的app_launch.json資料
在这里插入图片描述
修改這兩處位置,改到與Step 1的位置相同
在这里插入图片描述
重新压缩档案
在这里插入图片描述

Step 3

以系统管理员执行安装包


也有可能是磁碟空間不足造成的,或可通過nvidia-smi確認cuda版本有沒有滿足 v535

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐