swintransformer tensorrt
pytorch版本导出onnx的代码大致雷同,op12,定义input,outname,唯一注意的是最后一层argmax不要onnx导出。这个op用onnx导出直接导致推理结果全为0.如果还有提示pad的错误,可以直接修改inputsize为7的整数倍,去掉pad部分的代码。tensorrt版本本次选用8.2.3,不需要自定义plugin,layernorm ,gelu都能正确解析推理。argma
·
pytorch版本导出onnx的代码大致雷同,op12,定义input,outname,唯一注意的是最后一层argmax不要onnx导出。这个op用onnx导出直接导致推理结果全为0.
如果还有提示pad的错误,可以直接修改inputsize为7的整数倍,去掉pad部分的代码。
tensorrt版本本次选用8.2.3,不需要自定义plugin,layernorm ,gelu都能正确解析推理。
argmax的后处理直接用c++重写,适用于分割。
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐

所有评论(0)