报错:TypeError: scaled_dot_product_attention(): argument 'is_causal' must be bool, not Tensor

解决方法: 

from whisper.model import disable_sdpa

if __name__ == '__main__':
    with disable_sdpa():
        main()

这是 Sherpa-onnx 项目提供的解决方案,通过上下文管理器临时禁用 scaled_dot_product_attention(SDPA) 功能,使用传统的注意力实现来避免类型问题。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐