今天测试faster-whisper-large-v3

pip install faster-whisper以后运行脚本,发生异常:

Traceback (most recent call last): File "/test/asr/test_whisper.py", line 19, in <module> model = WhisperModel(model_size_or_path=path, device="cuda", local_files_only=True) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/root/anaconda3/envs/asr/lib/python3.12/site-packages/faster_whisper/transcribe.py", line 145, in init self.model = ctranslate2.models.Whisper( ^^^^^^^^^^^^^^^^^^^^^^^^^^^ RuntimeError: CUDA failed with error CUDA driver version is insufficient for CUDA runtime version

查资料:

faster-whisper · PyPI

里面介绍最新的1.0.3仅支持CUDA 12,如果CUDA是11.x那么需要将ctranslate2从4.x降级到3.x,

pip install --force-reinstall ctranslate2==3.24.0

降级后会有一些警告信息,但是可以正常运行了。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐