When should developers use whisper.cpp vs faster-whisper?

[chen-rn]

After reading through a few different GitHub issues, it seems that faster-whisper is drastically faster than whisper.cpp with similar output. For both CPU and GPU. There doesn't seem to be any downside.

I'm thinking of using faster-whisper for a new project, but I'm afraid I'm missing something obvious here.

[phineas-pta]

whisper.cpp = cross-platform & cross-language = deploy on iphone android raspberry, in java js rust etc.

faster-whisper = u stick with python, on pc with with decent hardware, ofc it's more optimized

[phamkhactu]

Hi @phineas-pta,

Have you ever converted whisper model to ggml or guff ? And if I want to set lang in converted model(ggml) how to set it?

[phineas-pta]

ggml đâu có lang, bác chọn lang lúc chạy whisper.cpp mà

[phamkhactu]

ggml đâu có lang, bác chọn lang lúc chạy whisper.cpp mà

@phineas-pta Thực ra mình muốn đưa whisper về realtime, cái chính khi đưa về near realtime để chạy on edge thì sẽ chỉ là ggml chưa chỉ định rõ được lang thế nên mình đang hỏi để confirm điều này ạ? Bạn đã thử biến whisper về near realtime or realtime chưa?

[phineas-pta]

e chưa làm on edge nên ko chắc

nhưng chắc chắn 1 điều là ggml ko có lang, nó chỉ là 1 file thôi, bác chọn lang lúc chạy, nó trong các argument mà