小伙伴们OpenAI 的 Whisper 模型凭借其强大的多语言语音识别能力成为众多语音应用的首选。然而原版 Python 实现依赖 PyTorch 等重型框架内存占用大、推理速度慢难以在资源受限的设备上运行。whisper.cpp正是为解决这一问题而生的开源项目。它由 Georgi Gerganovggml 作者开发用纯C/C重写了 Whisper 模型没有任何外部依赖能在各种硬件上高效运行。其核心是ggml机器学习库专为大规模张量计算优化支持混合精度、整数量化、多后端加速CPU、GPU、NPU 等。whisper.cpp 的目标是让 Whisper 真正成为可嵌入、可移植、高性能的语音识别引擎从手机、树莓派到服务器都能轻松部署。核心功能轻量、高效、全面•零依赖纯 C/C 实现无需 Python、PyTorch编译后单文件运行。•极致轻量运行时零内存分配已预分配适合实时应用。•多精度支持混合 F16/F32 推理支持整数量化Q5_0, Q8_0 等大幅降低内存占用。•语音活动检测VAD内置 Silero-VAD 支持智能识别语音片段减少无效计算加速处理。•丰富输出支持字级时间戳、置信度颜色编码、卡拉 OK 字幕生成、说话人分割tinydiarize。•实时音频流提供whisper-stream示例实现麦克风实时转录。•HTTP 服务器whisper-server提供类似 OpenAI API 的接口方便集成。快速上手5 分钟运行第一个示例克隆仓库git clone https://github.com/ggml-org/whisper.cpp.gitcd whisper.cpp下载 base.en 模型约 142 MBsh ./models/download-ggml-model.sh base.en编译cmake -B buildcmake --build build -j --config Release转录示例音频./build/bin/Release/whisper-cli -f samples/jfk.wav对于非 WAV 格式先用 ffmpeg 转换ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wavNVIDIA GPU support#指出cuda的安装路径 cmake -B build -DGGML_CUDA1 -DCMAKE_CUDA_COMPILERC:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v12.4/bin/nvcc.exe -DCMAKE_GENERATOR_TOOLSETcudaC:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v12.4cmake --build build -j --config Release性能与硬件加速榨干每一滴算力whisper.cpp 通过 ggml 库支持多种硬件后端实现极致性能后端支持平台加速说明Apple SiliconmacOS/iOSARM NEON、Accelerate、Metal、Core MLANENVIDIA GPULinux/WindowscuBLAS 自定义 CUDA 内核Vulkan跨平台通用 GPU 加速支持 AMD/Intel/NVIDIAOpenVINOIntel CPU/GPU针对 Intel 硬件优化Ascend NPU华为昇腾CANN 加速Moore ThreadsMUSA国产 GPU 支持CPU所有平台AVX/AVX2/AVX512、VSX (POWER)、NEON性能对比在 Apple M1 上使用 Core ML 后编码器速度提升 3 倍以上在 NVIDIA RTX 3090 上CUDA 加速使推理速度达到实时率的数十倍。量化模型如 Q5_0可将内存占用减半几乎无损精度。支持平台与绑定whisper.cpp 几乎覆盖所有主流平台•桌面Windows (MSVC/MinGW)、Linux、macOS (Intel/Apple Silicon)•移动iOS、Android•嵌入式Raspberry Pi、树莓派•WebWebAssembly浏览器内运行•云Docker 镜像支持 CUDA、Vulkan同时提供多种语言绑定•Pythonwhispercpp.py(Cython)、pywhispercpp(Pybind11)•Rustwhisper-rs•Go、Java、Ruby、C#、Swift、Unity等应用示例不止是命令行除了基础的whisper-cli项目中还包含多个创意示例•whisper-stream实时麦克风转录可用于会议记录、实时字幕。•whisper-command语音命令识别构建离线语音助手。•whisper-talk-llama与 LLaMA 模型对话实现语音交互。•generate-karaoke.sh生成卡拉 OK 字幕视频。•iOS/Android 应用完整移动端演示完全离线运行。总结边缘语音识别的标杆whisper.cpp 不仅是一个 Whisper 移植版它重新定义了高效推理的标准。通过精心的底层优化和多硬件支持它将原本只能在云端运行的重型模型带到了手机、手表、嵌入式设备上。对于开发者这意味着可以构建真正隐私保护、实时响应的语音应用而无需依赖网络。无论你是想为应用添加离线语音功能还是研究语音识别技术whisper.cpp 都是不可错过的利器。现在就克隆项目让 Whisper 在你的设备上跑起来吧项目地址https://github.com/ggml-org/whisper.cpp
小伙伴们OpenAI 的 Whisper 模型凭借其强大的多语言语音识别能力成为众多语音应用的首选。然而原版 Python 实现依赖 PyTorch 等重型框架内存占用大、推理速度慢难以在资源受限的设备上运行。whisper.cpp正是为解决这一问题而生的开源项目。它由 Georgi Gerganovggml 作者开发用纯C/C重写了 Whisper 模型没有任何外部依赖能在各种硬件上高效运行。其核心是ggml机器学习库专为大规模张量计算优化支持混合精度、整数量化、多后端加速CPU、GPU、NPU 等。whisper.cpp 的目标是让 Whisper 真正成为可嵌入、可移植、高性能的语音识别引擎从手机、树莓派到服务器都能轻松部署。核心功能轻量、高效、全面•零依赖纯 C/C 实现无需 Python、PyTorch编译后单文件运行。•极致轻量运行时零内存分配已预分配适合实时应用。•多精度支持混合 F16/F32 推理支持整数量化Q5_0, Q8_0 等大幅降低内存占用。•语音活动检测VAD内置 Silero-VAD 支持智能识别语音片段减少无效计算加速处理。•丰富输出支持字级时间戳、置信度颜色编码、卡拉 OK 字幕生成、说话人分割tinydiarize。•实时音频流提供whisper-stream示例实现麦克风实时转录。•HTTP 服务器whisper-server提供类似 OpenAI API 的接口方便集成。快速上手5 分钟运行第一个示例克隆仓库git clone https://github.com/ggml-org/whisper.cpp.gitcd whisper.cpp下载 base.en 模型约 142 MBsh ./models/download-ggml-model.sh base.en编译cmake -B buildcmake --build build -j --config Release转录示例音频./build/bin/Release/whisper-cli -f samples/jfk.wav对于非 WAV 格式先用 ffmpeg 转换ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wavNVIDIA GPU support#指出cuda的安装路径 cmake -B build -DGGML_CUDA1 -DCMAKE_CUDA_COMPILERC:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v12.4/bin/nvcc.exe -DCMAKE_GENERATOR_TOOLSETcudaC:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v12.4cmake --build build -j --config Release性能与硬件加速榨干每一滴算力whisper.cpp 通过 ggml 库支持多种硬件后端实现极致性能后端支持平台加速说明Apple SiliconmacOS/iOSARM NEON、Accelerate、Metal、Core MLANENVIDIA GPULinux/WindowscuBLAS 自定义 CUDA 内核Vulkan跨平台通用 GPU 加速支持 AMD/Intel/NVIDIAOpenVINOIntel CPU/GPU针对 Intel 硬件优化Ascend NPU华为昇腾CANN 加速Moore ThreadsMUSA国产 GPU 支持CPU所有平台AVX/AVX2/AVX512、VSX (POWER)、NEON性能对比在 Apple M1 上使用 Core ML 后编码器速度提升 3 倍以上在 NVIDIA RTX 3090 上CUDA 加速使推理速度达到实时率的数十倍。量化模型如 Q5_0可将内存占用减半几乎无损精度。支持平台与绑定whisper.cpp 几乎覆盖所有主流平台•桌面Windows (MSVC/MinGW)、Linux、macOS (Intel/Apple Silicon)•移动iOS、Android•嵌入式Raspberry Pi、树莓派•WebWebAssembly浏览器内运行•云Docker 镜像支持 CUDA、Vulkan同时提供多种语言绑定•Pythonwhispercpp.py(Cython)、pywhispercpp(Pybind11)•Rustwhisper-rs•Go、Java、Ruby、C#、Swift、Unity等应用示例不止是命令行除了基础的whisper-cli项目中还包含多个创意示例•whisper-stream实时麦克风转录可用于会议记录、实时字幕。•whisper-command语音命令识别构建离线语音助手。•whisper-talk-llama与 LLaMA 模型对话实现语音交互。•generate-karaoke.sh生成卡拉 OK 字幕视频。•iOS/Android 应用完整移动端演示完全离线运行。总结边缘语音识别的标杆whisper.cpp 不仅是一个 Whisper 移植版它重新定义了高效推理的标准。通过精心的底层优化和多硬件支持它将原本只能在云端运行的重型模型带到了手机、手表、嵌入式设备上。对于开发者这意味着可以构建真正隐私保护、实时响应的语音应用而无需依赖网络。无论你是想为应用添加离线语音功能还是研究语音识别技术whisper.cpp 都是不可错过的利器。现在就克隆项目让 Whisper 在你的设备上跑起来吧项目地址https://github.com/ggml-org/whisper.cpp
