本地语音转文字_LocalAudioSTT

https://github.com/sincebyte/LocalAudioSTT 是一个本地的语音转文字（ASR）服务。它把 FunASR(https://github.com/modelscope/FunASR) 的 GGUF 模型跑在 llama.cpp 上，暴露一个 OpenAI 兼容的接口 `POST /v1/audio/transcriptions`。 也就是把本地录音文件转成文字。

WHY

结合FunASR的特点：

• 不需要 GPU ：纯 CPU 推理，Mac 笔记本、Linux 小盒子都能跑
• 不需要 Python 运行时 ：推理全部在 C++ 二进制里完成，只有一个很薄的 HTTP 包装层
• 数据不出本机 ：录音文件全部在本地处理，不上传任何服务器
• OpenAI 兼容接口 ：OpenChamber、以及任何支持 OpenAI 语音接口的工具， 填个 URL 就能直接用
• 常驻模式 本项目优化补丁，模型只加载一次，处理音频更快

下载模型

本仓库默认跑的是 Fun-ASR-Nano （编码器 + Qwen3-0.6B 大语言模型 + FSMN-VAD 前端），模型都已经转换成 GGUF 格式，直接从 HuggingFace 下载 即可，不需要 Python 的深度学习环境。

直接访问上面的 HuggingFace 仓库地址，把对应文件下载到 gguf/ 目录即可。

编译

llama-funasr-cli 需要 –server 常驻模式 才能让服务只加载一次模型、常驻 内存处理请求。 官方预编译的二进制不带这个参数 ，所以本方案不下载官方
二进制，而是 直接从源码编译 （编译脚本会自动打好下面的加速补丁）。 编译产物不随本仓库 git 分发（已在 .gitignore 排除），换机器后重新编译一次即可。

需要安装的前置软件

编译前先确认下面几个软件已经装好：

装完后验证都能用：

git --version
cmake --version
clang --version

补丁是做什么的

官方 CLI 是“一次性”版本：转完一个音频就退出，每个请求都要重新加载约 1GB 的模型。
本仓库默认的 常驻模式 （`start-funasr-server.sh` 拉起一个 `llama-funasr-cli –server` worker，模型只加载一次，处理音频更快）需要 --server 参数，官方二进制不带它，所以仓库放了补丁：

怎么编译并打好补丁

用仓库自带的一键脚本（自动完成：拉源码 → 打补丁 → 编译 → 得到 llama-funasr-cli ）：

./build-funasr-cli-server.sh --install

验证补丁是否打上（编译成功的二进制在 –help 里应能看到 –server）：

./llama-funasr-cli --help 2>&1 | grep -- --server

启动

确保以下文件存在：

• llama-funasr-cli ← 由上一步编译生成（不随 git 分发）
• gguf/qwen3-0.6b-q5km.gguf
• gguf/funasr-encoder-f16.gguf
• gguf/fsmn-vad.gguf

缺执行文件的话，先按上节「编译 llama-funasr-cli」编译；缺模型的话，直接按 上文地址从 HuggingFace 下载到 gguf/ 目录。

一键启动（默认端口 8001，会先杀掉占用 8001 的旧进程再启动）。脚本把服务 放到 后台 运行，打印一段日志后立即退出，并报告 启动成功/失败 ：

./start-funasr-server.sh

• 启动成功 → 输出 启动成功 ✓ http://127.0.0.1:8001 (PID xxx) ，脚本退出码 0
• 启动失败 → 输出 启动失败 ✗ 并附日志尾部，脚本退出码 1
• 服务日志写在 funasr-server/server.log

验证是否启动成功：

curl http://127.0.0.1:8001/health          # 期望: {"status": "ok"}

也可以直接命令行测试转写：

curl http://127.0.0.1:8001/v1/audio/transcriptions \
  -F file=@/tmp/xxx.wav -F model=funasr-gguf

如需改端口/模型，用环境变量，例如 FUNASR_PORT=9000 ./start-funasr-server.sh

停止服务：

kill <脚本输出的 PID>

在 OpenChamber 里使用

1. 先按上面步骤启动服务。
2. 打开 OpenChamber → 设置（Settings）→ 语音（Voice）→ 语音输入。
3. 提供者（Provider）选择 服务器 / Server （即 OpenAI 兼容）。
4. 填写以下三项：

1. 语言（Language）留空即可（自动检测），或填 zh / en
2. 保存后，对着输入框说话，文字就会插入到对话里。

说明：OpenChamber 会把录音转成 WAV 并 POST 到
服务器 URL + /audio/transcriptions ，所以填 http://127.0.0.1:8001/v1 （ 127.0.0.1 是允许的本地地址）。

在 debuff 里使用

debuff 要求填 完整的转写接口地址 （不能只填到 /v1 ）。此时把下面 这个地址直接填成 URL：

• URL / 接口地址： http://127.0.0.1:8001/v1/audio/transcriptions
• 模型（Model）： funasr-gguf （任意字符串，服务端不校验）
• API Key：留空或随便填，如 not-required

性能测试

测试机器：MacBook Pro 14 英寸，Apple M1 Pro（8 性能核 + 2 能效核）， 16GB 内存，macOS 26.6.2。

服务默认以 常驻模式 运行：启动时加载一次模型（约 1~1.5 秒），之后每个请求 直接复用内存里的模型，不再重新加载。实测耗时：