折腾记录

1.58 bit 量化刚试完没多久，又来了更狠的：直接把 27B 模型压到 1 bit，权重只有 +1 和 – … 阅读更多

NeuTTS 把 GGUF 这套思路搬到了语音模型上——552M 参数的 Air 走 Q4 GGUF 量化，手机、Mac、树莓派都能实时合成，3 秒克隆一个说话人，顺带还做了情感版和水印。

我的 Mac 是 16GB 统一内存。跑 Qwen3.6-35B-A3B 这件事，之前靠 llama.cpp … 阅读更多