折腾记录

把 1.58bit 三值量化玩到头之后，我一直以为这条路已经走到极限了——35B 级别塞进 16GB 内存，效 … 阅读更多

我给 Home Assistant 找本地语音通知方案时，绕了一圈又回到 Kyutai。之前用过他们的 Mos … 阅读更多

我的本地模型已经能聊天写代码了，但离”替我把事做完”还隔着一层。每次想让它整理一份文档 … 阅读更多

语音助手这件事，我对云端方案一直不太放心。倒不是怕什么，主要是对话内容全送出去，心里别扭。之前试了几家 API … 阅读更多

MLX Studio 把 vMLX 引擎包进了一个 macOS 桌面应用，聊天、视觉、文生图、TTS、Whisper、OpenAI 兼容 API 全塞进去了。16GB 小主机能玩什么，JANG 量化的惊人数据是否靠谱，我用了存疑的态度把它过了一遍。