Frigate 0.17:把本地大模型接进监控,摄像头画面终于能听懂人话了

我家门口那台摄像头,跑了快两年。之前用它只干一件事:有人经过就录像,然后我在几十个缩略图里翻,找”下午三点那个穿红衣服的是谁”。说难听点,那不叫智能监控,那叫电子录像机——录是录了,找起来要命。

上个月 Frigate 发到 0.17 稳定线(现在最新是 0.17.2),我顺手升了。这次最让我意外的是它把生成式 AI 直接接进了录像检索。不是换个检测器那么简单,是你终于能用自然语言问它:”把昨天快递员来的片段找出来”,它真能找着。

它到底是什么

Frigate 是个完全跑在本地的 NVR(网络录像机),最早就是为 Home Assistant 这块生态做的。它的逻辑一直很清爽:摄像头出码流,它用运动检测圈出”可能有东西动”的区域,再在那一小块上跑目标检测(人、车、猫狗),检测到了才录像、才通知。比起 24 小时无脑录,省了不知多少算力和存储空间。

老版本也能搜,但搜的是结构化标签——”person”、”car”这种。0.17 加的 GenAI 层不一样,它给每一段触发了事件的录像生成一段文字描述,然后你拿这段话去做语义匹配。换句话说,它给监控片段写了”旁白”,你搜旁白。

Frigate 截图

为什么这一步值得说

过去两年本地 AI 监控的痛点一直卡在”理解”这关。目标检测能告诉你”画面里有个 person”,但 person 在干啥、穿什么、是不是你认识的人,它说不清。要看清只能人肉回放。

0.17 的 GenAI 把这段补上了,而且关键在它能完全本地跑。官方支持四种 provider:Ollama、Gemini、OpenAI、Azure。我直接接了家里那台小主机上的 Ollama,跑一个多模态小模型,整条链路不碰任何外部云服务。对在意隐私的人来说,这点比”准不准”还重要——你家门前的画面,不该被人拿去训练别人的模型。

Frigate 截图

怎么接起来

配置不复杂,比想象中省事。GenAI 的 provider 放在全局,具体的物体描述生成挪到了 objects -> genai 下面(0.17 改了位置,老配置升级时会自动迁,但手动改要注意层级)。

一个最小可用的 Ollama 配置大概是:

genai:
  enabled: true
  provider: ollama
  model: your-multimodal-model
  base_url: http://host-ip:11434

objects:
  track:
    - person
    - car
  genai:
    enabled: true
    describe: true

接上之后还有两个顺手的功能:Review 摘要——AI 给每段事件生成标题+描述,并自动标成”危险 / 可疑 / 正常”,刷回顾列表时一眼就知道哪段该点开;Semantic Search Triggers——你设一条规则,比如”画面里出现戴头盔的人就触发某个动作”,相似度过了阈值就自动执行。这是从”看”到”自动响应”的跨越。

Frigate 截图

踩过的坑

说点实在的,别只看亮点。

第一,模型得选对。 不是随便一个本地多模态模型都好使。太小了描述胡说,太大了单帧推理慢、攒一肚子积压。我那台 16G 内存的小主机,跑 7B-8B 级别的多模态刚好,再大就吃力。官方文档也明确写了 Ollama 要能从 Frigate 容器里访问到,网络不通是第一道坎。

第二,升级有破坏性变更。 0.17 把录制保留策略改成了完全分级(continuous 和 motion 分开配),还砍掉了 go2rtc 里的 exec/expr/echo 源(降低配置被篡改后的风险)。老配置升级前一定先备份 config 和那个 frigate.db,否则回不去。

第三,存储得规划好。 开了 GenAI 描述后,每段事件多了一堆文字元数据,量不大但架不住日子久。录像本体还是老问题——多摄像头 24 小时录,硬盘吃得很快。我直接把 storage 挂到 NAS 的共享目录上,让录像落盘到 NAS,本体机器只跑推理。这也是 Frigate 最常见的部署姿势。

第四,硬件加速别省。 目标检测那一层强烈建议上 AI 加速棒或者带 NPU/GPU 的平台。纯 CPU 跑检测,摄像头一多帧率就掉,漏检就来了。0.17 对 Nvidia 加了 CUDA Graphs、对 Intel NPU 加了 OpenVINO 支持,这几类硬件推理效率比 0.16 又高了一截。

Frigate 截图

值不值得上

如果你已经有一台 NAS 加几个 RTSP 摄像头,Frigate 基本是本地监控的事实标准,MIT 协议、3.4 万 star、社区文档齐全。0.17 这波 GenAI 不是噱头,是真正把”回放查找”从体力劳动变成了一句问话。

但清醒点:它依然是为有点折腾能力的人设计的。Docker 部署、写 YAML 配置、接 Home Assistant,这些门槛都在。想要插电即用、手机 APP 点一点的,它不适合你。对我来说,能把自己的监控数据完全攥在手里、还能用本地模型”对话”,这代价值得。

发表评论