headroom 是什么?在内容进入 LLM 前压缩工具输出、日志与 RAG 片段

headroomlabs-ai/headroom · GitHub · 官网
大模型MCP 工具RAG 知识库
Star7.5万
近 7 天新增0
编程语言Python
开源协议Apache-2.0
创建于2026-01-07
最近更新2026-10-15

中文导读

Headroom 在内容送进 LLM 之前做一层本地压缩,覆盖工具输出、日志、RAG 片段、文件和对话历史,目标是答案不变而 token 更少。它既能作为 Python/TypeScript 库内联调用,也能以本地代理、MCP server 或包装编码 agent 的方式接入,压缩在本地完成,原文可缓存后按需取回。适合想降低 token 成本、又不想改动现有调用链的开发者。

根据 GitHub 公开数据,该项目的编程语言为 Python,开源协议为 Apache-2.0,创建于 2026-01-07,最近更新于 2026-10-15,目前有 75,453 个 Star。

项目介绍

Headroom 是一个运行在本地的上下文压缩层,作用是在提示词、工具输出、日志、RAG 结果、文件和对话历史被发送给 LLM 之前先做压缩。项目宣称能在答案不变的前提下减少 token 消耗,其中编码 agent 约减少 20%,JSON 类内容可减少 60% 至 95%。压缩过程在用户机器上完成,不会把提示词或文件内容发到外部。

它提供多种接入方式:Python 与 TypeScript 的 compress() 库、零代码改动的本地代理、一条命令包装 Claude、Codex、Cursor、Aider 等编码 agent,以及面向 MCP 客户端的 MCP server。内部由 ContentRouter 识别内容类型,分别交给 SmartCrusher(JSON)、CodeCompressor(源码 AST)和 Kompress-v2-base(文本)处理;CCR 会在本地缓存原文,模型需要时可调用 headroom_retrieve 取回完整内容。

主要功能

适合谁用

适合使用 LLM 或编码 agent、希望降低 token 成本并控制上下文的开发者,也适合需要在不改代码前提下接入压缩的团队。

快速上手

  1. 安装:uv tool install --python 3.13 "headroom-ai[all]" 或 pip install "headroom-ai[all]"
  2. 选择模式:headroom deploy、headroom wrap claude 或 headroom proxy --port 8787
  3. 运行 headroom doctor 做健康检查,确认路由正常
  4. 在 Python 中内联使用:from headroom import compress,然后调用 compress(messages, model="gpt-4o")

Star 增长趋势

75,45375,339 · 2026-10-14 至 2026-10-16

同类项目

面向 AI 编程代理的性能优化系统
★ 28.0万 · JavaScript · 更新于 2026-10-15
通过 MCP 让 AI Agent 逆向分析二进制、应用与网站
★ 27.0万 · TypeScript · 更新于 2026-10-16
Nous Research 出品的可自我改进 AI Agent
★ 25.4万 · Python · 更新于 2026-10-15
可视化与代码结合的工作流自动化平台,原生支持 AI
★ 20.8万 · TypeScript · 更新于 2026-10-15
把网页变成 LLM 可用数据的抓取与搜索工具
★ 19.2万 · TypeScript · 更新于 2026-10-15
开源 AI Agent 平台,可构建、部署并运行自动化工作流
★ 18.8万 · Python · 更新于 2026-10-16