Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same answers. Library, proxy, MCP server.
Python agentaianthropicclaude-codecompressioncontext-engineeringcontext-windowcursorfastapilangchainllmmcpopenaiprompt-engineeringproxypythonragtoken-optimizationtokenstypescript
{
"resourceLogs": [
{
"resource": {
"attributes": [
{
"key": "service.name",
"value": {
"stringValue": "headroom"
}
},
{
"key": "service.version",
"value": {
"stringValue": "0.37.0"
}
},
{
"key": "headroom.install_id",
"value": {
"stringValue": "00000000000000000000000000000000"
}
},
{
"key": "headroom.install_mode",
"value": {
"stringValue": "pip"
}
},
{
"key": "headroom.stack",
"value": {
"stringValue": "proxy"
}
},
{
"key": "os.type",
"value": {
"stringValue": "darwin"
}
},
{
"key": "host.arch",
"value": {
"stringValue": "arm64"
}
}
]
},
"scopeLogs": [
{
"scope": {
"name": "headroom.telemetry.session"
},
"logRecords": [
{
"timeUnixNano": "1787703693355874048",
"body": {
"kvlistValue": {
"values": [
{
"key": "schema_version",
"value": {
"intValue": "2"
}
},
{
"key": "session",
"value": {
"kvlistValue": {
"values": [
{
"key": "id",
"value": {
"stringValue": "4996e02d2b7cafe7"
}
},
{
"key": "seq",
"value": {
"intValue": "0"
}
},
{
"key": "duration_s",
"value": {
"intValue": "135"
}
},
{
"key": "turns",
"value": {
"intValue": "4"
}
},
{
"key": "ended",
"value": {
"stringValue": "shutdown"
}
},
{
"key": "final",
"value": {
"boolValue": true
}
}
]
}
}
},
{
"key": "tokens",
"value": {
"kvlistValue": {
"values": [
{
"key": "original",
"value": {
"intValue": "480000"
}
},
{
"key": "attempted",
"value": {
"intValue": "160000"
}
},
{
"key": "input",
"value": {
"intValue": "360000"
}
},
{
"key": "output",
"value": {
"intValue": "4800"
}
},
{
"key": "saved",
"value": {
"intValue": "120000"
}
},
{
"key": "tool_saved",
"value": {
"intValue": "0"
}
},
{
"key": "cache_read",
"value": {
"intValue": "240000"
}
},
{
"key": "cache_write",
"value": {
"intValue": "32000"
}
},
{
"key": "uncached",
"value": {
"intValue": "88000"
}
}
]
}
}
},
{
"key": "rates",
"value": {
"kvlistValue": {
"values": [
{
"key": "saved_pct",
"value": {
"doubleValue": 25.0
}
},
{
"key": "eligible_pct",
"value": {
"doubleValue": 33.33
}
},
{
"key": "yield_pct",
"value": {
"doubleValue": 75.0
}
},
{
"key": "all_layers_saved_pct",
"value": {
"doubleValue": 25.0
}
},
{
"key": "all_layers_yield_pct",
"value": {
"doubleValue": 75.0
}
},
{
"key": "cache_read_pct",
"value": {
"doubleValue": 50.0
}
},
{
"key": "overhead_pct",
"value": {
"doubleValue": 1.14
}
}
]
}
}
},
{
"key": "compression",
"value": {
"kvlistValue": {
"values": [
{
"key": "transforms",
"value": {
"kvlistValue": {
"values": [
{
"key": "crush",
"value": {
"intValue": "4"
}
}
]
}
}
},
{
"key": "by_strategy",
"value": {
"arrayValue": {
"values": []
}
}
},
{
"key": "overhead_ms_total",
"value": {
"doubleValue": 192.0
}
},
{
"key": "latency_ms_total",
"value": {
"doubleValue": 16800.0
}
},
{
"key": "overhead_ms_per_turn",
"value": {
"doubleValue": 48.0
}
},
{
"key": "latency_ms_per_turn",
"value": {
"doubleValue": 4200.0
}
},
{
"key": "passthrough_turns",
"value": {
"intValue": "0"
}
},
{
"key": "response_cache_hits",
"value": {
"intValue": "0"
}
}
]
}
}
},
{
"key": "skips",
"value": {
"kvlistValue": {
"values": []
}
}
},
{
"key": "sources",
"value": {
"kvlistValue": {
"values": [
{
"key": "proxy",
"value": {
"intValue": "4"
}
}
]
}
}
},
{
"key": "providers",
"value": {
"arrayValue": {
"values": [
{
"stringValue": "anthropic"
}
]
}
}
},
{
"key": "models",
"value": {
"arrayValue": {
"values": [
{
"stringValue": "claude-sonnet-5"
}
]
}
}
},
{
"key": "failures",
"value": {
"intValue": "0"
}
},
{
"key": "failure_statuses",
"value": {
"kvlistValue": {
"values": []
}
}
},
{
"key": "quality",
"value": {
"kvlistValue": {
"values": [
{
"key": "reread_tokens",
"value": {
"intValue": "3600"
}
},
{
"key": "reread_compressed_tokens",
"value": {
"intValue": "1600"
}
},
{
"key": "waste_turns",
"value": {
"intValue": "4"
}
},
{
"key": "waste",
"value": {
"arrayValue": {
"values": []
}
}
}
]
}
}
},
{
"key": "hist",
"value": {
"kvlistValue": {
"values": [
{
"key": "msgs",
"value": {
"kvlistValue": {
"values": [
{
"key": "edges",
"value": {
"arrayValue": {
"values": [
{
"intValue": "5"
},
{
"intValue": "20"
},
{
"intValue": "50"
},
{
"intValue": "100"
},
{
"intValue": "250"
},
{
"intValue": "500"
}
]
}
}
},
{
"key": "counts",
"value": {
"arrayValue": {
"values": [
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "4"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
}
]
}
}
},
{
"key": "overhead_ms",
"value": {
"kvlistValue": {
"values": [
{
"key": "edges",
"value": {
"arrayValue": {
"values": [
{
"doubleValue": 1.0
},
{
"doubleValue": 5.0
},
{
"doubleValue": 25.0
},
{
"doubleValue": 100.0
},
{
"doubleValue": 500.0
},
{
"doubleValue": 2000.0
}
]
}
}
},
{
"key": "counts",
"value": {
"arrayValue": {
"values": [
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "4"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
}
]
}
}
},
{
"key": "saved_pct",
"value": {
"kvlistValue": {
"values": [
{
"key": "edges",
"value": {
"arrayValue": {
"values": [
{
"doubleValue": 0.5
},
{
"doubleValue": 5.0
},
{
"doubleValue": 10.0
},
{
"doubleValue": 20.0
},
{
"doubleValue": 40.0
},
{
"doubleValue": 60.0
}
]
}
}
},
{
"key": "counts",
"value": {
"arrayValue": {
"values": [
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "4"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
}
]
}
}
},
{
"key": "ttfb_ms",
"value": {
"kvlistValue": {
"values": [
{
"key": "edges",
"value": {
"arrayValue": {
"values": [
{
"doubleValue": 200.0
},
{
"doubleValue": 500.0
},
{
"doubleValue": 1000.0
},
{
"doubleValue": 2500.0
},
{
"doubleValue": 5000.0
},
{
"doubleValue": 15000.0
}
]
}
}
},
{
"key": "counts",
"value": {
"arrayValue": {
"values": [
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "4"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
}
]
}
}
},
{
"key": "turn_tokens",
"value": {
"kvlistValue": {
"values": [
{
"key": "edges",
"value": {
"arrayValue": {
"values": [
{
"intValue": "1000"
},
{
"intValue": "4000"
},
{
"intValue": "16000"
},
{
"intValue": "64000"
},
{
"intValue": "128000"
},
{
"intValue": "256000"
}
]
}
}
},
{
"key": "counts",
"value": {
"arrayValue": {
"values": [
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "4"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
}
]
}
}
}
]
}
}
},
{
"key": "shapes",
"value": {
"kvlistValue": {
"values": [
{
"key": "by_content",
"value": {
"arrayValue": {
"values": []
}
}
},
{
"key": "by_tool",
"value": {
"arrayValue": {
"values": []
}
}
},
{
"key": "truncated",
"value": {
"boolValue": false
}
}
]
}
}
},
{
"key": "cache",
"value": {
"kvlistValue": {
"values": [
{
"key": "gap_edges_s",
"value": {
"arrayValue": {
"values": [
{
"doubleValue": 30.0
},
{
"doubleValue": 60.0
},
{
"doubleValue": 120.0
},
{
"doubleValue": 300.0
},
{
"doubleValue": 600.0
},
{
"doubleValue": 1800.0
}
]
}
}
},
{
"key": "hits",
"value": {
"arrayValue": {
"values": [
{
"intValue": "0"
},
{
"intValue": "3"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
},
{
"key": "misses",
"value": {
"arrayValue": {
"values": [
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
},
{
"key": "write_5m",
"value": {
"intValue": "24000"
}
},
{
"key": "write_1h",
"value": {
"intValue": "8000"
}
},
{
"key": "inferred_turns",
"value": {
"intValue": "0"
}
}
]
}
}
},
{
"key": "trajectory",
"value": {
"kvlistValue": {
"values": [
{
"key": "buckets",
"value": {
"intValue": "10"
}
},
{
"key": "turns",
"value": {
"arrayValue": {
"values": [
{
"intValue": "1"
},
{
"intValue": "2"
},
{
"intValue": "1"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
},
{
"key": "tokens",
"value": {
"arrayValue": {
"values": [
{
"intValue": "120000"
},
{
"intValue": "240000"
},
{
"intValue": "120000"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
},
{
"key": "saved",
"value": {
"arrayValue": {
"values": [
{
"intValue": "30000"
},
{
"intValue": "60000"
},
{
"intValue": "30000"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
},
{
"intValue": "0"
}
]
}
}
},
{
"key": "kinds",
"value": {
"stringValue": "s4"
}
},
{
"key": "kinds_truncated",
"value": {
"boolValue": false
}
},
{
"key": "msgs_max",
"value": {
"intValue": "140"
}
}
]
}
}
},
{
"key": "clients",
"value": {
"arrayValue": {
"values": [
{
"kvlistValue": {
"values": [
{
"key": "client",
"value": {
"stringValue": "claude_code"
}
},
{
"key": "n",
"value": {
"intValue": "4"
}
}
]
}
}
]
}
}
},
{
"key": "errors",
"value": {
"kvlistValue": {
"values": [
{
"key": "count",
"value": {
"intValue": "0"
}
},
{
"key": "by_status",
"value": {
"kvlistValue": {
"values": []
}
}
}
]
}
}
},
{
"key": "strata",
"value": {
"arrayValue": {
"values": []
}
}
},
{
"key": "config",
"value": {
"arrayValue": {
"values": []
}
}
}
]
}
}
}
]
}
]
}
]
}