781 lines
18 KiB
JSON
781 lines
18 KiB
JSON
|
{
|
||
|
|
"annotations": {
|
||
|
|
"list": []
|
||
|
|
},
|
||
|
|
"editable": true,
|
||
|
|
"fiscalYearStartMonth": 0,
|
||
|
|
"graphTooltip": 0,
|
||
|
|
"id": null,
|
||
|
|
"links": [],
|
||
|
|
"panels": [
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "thresholds"
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"color": "yellow",
|
||
|
|
"value": 50
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"color": "red",
|
||
|
|
"value": 80
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "currencyUSD"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 5,
|
||
|
|
"w": 6,
|
||
|
|
"x": 0,
|
||
|
|
"y": 0
|
||
|
|
},
|
||
|
|
"id": 1,
|
||
|
|
"options": {
|
||
|
|
"colorMode": "value",
|
||
|
|
"graphMode": "area",
|
||
|
|
"justifyMode": "auto",
|
||
|
|
"orientation": "auto",
|
||
|
|
"reduceOptions": {
|
||
|
|
"calcs": ["lastNotNull"],
|
||
|
|
"fields": "",
|
||
|
|
"values": false
|
||
|
|
},
|
||
|
|
"textMode": "auto",
|
||
|
|
"wideLayout": true
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_cost_total_cents) / 100",
|
||
|
|
"legendFormat": "Total Cost",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Total LLM Cost (USD)",
|
||
|
|
"type": "stat"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "thresholds"
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "short"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 5,
|
||
|
|
"w": 6,
|
||
|
|
"x": 6,
|
||
|
|
"y": 0
|
||
|
|
},
|
||
|
|
"id": 2,
|
||
|
|
"options": {
|
||
|
|
"colorMode": "value",
|
||
|
|
"graphMode": "area",
|
||
|
|
"justifyMode": "auto",
|
||
|
|
"orientation": "auto",
|
||
|
|
"reduceOptions": {
|
||
|
|
"calcs": ["lastNotNull"],
|
||
|
|
"fields": "",
|
||
|
|
"values": false
|
||
|
|
},
|
||
|
|
"textMode": "auto",
|
||
|
|
"wideLayout": true
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_provider_token_usage{type=\"input\"})",
|
||
|
|
"legendFormat": "Input Tokens",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Total Input Tokens",
|
||
|
|
"type": "stat"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "thresholds"
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "short"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 5,
|
||
|
|
"w": 6,
|
||
|
|
"x": 12,
|
||
|
|
"y": 0
|
||
|
|
},
|
||
|
|
"id": 3,
|
||
|
|
"options": {
|
||
|
|
"colorMode": "value",
|
||
|
|
"graphMode": "area",
|
||
|
|
"justifyMode": "auto",
|
||
|
|
"orientation": "auto",
|
||
|
|
"reduceOptions": {
|
||
|
|
"calcs": ["lastNotNull"],
|
||
|
|
"fields": "",
|
||
|
|
"values": false
|
||
|
|
},
|
||
|
|
"textMode": "auto",
|
||
|
|
"wideLayout": true
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_provider_token_usage{type=\"output\"})",
|
||
|
|
"legendFormat": "Output Tokens",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Total Output Tokens",
|
||
|
|
"type": "stat"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "thresholds"
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"color": "yellow",
|
||
|
|
"value": 0.7
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"color": "red",
|
||
|
|
"value": 0.9
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"max": 1,
|
||
|
|
"min": 0,
|
||
|
|
"unit": "percentunit"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 5,
|
||
|
|
"w": 6,
|
||
|
|
"x": 18,
|
||
|
|
"y": 0
|
||
|
|
},
|
||
|
|
"id": 4,
|
||
|
|
"options": {
|
||
|
|
"minVizHeight": 75,
|
||
|
|
"minVizWidth": 75,
|
||
|
|
"orientation": "auto",
|
||
|
|
"reduceOptions": {
|
||
|
|
"calcs": ["lastNotNull"],
|
||
|
|
"fields": "",
|
||
|
|
"values": false
|
||
|
|
},
|
||
|
|
"showThresholdLabels": false,
|
||
|
|
"showThresholdMarkers": true,
|
||
|
|
"sizing": "auto"
|
||
|
|
},
|
||
|
|
"pluginVersion": "10.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_role_budget_used_cents) / sum(vapora_llm_role_budget_limit_cents)",
|
||
|
|
"legendFormat": "Budget Usage",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Budget Usage %",
|
||
|
|
"type": "gauge"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"custom": {
|
||
|
|
"axisBorderShow": false,
|
||
|
|
"axisCenteredZero": false,
|
||
|
|
"axisColorMode": "text",
|
||
|
|
"axisLabel": "",
|
||
|
|
"axisPlacement": "auto",
|
||
|
|
"barAlignment": 0,
|
||
|
|
"drawStyle": "line",
|
||
|
|
"fillOpacity": 20,
|
||
|
|
"gradientMode": "opacity",
|
||
|
|
"hideFrom": {
|
||
|
|
"tooltip": false,
|
||
|
|
"viz": false,
|
||
|
|
"legend": false
|
||
|
|
},
|
||
|
|
"insertNulls": false,
|
||
|
|
"lineInterpolation": "linear",
|
||
|
|
"lineWidth": 2,
|
||
|
|
"pointSize": 5,
|
||
|
|
"scaleDistribution": {
|
||
|
|
"type": "linear"
|
||
|
|
},
|
||
|
|
"showPoints": "never",
|
||
|
|
"spanNulls": false,
|
||
|
|
"stacking": {
|
||
|
|
"group": "A",
|
||
|
|
"mode": "normal"
|
||
|
|
},
|
||
|
|
"thresholdsStyle": {
|
||
|
|
"mode": "off"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "currencyUSD"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 0,
|
||
|
|
"y": 5
|
||
|
|
},
|
||
|
|
"id": 5,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": ["sum", "mean"],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "multi",
|
||
|
|
"sort": "desc"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(rate(vapora_llm_cost_total_cents[5m])) by (provider) / 100",
|
||
|
|
"legendFormat": "{{provider}}",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Cost by Provider (USD)",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"custom": {
|
||
|
|
"axisBorderShow": false,
|
||
|
|
"axisCenteredZero": false,
|
||
|
|
"axisColorMode": "text",
|
||
|
|
"axisLabel": "",
|
||
|
|
"axisPlacement": "auto",
|
||
|
|
"barAlignment": 0,
|
||
|
|
"drawStyle": "line",
|
||
|
|
"fillOpacity": 20,
|
||
|
|
"gradientMode": "opacity",
|
||
|
|
"hideFrom": {
|
||
|
|
"tooltip": false,
|
||
|
|
"viz": false,
|
||
|
|
"legend": false
|
||
|
|
},
|
||
|
|
"insertNulls": false,
|
||
|
|
"lineInterpolation": "linear",
|
||
|
|
"lineWidth": 2,
|
||
|
|
"pointSize": 5,
|
||
|
|
"scaleDistribution": {
|
||
|
|
"type": "linear"
|
||
|
|
},
|
||
|
|
"showPoints": "never",
|
||
|
|
"spanNulls": false,
|
||
|
|
"stacking": {
|
||
|
|
"group": "A",
|
||
|
|
"mode": "normal"
|
||
|
|
},
|
||
|
|
"thresholdsStyle": {
|
||
|
|
"mode": "off"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "short"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 12,
|
||
|
|
"y": 5
|
||
|
|
},
|
||
|
|
"id": 6,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": ["sum", "mean"],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "multi",
|
||
|
|
"sort": "desc"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(rate(vapora_llm_provider_token_usage[5m])) by (provider, type)",
|
||
|
|
"legendFormat": "{{provider}} - {{type}}",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Token Usage by Provider",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"custom": {
|
||
|
|
"hideFrom": {
|
||
|
|
"tooltip": false,
|
||
|
|
"viz": false,
|
||
|
|
"legend": false
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"mappings": []
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 8,
|
||
|
|
"x": 0,
|
||
|
|
"y": 13
|
||
|
|
},
|
||
|
|
"id": 7,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "right",
|
||
|
|
"showLegend": true,
|
||
|
|
"values": ["value", "percent"]
|
||
|
|
},
|
||
|
|
"pieType": "donut",
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_cost_total_cents) by (provider)",
|
||
|
|
"legendFormat": "{{provider}}",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Cost Distribution by Provider",
|
||
|
|
"type": "piechart"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"custom": {
|
||
|
|
"hideFrom": {
|
||
|
|
"tooltip": false,
|
||
|
|
"viz": false,
|
||
|
|
"legend": false
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"mappings": []
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 8,
|
||
|
|
"x": 8,
|
||
|
|
"y": 13
|
||
|
|
},
|
||
|
|
"id": 8,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "right",
|
||
|
|
"showLegend": true,
|
||
|
|
"values": ["value", "percent"]
|
||
|
|
},
|
||
|
|
"pieType": "donut",
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_cost_total_cents) by (role)",
|
||
|
|
"legendFormat": "{{role}}",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Cost Distribution by Role",
|
||
|
|
"type": "piechart"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"custom": {
|
||
|
|
"hideFrom": {
|
||
|
|
"tooltip": false,
|
||
|
|
"viz": false,
|
||
|
|
"legend": false
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"mappings": []
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 8,
|
||
|
|
"x": 16,
|
||
|
|
"y": 13
|
||
|
|
},
|
||
|
|
"id": 9,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "right",
|
||
|
|
"showLegend": true,
|
||
|
|
"values": ["value", "percent"]
|
||
|
|
},
|
||
|
|
"pieType": "donut",
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "single",
|
||
|
|
"sort": "none"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_provider_requests_total) by (provider)",
|
||
|
|
"legendFormat": "{{provider}}",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Request Distribution by Provider",
|
||
|
|
"type": "piechart"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "palette-classic"
|
||
|
|
},
|
||
|
|
"custom": {
|
||
|
|
"axisBorderShow": false,
|
||
|
|
"axisCenteredZero": false,
|
||
|
|
"axisColorMode": "text",
|
||
|
|
"axisLabel": "",
|
||
|
|
"axisPlacement": "auto",
|
||
|
|
"barAlignment": 0,
|
||
|
|
"drawStyle": "bars",
|
||
|
|
"fillOpacity": 80,
|
||
|
|
"gradientMode": "none",
|
||
|
|
"hideFrom": {
|
||
|
|
"tooltip": false,
|
||
|
|
"viz": false,
|
||
|
|
"legend": false
|
||
|
|
},
|
||
|
|
"insertNulls": false,
|
||
|
|
"lineInterpolation": "linear",
|
||
|
|
"lineWidth": 1,
|
||
|
|
"pointSize": 5,
|
||
|
|
"scaleDistribution": {
|
||
|
|
"type": "linear"
|
||
|
|
},
|
||
|
|
"showPoints": "never",
|
||
|
|
"spanNulls": false,
|
||
|
|
"stacking": {
|
||
|
|
"group": "A",
|
||
|
|
"mode": "normal"
|
||
|
|
},
|
||
|
|
"thresholdsStyle": {
|
||
|
|
"mode": "off"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "currencyUSD"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 0,
|
||
|
|
"y": 21
|
||
|
|
},
|
||
|
|
"id": 10,
|
||
|
|
"options": {
|
||
|
|
"legend": {
|
||
|
|
"calcs": ["sum"],
|
||
|
|
"displayMode": "table",
|
||
|
|
"placement": "bottom",
|
||
|
|
"showLegend": true
|
||
|
|
},
|
||
|
|
"tooltip": {
|
||
|
|
"mode": "multi",
|
||
|
|
"sort": "desc"
|
||
|
|
}
|
||
|
|
},
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(increase(vapora_llm_role_budget_used_cents[1h])) by (role) / 100",
|
||
|
|
"legendFormat": "{{role}}",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Hourly Budget Usage by Role (USD)",
|
||
|
|
"type": "timeseries"
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"datasource": {
|
||
|
|
"type": "prometheus",
|
||
|
|
"uid": "${DS_PROMETHEUS}"
|
||
|
|
},
|
||
|
|
"fieldConfig": {
|
||
|
|
"defaults": {
|
||
|
|
"color": {
|
||
|
|
"mode": "thresholds"
|
||
|
|
},
|
||
|
|
"custom": {
|
||
|
|
"align": "auto",
|
||
|
|
"cellOptions": {
|
||
|
|
"type": "auto"
|
||
|
|
},
|
||
|
|
"inspect": false
|
||
|
|
},
|
||
|
|
"mappings": [],
|
||
|
|
"thresholds": {
|
||
|
|
"mode": "absolute",
|
||
|
|
"steps": [
|
||
|
|
{
|
||
|
|
"color": "green",
|
||
|
|
"value": null
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"color": "yellow",
|
||
|
|
"value": 0.7
|
||
|
|
},
|
||
|
|
{
|
||
|
|
"color": "red",
|
||
|
|
"value": 0.9
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"unit": "percentunit"
|
||
|
|
},
|
||
|
|
"overrides": [
|
||
|
|
{
|
||
|
|
"matcher": {
|
||
|
|
"id": "byName",
|
||
|
|
"options": "Role"
|
||
|
|
},
|
||
|
|
"properties": [
|
||
|
|
{
|
||
|
|
"id": "custom.width",
|
||
|
|
"value": 150
|
||
|
|
}
|
||
|
|
]
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"gridPos": {
|
||
|
|
"h": 8,
|
||
|
|
"w": 12,
|
||
|
|
"x": 12,
|
||
|
|
"y": 21
|
||
|
|
},
|
||
|
|
"id": 11,
|
||
|
|
"options": {
|
||
|
|
"cellHeight": "sm",
|
||
|
|
"footer": {
|
||
|
|
"countRows": false,
|
||
|
|
"fields": "",
|
||
|
|
"reducer": ["sum"],
|
||
|
|
"show": false
|
||
|
|
},
|
||
|
|
"showHeader": true
|
||
|
|
},
|
||
|
|
"pluginVersion": "10.0.0",
|
||
|
|
"targets": [
|
||
|
|
{
|
||
|
|
"expr": "sum(vapora_llm_role_budget_used_cents) by (role) / sum(vapora_llm_role_budget_limit_cents) by (role)",
|
||
|
|
"format": "table",
|
||
|
|
"instant": true,
|
||
|
|
"legendFormat": "{{role}}",
|
||
|
|
"refId": "A"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"title": "Budget Status by Role",
|
||
|
|
"transformations": [
|
||
|
|
{
|
||
|
|
"id": "organize",
|
||
|
|
"options": {
|
||
|
|
"excludeByName": {
|
||
|
|
"Time": true
|
||
|
|
},
|
||
|
|
"indexByName": {
|
||
|
|
"role": 0,
|
||
|
|
"Value": 1
|
||
|
|
},
|
||
|
|
"renameByName": {
|
||
|
|
"Value": "Budget Usage %",
|
||
|
|
"role": "Role"
|
||
|
|
}
|
||
|
|
}
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"type": "table"
|
||
|
|
}
|
||
|
|
],
|
||
|
|
"refresh": "10s",
|
||
|
|
"schemaVersion": 39,
|
||
|
|
"tags": ["vapora", "llm", "cost", "budget"],
|
||
|
|
"templating": {
|
||
|
|
"list": [
|
||
|
|
{
|
||
|
|
"current": {
|
||
|
|
"selected": false,
|
||
|
|
"text": "Prometheus",
|
||
|
|
"value": "Prometheus"
|
||
|
|
},
|
||
|
|
"hide": 0,
|
||
|
|
"includeAll": false,
|
||
|
|
"label": "Datasource",
|
||
|
|
"multi": false,
|
||
|
|
"name": "DS_PROMETHEUS",
|
||
|
|
"options": [],
|
||
|
|
"query": "prometheus",
|
||
|
|
"refresh": 1,
|
||
|
|
"regex": "",
|
||
|
|
"skipUrlSync": false,
|
||
|
|
"type": "datasource"
|
||
|
|
}
|
||
|
|
]
|
||
|
|
},
|
||
|
|
"time": {
|
||
|
|
"from": "now-6h",
|
||
|
|
"to": "now"
|
||
|
|
},
|
||
|
|
"timepicker": {},
|
||
|
|
"timezone": "",
|
||
|
|
"title": "VAPORA LLM Cost Tracking",
|
||
|
|
"uid": "vapora-llm-cost",
|
||
|
|
"version": 1,
|
||
|
|
"weekStart": ""
|
||
|
|
}
|