SGLang 多实例容器监控台

AI生成

集群总览 LIVE

SGLang 实例

0

指标健康

0

总吞吐

—

token/s

总运行请求

—

总排队

—

采样

0

5s

显卡性能

NVIDIA GPU · 利用率 / 显存 / 温度 / 功耗

GPU 数量

—

平均利用率

—

%

显存占用

—

—

总功耗

—

W

最高温度

—

°C

采集源

—

GPU 利用率 %

显存占用 GB

正在采集 GPU 指标…

实例列表

点击卡片查看该实例的延迟与曲线详情

正在发现 SGLang 实例…

全部 Docker 容器

含非 SGLang 容器 · 状态与运行时间

容器	状态	镜像	端口	启动时间	运行时间
等待容器数据…

数据源与健康检查

发现方式 · 连通性

GPU API

—

Instances API

—

Docker API

—

发现模式

Docker 自动发现

实例选择

—