서버 상태

불러오는 중…

…연결 중

처리량

—

토큰 처리량

—

지연 시간 p95 · 5분

—

처리 중

—

누적 요청

—

오류

—

GPU

사용률—

메모리—

온도—

전력—

그래프 기간

요청 처리량

초당 요청 수

토큰 처리량

초당 토큰 수

지연 시간

p50p95

GPU 사용률

구간 평균 %

엔드포인트별서버 시작 이후

최근 요청최신 50건 · 입력 텍스트는 저장하지 않음