LLM 통계

로컬 모델 실행 횟수, 응답 지연, 토큰 소모량을 분석합니다.

총 실행 수
평균 소요 시간
p95 소요 시간
평균 TTFT
평균 출력 토큰/초
평균 입력 토큰
평균 출력 토큰
총 입력 토큰
총 출력 토큰
총 추론 토큰
평균 추론 토큰
평균 시스템 프롬프트 토큰
평균 공통 프롬프트 토큰
평균 작업 프롬프트 토큰

시간대별 평균 소요 시간 (최근 24시간)

모델별 성능 비교

모델실행 수평균 소요평균 토큰/초

프롬프트 타입별 실행

프롬프트 타입실행 수평균 소요평균 입력 토큰

공통 프롬프트 프로필

공통 프롬프트 이름실행 수평균 소요평균 시스템 토큰