대시보드 가이드
요청
호출 한 건까지 내려가 무슨 일이 있었는지 확인합니다.
요청(Requests)은 비용이 이상하거나, 에러가 났거나, 응답이 이상하다는 제보가 왔을 때 엽니다. 게이트웨이를 지난 AI 호출은 모두 여기 남아 있으니, 필터로 범위를 좁힌 다음 한 건을 열어 원인을 확인하면 됩니다. 비용 급증을 이 화면까지 좁혀 가는 전체 과정은 갑자기 늘어난 비용 대응하기에 있습니다.
목록과 상세
섹션 제목: “목록과 상세”| 영역 | 내용 |
|---|---|
| 목록 | 호출 한 건이 한 행. 주요 정보로 시각, 제공자, 모델, 사용자, 토큰, 비용, 지연시간, 상태를 표시 |
| 상세: 대화 | 실제로 오간 system, user 메시지와 응답 본문. 실패한 호출은 에러 메시지 원문 |
| 상세: 분해 | 프롬프트 토큰과 완성 토큰, 입력 비용과 출력 비용을 나눠서 표시 |
| 상세: 이벤트 | 이 응답을 받은 사용자가 실제로 무엇을 했는지 |
에러가 난 행은 배경이 붉게 표시되고 에러 메시지가 함께 나옵니다. 토큰과 비용 분해를 보면 프롬프트가 비정상적으로 크다는 식의 이상이 바로 드러납니다. 상세에 “로깅이 꺼져 있거나 기록된 메시지가 없습니다”라고 나오면 그 호출은 메시지 본문이 남아 있지 않은 것입니다. 이때도 토큰, 비용, 지연시간은 그대로 기록됩니다.
원인을 좁히는 도구
섹션 제목: “원인을 좁히는 도구”| 도구 | 쓰임새 |
|---|---|
| 필터 | 제공자, 모델, 상태(성공과 에러), 기간 등의 조건. 개요의 에러율 숫자를 눌러 들어왔다면 이미 에러만 걸러져 있습니다 |
| 정렬 | 시각과 지연시간 컬럼. 지연시간 정렬은 가장 느린 호출부터 찾을 때 씁니다 |
| 테스트에서 열기 | 이 호출의 입력을 테스트에 그대로 실어 보냅니다. 문제가 된 실제 호출이 그 자리에서 테스트 케이스가 됩니다 |