라우팅 | ABTO 가이드

라우팅(Routing)은 테스트에서 저장해 둔 옵션에 실제 사용자를 붙이는 단계입니다. 슬라이더를 움직여 저장하면 그 순간부터 적용됩니다. 배포도, 설정 파일 수정도 필요 없습니다.

비율 그래프와 슬라이더

영역	내용
상단 비율 그래프	지금 트래픽이 옵션들에 어떤 비율로 나뉘고 있는지 그림으로 보여줍니다
옵션 행	옵션마다 한 행씩 슬라이더. 한 행을 바꾸면 나머지가 자동으로 조정되어 합이 항상 100입니다. 저장을 눌러야 반영됩니다
우측 상단 “비교에서 결과 보기”	지금 나눠 싣고 있는 실험의 결과 화면으로 이동합니다

화면을 연 뒤 다른 사람이 비율을 저장했거나 코드가 바뀌어 원본 옵션이 새로 생겼으면, 저장하지 않고 새로고침을 안내합니다. 편집하던 비율은 화면에 그대로 남습니다.

옵션 추가와 롤백

하려는 일	방법
새 옵션 만들기	”새 옵션”을 눌러 이름을 정하고, 테스트에서 저장한 에이전트 설정을 “기존 설정 선택”으로 고르거나 모델과 프롬프트를 직접 입력합니다. 새 옵션은 비율 0으로 목록에 추가되며, 라우팅을 저장해야 만들어집니다
옵션 설정 바꾸기	만든 옵션은 이름만 바꿀 수 있습니다. 다른 모델이나 프롬프트를 쓰려면 그 설정으로 새 옵션을 만들고, 기존 옵션의 비율을 새 옵션으로 옮겨야 합니다
옵션 끄기	스위치는 따로 없습니다. 비율 0이 곧 꺼짐입니다
롤백	새 옵션을 0으로, 기존을 100으로 되돌리면 끝입니다. 몇 초면 됩니다
옵션 수	한 정책에 넣을 수 있는 옵션은 다섯 개까지입니다. 비율을 0으로 내려도 자리는 그대로 차지하므로, 자리를 비우려면 “라우팅에서 빼기”를 씁니다

옵션과 에이전트 설정 보관

더 쓰지 않을 옵션은 “전체 옵션” 목록에서 보관합니다. 지우지 않으므로 비교의 결과는 그대로 남습니다.

대상	보관할 수 있는 때	보관하면
옵션	라우팅에서 뺀 옵션. 현재 원본 옵션은 보관할 수 없습니다	라우팅 화면의 목록과 비율 저장에서 빠집니다
에이전트 설정	언제든지	새 옵션과 테스트 불러오기에서 고를 수 없습니다. 이미 그 설정을 쓰는 옵션은 계속 그 설정으로 응답합니다

보관한 항목은 목록 맨 아래의 접힌 칸에 모이고, 거기서 보관을 해제할 수 있습니다. 보관을 해제한 옵션은 목록으로만 돌아오므로, 다시 트래픽을 받으려면 비율을 저장합니다.

시스템 프롬프트 사용 허용

노드별 설정이며, 기본값은 허용하지 않음입니다. 라우팅 화면의 시스템 프롬프트 카드에서 노드마다 바꿀 수 있습니다.

허용: 시스템 프롬프트가 지정된 옵션에 배정된 요청은 옵션의 시스템 프롬프트를 사용합니다. 시스템 프롬프트가 지정되지 않은 옵션에 배정된 요청은 원본 요청의 시스템 프롬프트를 사용합니다.
허용하지 않음: 그 노드의 모든 요청이 원본 요청의 시스템 프롬프트를 사용합니다. 옵션에 지정된 시스템 프롬프트는 유지되지만 사용하지 않으며, 옵션 목록에 미적용으로 표시됩니다.

설정을 바꾸면 이후 요청부터 즉시 적용됩니다.

동적 시스템 프롬프트

동적 시스템 프롬프트는 사용자 정보처럼 요청마다 달라지는 내용을 담은 시스템 프롬프트입니다. 옵션에 지정된 시스템 프롬프트는 모든 요청에 같은 값을 사용하므로, 시스템 프롬프트가 지정된 옵션에 배정된 요청에서는 요청마다 달라지는 내용이 모델에 전달되지 않습니다.

원본 옵션의 시스템 프롬프트

원본 옵션은 시스템 프롬프트 없이 생성되며, 원본 옵션에 배정된 요청은 원본 요청의 시스템 프롬프트를 사용합니다. 시스템 프롬프트만 바뀐 요청은 새 원본 옵션을 만들지 않습니다.

배정은 사람 단위로 고정됩니다

어느 사용자가 어느 옵션을 받을지는 사용자 기기를 기준으로 계산되므로, 같은 사람은 호출할 때마다 같은 옵션을 받습니다. 경험이 흔들리지 않고, 비교의 전환율이 사람 단위로 깨끗하게 갈립니다. 비율을 바꾸면 그 시점부터 새 비율에 맞춰 다시 배정되므로 일부 사용자는 다른 옵션으로 옮겨갑니다.

비율을 올리는 요령

단계	비율	확인할 내용
새 옵션 저장 직후	10%	하루 이틀 동안 새 옵션의 오류율과 평균 지연시간
이상이 없으면	30~50%	새 옵션의 성과가 기존과 같거나 앞서는지
차이가 확실하면	100%	쓰지 않을 옵션은 0으로. 전환 뒤에는 개요 30일 화면에서 비용과 성과 추이

단계마다의 확인은 비교에서 합니다. 표본이 얼마나 쌓여야 판단해도 되는지도 그 화면의 기준을 따릅니다. 한 기능에서는 한 번에 하나만 바꾸세요. 모델과 프롬프트를 같이 바꾸면 어느 변경이 효과를 냈는지 구분할 수 없습니다.