무엇을 해결하나요

쇼핑몰에 리뷰 요약 기능을 만들었다고 해보겠습니다. 더 저렴한 모델로 갈아타면 비용이 절반이라는데, 품질이 떨어져 구매가 줄면 오히려 손해입니다. 지금 아는 것은 지난달 API 청구서 금액뿐입니다.

ABTO는 이 고민을 숫자로 바꿔주는 도구입니다.

AI 호출비용, 응답 속도 기록 사용자 행동구매, 복사, 이탈 기능별 모델 성과감이 아니라 데이터로

호출 기록과 그 응답을 본 사용자의 실제 행동을 이어서, 어떤 모델이 진짜 성과를 내는지 보여줍니다.

ABTO가 답하는 두 가지 질문

AI 비용, 줄일 수 있나

어느 기능이 얼마를 쓰는지 나눠 보기
늘어난 비용을 호출 한 건까지 추적
성과 유지를 확인한 뒤에 저렴한 모델로 전환

지금 모델과 프롬프트가 최선인가

실제 고객 입력으로 새 후보 시험
트래픽 일부로 검증하고 성과가 좋은 쪽으로 전환
잘못되면 대시보드에서 즉시 롤백

공개 벤치마크와 무엇이 다른가요

	공개 벤치마크	ABTO
평가 입력	표준 문제 세트	실제 우리 고객이 보낸 입력
성과 기준	정답 채점, 평가자 점수	구매, 전환 같은 실제 사용자 행동
판단 단위	모델 전체	우리 서비스의 기능 하나하나

리뷰 요약에서 뛰어난 모델이 상담 답변에서는 평범할 수 있습니다. 그래서 ABTO는 기능 단위로 실제 트래픽에서 모델의 순위를 다시 매기고, 트래픽이 쌓일수록 이 순위는 우리 서비스만의 살아있는 벤치마크가 됩니다.

도입에 필요한 작업

AI 호출 코드에서 쓰던 OpenAI SDK의 base URL을 게이트웨이로 바꾸고, 호출에 헤더 몇 개를 싣는 것이 전부입니다.

client = OpenAI(
    base_url="https://gateway.abto.app/v1",  # 주소를 ABTO 게이트웨이로 바꿉니다
    api_key=os.environ["ABTO_CALLING_KEY"],
)

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=messages,
    extra_headers={
        "x-abto-key-openai": os.environ["OPENAI_API_KEY"],  # 쓰던 키 그대로
        "x-abto-feature-id": "review.summary",              # 어느 기능의 호출인지
        "x-abto-device-id": device_id,                      # 누구의 호출인지
    },
)

여러 모델 제공사(OpenAI, Claude 등)의 모델을 같은 방식으로 호출합니다.
모델 제공사와의 계약과 API 키는 기존 것을 그대로 씁니다.
사용자 행동까지 연결하려면 웹이나 앱에 작은 SDK 하나를 더 넣습니다. 브라우저용은 런타임 의존성이 없습니다.

이런 팀에게 맞습니다

AI 비용이 커지는데 어느 기능이 얼마나 쓰는지 나눠 보지 못하는 팀
더 저렴한 모델로 바꾸고 싶지만 품질 저하가 두려워 못 바꾸는 팀
프롬프트를 계속 고치는데 나아졌는지 감으로만 판단하고 있는 팀
“AI 기능이 매출에 기여하는가”라는 질문에 숫자로 답해야 하는 팀

이어서 핵심 개념에서 용어 여섯 개만 익히면 대시보드의 모든 화면을 읽을 수 있습니다.