ABTO 이해하기
동작 원리
호출과 행동이 어떻게 기록되어 한 화면에서 만나는지, 그 숫자를 왜 믿을 수 있고 민감한 내용은 어떻게 다루는지.
기록을 남기는 곳은 둘입니다. 게이트웨이는 AI 호출을, SDK는 사용자 행동을 기록하고, 대시보드가 이 두 기록을 연결해 보여줍니다.
호출의 기록: 게이트웨이가 호출을 대신 전달하며 비용과 속도를 남깁니다.
행동의 기록: 웹과 앱의 SDK가 사용자 행동을 보내고, 대시보드가 두 기록을 연결합니다.
게이트웨이가 호출을 대신 전달하므로 코드에 측정 로직을 넣을 필요가 없고, 기록은 호출과 별도로 전송되어 응답 속도에 영향을 주지 않습니다.
기록은 어디서 보나요
섹션 제목: “기록은 어디서 보나요”| 기록 | 나타나는 곳 |
|---|---|
| AI 호출 한 건 | 요청의 행, 모이면 개요의 요약 숫자와 차트 |
| 사용자 이벤트 | 성공 지표의 추적 이벤트 표, 호출 상세의 연결된 이벤트 |
트래픽이 흐르는 순간부터 화면이 채워집니다.
숫자를 믿을 수 있는 이유
섹션 제목: “숫자를 믿을 수 있는 이유”- 게이트웨이와 SDK는 각자 직접 본 것만 기록합니다. 브라우저는 토큰 수를 추측하지 않고, 게이트웨이는 화면에서 무슨 일이 있었는지 넘겨짚지 않습니다.
- 사용자의 행동은 그 사람이 받았던 옵션의 성과로 귀속됩니다. “모델 A를 받은 사용자들의 구매율”과 “모델 B를 받은 사용자들의 구매율”이 사람 단위로 깨끗하게 갈립니다.
- 라우팅 비율을 바꾸기 전까지 같은 사용자는 계속 같은 옵션을 받으므로, 한 사람의 경험이 요청마다 흔들리지 않습니다.
- 이벤트는 네트워크가 잠시 끊겨도 기기에 보관했다가 다시 전송되므로 유실되지 않습니다.
무엇이 저장되나요
섹션 제목: “무엇이 저장되나요”호출마다 어떤 모델을 썼는지, 토큰(모델이 글을 처리하는 단위)을 얼마나 썼는지, 비용과 응답 속도가 얼마였는지가 남습니다. prompt와 response 원문도 기본으로 함께 저장되어, 실제로 주고받은 메시지를 요청 화면의 상세에서 볼 수 있습니다.
모델 제공사와의 계약과 API 키는 고객이 그대로 보유합니다. 키는 호출할 때마다 요청에 실려 전달될 뿐, 게이트웨이가 남기는 호출 기록에는 들어가지 않습니다.
민감한 내용은 어떻게 다루나요
섹션 제목: “민감한 내용은 어떻게 다루나요”사용자 쪽에서는 화면에서 일어난 행동만 수집합니다. 입력창에 친 내용, prompt와 response 원문, 민감한 화면 텍스트는 기본적으로 수집하지 않고 길이만 남긴 표시로 대체합니다.
어떤 요소를 감출지 화면 단위로 정할 수 있고, 원문이 꼭 필요한 값만 따로 허용합니다. 선언 방법은 Browser JavaScript에 있습니다.
게이트웨이가 저장하는 prompt와 response 원문은 언제든 저장되지 않도록 설정할 수 있습니다. 단, 해당 내용을 사용해야만 제공받을 수 있는 기능의 이용은 제한되는 것을 유념해야 합니다.
모델 제공사에 보내는 prompt는 우리 서버가 만든 그대로 전달됩니다. 게이트웨이가 내용을 바꾸거나 다른 목적으로 쓰지 않습니다.