AI 서비스 예산 설계
월간 AI API 비용 계산 방법
월 비용은 모델의 100만 토큰당 가격만으로 결정되지 않습니다. 한 요청의 입력과 출력, 작업당 모델 호출 횟수, 하루 사용량, 운영 일수, 재시도를 함께 계산해야 실제 서비스 예산에 가까워집니다.
월간 비용 계산식
먼저 1회 호출 비용을 (입력 토큰 ÷ 1,000,000 × 입력 단가) + (출력 토큰 ÷ 1,000,000 × 출력 단가)로 계산합니다. 여기에 작업당 호출 횟수, 하루 작업 수, 월 운영 일수를 곱하면 재시도 전 월 비용이 됩니다.
재시도율이 10%라면 계산 결과에 1.1을 곱합니다. 검색, 분류, 답변 생성처럼 서로 다른 모델을 쓰는 워크플로는 단계를 각각 계산한 다음 합산해야 합니다.
월간 고객 상담 예시
한 번의 상담에 4,000 입력 토큰과 800 출력 토큰이 들고, 답변마다 모델을 2회 호출한다고 가정합니다. 하루 500건을 30일 운영하면 재시도 전 월 사용량은 입력 1억 2,000만 토큰, 출력 2,400만 토큰입니다. 이 값을 선택한 모델의 최신 입력·출력 단가에 각각 적용하면 됩니다.
평균 요청과 큰 요청을 따로 계산하기
평균값 하나만 사용하면 긴 문서나 복잡한 질문이 몰리는 날을 놓칠 수 있습니다. 실제 프롬프트, 시스템 지시문, RAG 검색 문단, 답변 샘플을 모아 일반 요청과 큰 요청을 각각 계산하세요. 두 시나리오의 비중까지 적용하면 단순 최댓값보다 현실적인 예산 범위를 만들 수 있습니다.
반드시 포함할 숨은 사용량
- 매 요청에 다시 전송되는 시스템 지시문과 대화 기록
- RAG 검색 문단, 도구 실행 결과, 파일에서 추출한 텍스트
- 품질 검사, 재작성, 에이전트 단계에서 발생하는 추가 호출
- 시간 초과, 형식 오류, 사용자 수정 요청에 따른 재시도
원화 예산을 잡을 때 확인할 것
제공사 가격은 달러 기준인 경우가 많으므로 결제 시점의 환율과 해외 결제 수수료를 별도로 확인하세요. 모델 가격과 할인 조건은 바뀔 수 있으므로 이 페이지에 고정 가격표를 두는 대신 구매 직전에 각 제공사의 공식 가격 페이지를 확인하는 편이 안전합니다.
출시 후 추정치를 실제 값으로 바꾸기
운영을 시작하면 API 응답이나 제공사 사용량 보고서에서 입력 토큰, 출력 토큰, 캐시 적중, 실패 요청, 모델 이름을 기록하세요. 성공한 사용자 작업 1건당 비용을 추적하면 트래픽 증가가 월 예산에 미치는 영향을 더 정확히 예측할 수 있습니다.
입력과 출력의 범위가 헷갈린다면 입력 토큰과 출력 토큰 비용 가이드를 먼저 확인하세요.