AI API 비용 계산 기초
입력 토큰과 출력 토큰 비용 계산
AI API 비용은 보통 모델에 보내는 입력과 모델이 생성하는 출력을 따로 계산합니다. 질문이 짧아도 대화 기록이나 검색 문서가 길면 입력 비용이 커지고, 긴 보고서를 요청하면 출력 비용이 커집니다.
입력 토큰에 포함되는 것
입력 토큰에는 사용자의 질문뿐 아니라 시스템 지시문, 예시, 이전 대화, RAG로 검색한 문단, 파일에서 추출한 텍스트, 도구 실행 결과가 포함될 수 있습니다. 화면에 보이는 질문이 한 줄이어도 API 요청 전체는 수천 토큰이 될 수 있습니다.
출력 토큰에 포함되는 것
출력 토큰은 모델이 생성한 답변, 코드, JSON, 표, 요약문입니다. 많은 모델에서 출력 단가가 입력 단가보다 높으므로 “자세히 설명해 줘” 같은 요청을 반복하면 예상보다 비용이 빠르게 늘 수 있습니다. 글자 수 제한, 항목 수, JSON 필드를 명확히 지정하면 출력 길이를 관리하기 쉽습니다.
기본 비용 계산식
1회 비용은 (입력 토큰 ÷ 1,000,000 × 입력 단가) + (출력 토큰 ÷ 1,000,000 × 출력 단가)로 계산합니다. 월 비용은 여기에 워크플로 반복 횟수, 하루 실행 수, 운영 일수를 곱합니다. 제공사마다 토큰화와 캐시·배치 요금이 다르므로 구매 전에는 반드시 공식 가격표를 확인하세요.
월간 고객 상담 챗봇 예시
한 요청에 사용자 질문 100토큰, 시스템 지시문과 검색 문서 3,900토큰, 답변 800토큰이 필요하다고 가정합니다. 입력은 4,000토큰, 출력은 800토큰입니다. 하루 500회, 30일 운영하면 월 입력은 약 6,000만 토큰, 월 출력은 약 1,200만 토큰입니다. 이 두 값을 선택한 모델의 입력·출력 단가에 각각 적용해야 합니다.
대화가 길어질 때 놓치기 쉬운 비용
채팅 기록을 매 요청마다 전부 보내면 같은 문장이 계속 입력으로 청구됩니다. 오래된 대화를 요약하고, 필요한 최근 메시지만 유지하며, 검색 문서의 개수와 길이를 제한하세요. 재시도와 다단계 에이전트 작업도 각각 새로운 입력과 출력을 만들므로 별도 반복 횟수로 계산하는 편이 안전합니다.
계산 전에 확인할 항목
- 시스템 지시문, 검색 문서, 대화 기록을 포함한 실제 입력 크기
- 평균 답변과 긴 답변의 출력 토큰 범위
- 한 작업 안에서 호출되는 모델 횟수와 실패 재시도율
- 하루 요청 수, 월 운영 일수, 사용량 증가 여유분