에이전트 워크플로 예산 설계

AI 에이전트 비용 계산 방법

AI 에이전트는 사용자에게 한 번의 결과를 보여주기 위해 계획, 도구 호출, 결과 확인, 검증과 수정 과정에서 모델을 여러 번 호출할 수 있습니다. 단일 요청 가격이 아니라 전체 워크플로와 성공한 작업당 비용을 계산해야 합니다.

작업을 모델 호출 단위로 나누기

실제 실행 순서대로 첫 지시, 도구 선택, 도구 결과를 읽는 다음 판단, 최종 답변, 검증 또는 수정 단계를 적습니다. 각 호출에서 시스템 지시문, 사용자 입력, 이전 메시지, 도구 정의, 도구 결과와 출력 토큰을 구분하세요. 앞 단계의 결과를 다시 보내는 구조라면 입력 컨텍스트가 호출마다 커집니다.

입력·출력 단가는 사용하는 모델의 100만 토큰당 가격을 적용합니다. 일반 입력과 캐시 입력을 중복 계산하지 말고, 여러 모델을 사용한다면 호출별 단가를 따로 적용하세요. 모델이 도구 호출을 요청하는 과정과 외부 검색·API를 실제로 실행하는 별도 비용도 구분해야 합니다.

예시: 모델을 네 번 호출하는 고객 지원 작업

고정 지시문 8,000토큰, 고객 요청 600토큰, 도구 결과 3개가 각각 1,500토큰이라고 가정합니다. 처음 세 호출은 도구 인자를 200토큰씩 출력하고, 네 번째 호출은 600토큰 답변을 생성합니다. 이전 메시지와 결과를 모두 유지하면 각 호출의 입력은 8,600, 10,300, 12,000, 13,700토큰입니다.

합계는 입력 44,600토큰, 출력 1,200토큰입니다. 새 도구 결과는 총 4,500토큰이지만 이후 호출에서 다시 처리되므로 전체 입력 합계와 같지 않습니다. 첫 입력에 호출 횟수만 곱하면 누적 컨텍스트를 놓칩니다.

예를 들어 입력 단가가 100만 토큰당 2달러, 출력 단가가 8달러라면 모델 비용은 0.0988달러입니다. 도구 3개가 각각 0.005달러라면 최초 시도는 0.1138달러입니다. 계산 방법을 보여주기 위한 예시이며 특정 모델의 현재 가격이 아닙니다. 반드시 제공사 공식 가격으로 바꾸세요.

재시도는 실패율만 곱하지 않기

최종 답변만 다시 만드는 부분 재시도와 도구 실행부터 반복하는 전체 재실행의 비용은 다릅니다. 시간 초과, 형식 검증 오류, 도구 장애마다 추가되는 모델 호출과 도구 횟수를 분리하세요. 실패한 작업에도 비용이 발생하므로 총지출을 완료 건수로 나눈 성공 작업당 비용을 함께 봐야 합니다.

비용을 줄이는 점검 항목

• 사용하지 않는 도구 정의와 큰 JSON 필드를 입력에서 제거하기
• 검색 결과와 파일 발췌의 개수·길이에 상한 두기
• 단순 분류나 형식 변환을 더 저렴한 모델로 라우팅하기
• 모델 호출, 도구 실행, 재시도와 작업당 총비용에 한도 두기
• 반복 지시문은 프롬프트 캐싱 비용과 비교하기

출시 후에는 작업 단위로 측정하기

작업 ID와 시도 ID를 기록하고 모델, 입력·출력·캐시 토큰, 도구 결과 크기, 호출 횟수, 재시도 원인과 성공 여부를 연결하세요. 평균값만 보지 말고 일반 작업과 긴 작업을 나누어 비교합니다. 예상 작업량은 월간 AI API 비용 가이드를 사용해 월 예산으로 확장할 수 있습니다.

에이전트 토큰 비용 계산하기