AI 비용 계산하는 방법

요즘 하고 있는 일들이 여러가지가 있는데 나 조차도 계속 이게 무슨 말인지 몰라서 고민하곤 했다. 그래서 내용 공유차 글 남겨본다.

 

토큰

AI에서 가격을 측정하는 기본 단위라고 보면 된다. 이 토큰의 크기가 곧 금액이라고 생각하면 된다. 그러면 자연스럽게 떠오르는 생각이 이 토큰을 줄이면 비용이 낮아지겠네? 라는 생각일 것이다. 이 결론은 정답이다. 때문에 AI의 모델 성능이 높아지는 것을 우리는 기대하게 된다.

 

자 그러면 이제 AI 비용 계산에 대한 방법을 한번 알아보자. 이미 이 비용에 대해서는 가격 정책이 워낙 잘 나와있기 때문에 큰 어려움이 없다.

 

Gemini pricing (Link)을 이용해 1년치 예산 계획을 세워보자.

 

Gemini 2.5 Flash의 가격표를 긁어왔다. 우리는 예상 비용을 내는 상황이므로 순수 사용량만을 가정하면 된다. 지금 내가하는 작업은 개발팀의 1년 예산을 대략적으로 정해야 하는 상황이라고 가정해보자.

• 가격 입력: 토큰이 100만개를 기준으로 하고 있으므로 토큰 1개일 경우를 생각해보자. 상상만으로도 소수점 자리수가 까마득하게 내려갈 것이다. (토큰 1개의 경우 $0.15 / 1,000,000 = $0.00000015, 한화 0.00021원) 
• 출력 가격: 출력 가격도 몇가지 옵션이 있지만 $0.60를 기준으로 하면 4배니까 $0.0000006, 한화 0.00084원)이다.

 

AI에 프롬프트를 제공하고, 그 결과를 수신받는데 들어가는 비용을 대략적으로 생각해보면 되는데 입력값이 상대적으로 비용이 적게 들기 때문에 많은 정보를 제공해주고 결과를 필요한 정보만 전달되도록 하면 비용적으로 큰 이점을 얻을 수 있다.

 

대략적으로 한 문단의 질문이 100개의 토큰이 든다라고 가정하고, 결과 응답을 1,000개의 토큰 이하로만 제한했다. 이렇게 프롬프트를 선언해뒀다면 결과가 확실하게 나오게 되는 것이다.

 

1번의 질의당 입력(100 * 0.00021원) + 출력(1,000 & 0.00084) = 0.861원의 결과를 얻게 된다.

 

이제 우리가 개발한 솔루션이 하루에 몇건이 발생하는지를 대략적으로 추측하고 앞으로 성장할 가능성을 대입해본다. 그러면 대략적으로 1일 1,000건이 발생하고 있고 올 한해 성장률이 20%라고 가정하면 1,200건 정도를 생각하면 된다. 

 

1,200 * 30일(720시간) = 36,000건

36,000건 * 0.1 = 3,600원

3,600원 * 12 = 43,200원

 

결론은 1년간 AI를 사용하는데 들어가는 비용은 43,200원이다.

 

결론

AI는 실제로 제공받는 성능이 사람마다 다를 순 있지만 겁먹을 정도는 아닌 것이다. 하지만 추론은 다르다. 스스로 입력하고 출력하고 결과를 만들어내는데 많은 비용이 들게 된다. 비용이 대략 5.5배 정도 비싸니 비용에 대한 시뮬레이션을 잘 돌려야 한다.

별것도 아닌 단순한 내용인데 막상 하나 하나 파고들려고 보니까 어떻게 해야할지 감도 안오고 그래서 알아본 내용을 이렇게 작성해뒀다. 누군가에겐 큰 도움이 되길 바란다.