똑같은 작업을 했는데 어떤 날은 토큰이 남고 어떤 날은 금방 바닥난다면, 남은 용량보다 이미 세션에 담긴 것을 먼저 보셔야 합니다. 앤트로픽이 공개한 토큰 계산 원리 두 개와, 유명한 절약 스킬 두 개가 실제로 어디까지 되는지, 그리고 오늘 바로 쓰는 명령어들을 정리했습니다.
같은 작업인데 왜 어떤 날은 바닥날까요
클로드 코드가 왜 이렇게 사용 한도에 빨리 도달하냐는 질문을 정말 많이 받습니다. 그런데 이게 또 이상한 게, 분명 똑같은 작업을 한 것 같은데 어떤 날은 토큰이 남아돌고 어떤 날은 금방 바닥나죠.
저는 시리즈 B 스타트업에서 프로덕트 엔지니어로 일하면서 매일 클로드 코드로 제품을 만듭니다. 그러다 보니 저도 같은 질문을 갖게 됐어요. 그리고 알게 된 건 이겁니다.
남아 있는 토큰 용량의 문제가 아니라, 이미 내 세션에 담겨 있는 컨텍스트의 문제입니다.
그래서 아껴 쓰는 요령부터 말씀드리지 않겠습니다. 앤트로픽이 말하는 원리 두 개를 먼저 보고, 요즘 유명한 토큰 절약 스킬 두 개를 판정해본 다음, 오늘부터 바로 쓰실 수 있는 것들로 가겠습니다.
어떤 것도 한 번만 전송되지 않습니다
토큰이 왜 어떤 날 금방 바닥나는지는 앤트로픽 블로그의 문장 하나로 거의 설명됩니다.
Nothing gets sent just once.
어떤 것도 한 번만 전송되지 않는다. 클로드 코드가 읽은 파일 하나, 터미널에 찍힌 결과 한 줄. 대화에 한 번 들어온 건 그 뒤로 남은 모든 턴마다 계속 다시 전송됩니다.
그러니까 마흔 번째 턴은 앞의 서른아홉 턴을 통째로 다시 읽고 있는 겁니다. 같은 작업을 해도 어떤 날은 세션 하나를 하루 종일 켜두셨고 어떤 날은 중간에 비우셨다면, 사용량은 완전히 다르게 나옵니다. 세션이 길어질수록 그 격차는 커지고요.
무엇부터 손댈지, 순서가 매겨져 있습니다
같은 블로그 글 마지막에 앤트로픽이 영향이 큰 순서를 매겨놨습니다.
- 긴 세션. 매 턴 앞의 컨텍스트를 전부 다시 보내니까 세션 토큰의 대부분이 여기서 나간다고 적혀 있습니다.
- 컨텍스트에 너무 많이 담는 것. 굳이 안 읽어도 됐던 파일, 시끄러운 명령어 출력, 한참 전 작업의 출력, 안 쓰는 MCP 서버 같은 것들이요.
- 작업에 비해 높은 모델이나 높은 노력 수준.
- 캐시가 깨지는 것.
1번과 2번은 전부 컨텍스트에 담긴 것과 그 양에 대한 얘기입니다. 그런데 한도가 거의 찼을 때 제일 먼저 손대게 되는 건 보통 3번이더라고요. 모델을 바꾸거나 노력 수준을 낮추는 거죠. 순서가 반대입니다.
아무것도 안 쳤을 때부터 실려 있는 짐
매 턴 다시 나가는 컨텍스트는 여러분이 아무것도 안 치셨을 때부터 이미 실려 있습니다. 도구
정의, 시스템 프롬프트, CLAUDE.md. 그 위에 파일이랑 명령어 결과가 하나씩 얹히는 겁니다.
원문에 이 그림이 딱 그려지는 예시가 있습니다. 테스트를 돌렸더니 통과한 테스트 400줄이 주르륵 찍혔다. 길이 제한에는 안 걸렸으니 그대로 들어옵니다. 그리고 그 400줄이 이제 남은 모든 턴에 같이 실려 다닙니다.
그래서 새 세션을 열자마자 /context 를 한 번만 쳐보세요. 아무것도 안 시켰는데 뭐가
얼마나 자리를 차지하고 있는지 눈으로 보입니다. 저는 이거 보고 안 쓰던 MCP 서버 몇 개를 그냥
껐습니다.
같은 토큰이라도 값이 다릅니다
여기까지 읽으면 세션만 짧게 쓰면 되나 싶으실 텐데요. 토큰은 개수만의 문제가 아닙니다.
출력 토큰은 입력 토큰의 약 다섯 배 비용입니다. 입력은 한 번에 쭉 읽으면 되는데, 출력은 한 글자 만들고 그다음 글자 만들고를 계속 반복해야 하거든요. 블로그 원문의 표현이 좋습니다. 200토큰짜리 답변은 모델을 200번 돌린 거다.
여기서 많이들 놓치시는 게 있습니다. 화면에 보이는 답변만 출력이 아닙니다. 클로드 코드가 답하기 전에 혼자 생각하는 그 시간, 사고 토큰도 전부 출력으로 계산됩니다. 공식 문서 기준으로 기본 예산이 모델에 따라 수만 토큰씩 잡혀 있고요.
캐시는 기차처럼 앞칸부터 맞춰봅니다
마지막 하나가 캐시입니다. 요청 앞부분이 지난번과 똑같으면 서버가 계산해둔 걸 그대로 꺼내 씁니다. 캐시에서 읽으면 그렇지 않을 때보다 10분의 1 수준이고, 대신 새로 저장할 때는 API 기준 원가로 최대 두 배까지 붙습니다. 구독 한도에 이게 어떻게 반영되는지는 공개된 정보가 없습니다.
문제는 캐시가 기차처럼 앞칸부터 순서대로 맞춰본다는 겁니다. 맨 앞칸이 시스템 프롬프트, 그다음이 프로젝트 정보, 그다음이 우리가 나눈 대화예요. 앞칸이 하나 바뀌면 뒤에 달린 게 전부 도미노처럼 무효가 됩니다.
그래서 대화 중간에 이런 걸 하면 그 대화 전체를 처음부터 다시 계산합니다.
- 모델을 바꾼다
- 노력 수준(에포트)을 바꾼다
- 빠른 모드 같은 것을 켠다
공식 문서의 프롬프트 캐싱 항목에 캐시를 깨는 행동 목록이 따로 있으니 한 번 훑어보시면 좋습니다.
캐시가 얼마나 예민한지 보여주는 글이 하나 있습니다. 클로드 코드를 만든 팀이 쓴 「Prompt caching is everything」인데, 캐시 적중률이 너무 떨어지면 내부에서 장애를 선언한다고 적혀 있습니다. 고정돼 있어야 할 시스템 프롬프트에 자세한 시각을 넣었다가 캐시 순서를 깨뜨린 적도 있다고 하고요. 만든 사람들이 이만큼 민감하게 다룹니다.
토큰 절약 스킬 두 개, 어디까지 될까
그래서 결국 뭘 하면 되냐 싶으실 텐데요. 깃허브에 오픈소스로 공개돼서 토큰을 아껴준다고 해외 커뮤니티에서 유명해진 스킬이 두 개 있습니다. 설치법은 다루지 않겠습니다. 되는 만큼과 안 되는 만큼만 보겠습니다.
포니테일: 404줄을 23줄로
Dietrich Gebert 가 만든 포니테일은 클로드 코드한테 세상에서 제일 게으른 시니어 개발자처럼 굴라고 시키는 스킬입니다. 레포에 예시가 있습니다. 날짜 고르는 입력창 하나를 만들어달라고 했더니 AI 가 404줄을 썼고, 포니테일을 걸고 똑같이 시키니 23줄이었습니다. 브라우저에 원래 있는 걸 그냥 쓴 겁니다.
코드가 짧아지면 그 뒤 모든 턴에 다시 실리는 양도 같이 줄어드니까, 방향은 앞에서 본 원리와 같습니다. 저자가 밝힌 수치로는 토큰이 22% 절감된다고 합니다. 저자가 직접 낸 벤치마크이고 독립 검증은 없습니다.
케이브맨: 젯브레인스가 직접 재봤습니다
Julius Brussee 가 만든 케이브맨은 말 그대로 원시인처럼 말하게 시켜서 출력을 줄이는 스킬입니다. 레포에는 평균 65% 절감이라고 적혀 있습니다.
그런데 젯브레인스가 이걸 그냥 믿지 않고 직접 재봤습니다. 과제 86개를 걸고 240번쯤 돌렸고, 에이전트 작업에서 나온 숫자는 출력 토큰 8.5% 절감이었습니다. 저자가 밝힌 것의 8분의 1쯤이죠. 대신 품질은 차이가 없었다고 합니다. 처음 몇 번만 돌렸을 땐 30% 가까이 나왔는데, 표본이 쌓이면서 8.5% 로 내려왔다고 하고요.
거짓말을 한 게 아닙니다. 65% 는 설명하듯 길게 답하는 채팅형 응답에서는 맞는 숫자입니다. 에이전트 작업은 출력의 대부분이 코드와 도구 호출이라, 말투로 줄일 수 있는 층이 원래 얇은 겁니다. 저자도 레포에 이렇게 적어뒀습니다. 케이브맨은 머리를 작게 만들지 않는다, 입을 작게 만들 뿐이다.
두 스킬 모두 출력 토큰을 줄이는 쪽입니다. 엄청난 효과까지는 아니어도 도움은 됩니다. 다만 영향이 제일 큰 긴 세션과 담긴 양 문제는 그대로 남아서 천장이 낮습니다.
사고 토큰은 공식 손잡이가 있습니다
앞에서 말한 사고 토큰은 줄이는 방법이 이미 공식으로 있습니다. 블로그 원문에도 세션 출력 토큰의 상당 부분이 여기에 쓰인다고 적혀 있고요.
/effort로 노력 수준을 낮춘다MAX_THINKING_TOKENS값을 걸어 생각 예산을 직접 정해둔다
저는 단순 반복 작업을 할 땐 노력 수준부터 내려놓고 시작합니다. 다만 모델에 따라 조건이 붙습니다. 공식 문서에 적응형 추론 모델은 0이 아닌 예산을 무시하고, 사고를 아예 끌 수 없는 모델도 있다고 나와 있으니 무조건 줄어든다고 생각하시면 안 됩니다.
작업이 바뀌면 슬래시 클리어
스킬도 깔고 노력 수준도 조절했다면 다음은 뭘까요. 앤트로픽이 같은 블로그 글 맨 앞에 팁을
여섯 개 박아놨는데, 1번이 이겁니다. 작업이 바뀌면 /clear 를 해라. 영향 큰 순서의 1번이
긴 세션이었죠. 그걸 해결하는 겁니다. 공식 문서 기준으로 /clear 는 비용도 들지 않습니다.
저는 예전에 하나를 끝내고 다음 걸 시작할 때 그냥 같은 세션에서 이어서 말하곤 했습니다. 클로드 코드가 앞 얘기를 기억하고 있으니 편하잖아요. 그런데 그게 앞의 대화 전체를 매 턴 같이 들고 가는 거라 토큰 효율에 정말 안 좋습니다.
파일은 골뱅이로, 지시는 구체적으로
클로드 코드한테 파일 얘기를 할 때 경로를 그대로 치시죠. 그 파일을 @ 로 멘션해보세요.
멘션하면 파일이 메시지에 붙어서 나가기 때문에 그 파일을 읽는 동작 자체가 안 생깁니다.
지시가 모호하면 클로드 코드가 알아서 찾느라 파일을 잔뜩 읽습니다. 「테스트가 깨졌어요」라고만 하면 어느 테스트인지부터 뒤지거든요. 어디가 문제인지 이미 알고 계시면 그걸 먼저 말해주는 게 제일 싸고 빠릅니다.
결과가 잔뜩 출력되는 명령은 출력을 줄이는 옵션을 붙이세요. 앞에서 본 테스트 400줄이 바로 그 경우입니다. 공식 문서 비용 항목에 이런 출력을 걸러주는 스크립트가 통째로 올라와 있습니다.
방향이 틀어지면 압축 말고 되감기
잘 가던 세션의 방향이 틀어져서 되돌아가야 할 때, /rewind 를 써보세요. 뒤쪽만 잘라내니까
앞은 그대로 살아 있고, 원문에는 비용이 안 든다고 적혀 있습니다. 압축(/compact)은
요약을 새로 만드는 요청이라 항상 비용이 듭니다.
되감기에는 선택지가 세 개 있습니다.
- 코드와 대화를 같이 되돌린다
- 대화만 되돌린다
- 코드만 되돌린다
「여기서부터 요약」, 「여기까지 요약」처럼 구간을 골라서 압축하는 것도 됩니다. 저는 이걸 모르고 한참을 통째로 압축만 했었어요.
bash 명령으로 지운 파일은 되감아도 돌아오지 않습니다. 공식 문서 체크포인팅 항목에 그대로 적혀 있으니 그 부분은 조심하셔야 합니다.
한도가 차면 싼 모델로? 그게 더 비쌉니다
한도가 슬슬 차면 좀 더 저렴한 모델로 바꾸시죠. 저도 처음엔 그랬습니다. 그런데 앞에서 본 「Prompt caching is everything」 글에 이런 예시가 있습니다. 오푸스로 10만 토큰까지 온 대화에서 쉬운 질문 하나 하려고 하이쿠로 바꾸면, 그냥 오푸스한테 물어보는 것보다 더 비싸다. 하이쿠용 캐시를 처음부터 다시 만들어야 하니까요.
앞칸이 바뀌면 뒤가 전부 무효가 된다는 캐시 원리 그대로입니다. 그래서 모델과 노력 수준은 대화 중간이 아니라 세션을 시작할 때 정합니다. 모델을 바꾸지 말라는 게 아니라, 새 세션에서 작업에 맞는 걸 고르라는 겁니다. 이 두 설정은 다음 세션까지 그대로 따라오니까, 오늘 한 번 뭘로 되어 있는지 확인해보세요.
지난 일주일, 무엇이 제일 많이 먹었나
지금 세션에 뭐가 담겨 있는지는 /context 로 봤죠. 지난 일주일 동안 어디에 제일 많이
쓰였는지는 /usage 가 보여줍니다. 스킬, 서브에이전트, 플러그인, 연결해둔 서버별로 몇
퍼센트씩 썼는지 나눠서 나옵니다.
저는 이걸 켜보고 거의 안 쓰던 MCP 나 플러그인이 위쪽에 올라와 있는 걸 봤습니다.
/usage 화면에 금액이 뜨는데, 이건 로컬에서 계산한 추정치입니다. 구독 청구액과는
다릅니다.
결국 세션을 짧게, 그런데 비우면 까먹습니다
이런저런 얘기를 많이 했지만, 오늘 이야기한 것 중에 제일 크게 아껴주는 건 결국 /clear
입니다. 세션 하나를 목적 하나에 맞게 쓰고 정리하는 것. 쉽게 말하면 세션 단위를 짧게 가져가는
겁니다. 사용량만의 문제도 아닙니다. 저는 세션을 길게 끌고 갈수록 답변까지 흐려지는 걸 몇 번
겪었습니다.
그런데 여기서 고민되는 지점이 있습니다. 세션을 비우면 아까 얘기한 걸 클로드 코드가 전부 잊어버리잖아요.
사실 토큰 절약이 안 되는 이유는 비워서 아껴 쓰는 법을 몰라서가 아니라, 비울 수가 없어서인 분들이 많습니다. 저도 처음엔 그것 때문에 세션을 못 끊고 하루 종일 하나로 끌고 갔습니다.
매번 다시 설명하지 않아도 되는 구조, 하네스를 만들어두면 세션은 저절로 짧아집니다. 그 구조를 세우기 전이라도, 새 세션을 열 때 아래 프롬프트부터 써보시면 한 세션에 한 작업만 담는 습관이 잡힙니다.
새 작업을 시작한다. 이번 세션은 이 작업 하나만 한다. 작업: [예: 로그인 버튼을 눌러도 아무 반응이 없는 문제 고치기] 볼 파일: [@파일 경로 로 멘션. 예: @src/components/LoginButton.tsx] 내가 이미 아는 것: [예: 어제까지는 됐고, 오늘 버튼 문구만 바꿨다] 지켜줄 것: 1. 위에 적은 파일부터 본다. 다른 파일이 필요하면 읽기 전에 이유를 한 줄로 말해줘. 2. 테스트나 빌드를 돌릴 땐 실패한 것만 보이게 출력을 줄여서 돌려줘. 3. 작업이 끝나면 무엇을 바꿨는지 세 줄로 정리해줘. 다음 작업은 새 세션에서 할 거야.