코덱스 토큰,
덜 쓰는 게 목표가 아니다
클로드 편이 "어디서 새는가"였다면 코덱스 편은 "어디에 더 쓸 것인가"다. 이 수업의 승부처는 절약 팁이 아니라 판단 기준이다 — 토큰을 더 쓸지 말지를 무엇으로 정하는가.
이 수업의 한 문장
이 질문을 도입에 던지고, 마무리에서 다시 던진다. 중간의 모든 수치는 이 질문에 답하기 위한 근거로만 배치할 것. 수치 나열로 흘러가면 수업이 죽는다.
시간 배분
| 분 | 내용 | 목표 |
|---|---|---|
| 0–5 | 도입 — 밸류맥싱 / 네 가지 질문 | "아끼기"에서 "값어치"로 프레임 전환 |
| 5–11 | 모델 고르기 — Sol/Terra/Luna, 과제당 비용 | 토큰당 단가가 아니라 과제당 비용 |
| 11–17 | 시간과 토큰의 교환 — Fast Mode·자동승인 | 느려도 이득인 경우가 있음을 인정 |
| 17–26 | KV 캐시 3법칙 + 실측 6종 | "한 토큰이 전부를 무효화한다" |
| 26–32 | 도구가 뱉는 바이트 = 미래의 입력 | 가장 큰 누수는 사람이 아니라 도구 |
| 32–35 | 마무리 — 다시 그 질문 | 각자 자기 워크플로 한 개 지목 |
밸류맥싱 — 프레임 전환
🖼 Valuemaxxing — "Measuring progress by what AI helps you accomplish"
강사 멘트
화면의 세 축을 그대로 읽는다 — Work completed / Time saved / Quality improved. 여기에 "토큰 사용량"이 없다는 걸 짚는 게 포인트다.
🖼 네 가지 질문. 수강생에게 자기 업무 하나를 정해 4칸을 채우게 하면 참여도가 확 오른다.
| 질문 | 원문 |
|---|---|
| Outcomes | What are you trying to improve? |
| Workflows | Where is that outcome created? |
| Intelligence | What work should the system take on? |
| Evidence | What shows it worked? |
🖼 토큰을 더 써도 되는 네 경우. 이 슬라이드가 "절약 강박"을 깨는 장치다.
| 축 | 원문 |
|---|---|
| Quality | Raise capability when a valuable workflow misses its quality bar |
| Time | Parallelize work when finishing sooner unlocks what comes next |
| Scale | Extend reliable workflows across more tasks and customers |
| Risk | Add context and verification where failure is expensive |
과제당 비용 — 단가 착시 깨기
🖼 The GPT-5.6 family — 슬라이드 설명문 그대로
| 모델 | 슬라이드 설명 (원문) |
|---|---|
| Sol | Frontier capability for complex professional work |
| Terra | Strong performance when intelligence and cost both matter |
| Luna | Efficient intelligence for high-volume workloads |
🖼 Token efficiency. x축이 Avg cost per task인 게 핵심. DeepSWE 113개 과제, 2026년 7월 21일 갱신, 모델 4/17개 표시.
강사 멘트
토큰 단가 × 헤맨 횟수 = 진짜 비용. 이 한 줄이 이 파트 전부다.시간을 사기 위해 토큰을 쓴다
🖼 Codex tips & tricks. 화면에 보이는 라벨만 읽는다 — Advanced / 5.6 Sol · Medium / Speed / Approve for me.
| 화면 라벨 | 설명 (화면 그대로) | 수업에서 짚을 것 |
|---|---|---|
| Standard | Default speed | 기본값 |
| Fast | 1.5x speed, more usage | "더 빠른 대신 더 씀"이라고 화면이 직접 말한다 |
| Approve for me | 자동 승인 | 매번 확인 누르느라 끊기는 것보다 낫다 |
강사 멘트
AGENTS.md 점검도 이 파트에서 언급된 항목이다. "에이전트에게 주는 상시 지침서가 낡아 있으면 매번 낡은 지시를 다시 읽힌다"로 연결하면 클로드 편의 시스템 프롬프트 = 매 턴 재계산과 자연스럽게 맞물린다.KV 캐시 — 한 토큰이 전부를 무효화한다
🖼 KV CACHING 101. 가격표 + 콜드/웜 비교.
| 모델 | Uncached | Cached | Output |
|---|---|---|---|
| Luna | $1.00 | $0.10 | $6.00 |
| Terra | $2.50 | $0.25 | $15.00 |
| Sol | $5.00 | $0.50 | $30.00 |
콜드 vs 웜
🖼 ONE CHANGED TOKEN CAN INVALIDATE EVERYTHING — 이 수업의 클라이맥스 슬라이드
| ✗ 캐시를 깨는 것 | ✓ 대신 할 것 |
|---|---|
| Changing system prompt | Keep the system prompt byte-identical |
| Dynamic system context (e.g. current timestamp) | Fetch changing context only when needed |
| Changing tool set | Keep provider tools stable; load schemas at the tail |
시연 순서 (4단계)
[지침][도구목록][지금까지 대화][내 질문]클로드 편의 무효화 계층(tools → system → messages)과 정확히 같은 원리라는 걸 여기서 못 박는다. "회사가 달라도 구조는 같다" — 이 문장이 두 수업을 하나로 묶는다.
🖼 Key API features — Programmatic tool calling / Prompt caching / Persisted reasoning / Compaction
실측 6종 — 트레이드오프까지 정직하게
여기부터는 한 회사(Ploy)의 프로덕션 에이전트 실측이다. 슬라이드 제목이 "Change the harness, not the task." — 과제를 바꾸지 말고 틀을 바꾸라는 뜻이고, 이게 이 파트의 표제다.
① 호스티드 툴 루프 — 입력 24% 감소
| 항목 | 전 | 후 |
|---|---|---|
| Model turns | 3 | 2 |
| API requests | 3 | 3 |
| Tool calls | 37 | 37 |
| Input | 2,616 | 1,996 |
| Output | 1,011 | 371 |
| Reasoning | 203 | 50 |
| Wall time | 9.5s | 12s (느려짐) |
| Cost | $0.023 | $0.011 |
② 압축(compaction) — 후속 작업 입력 82% 감소
| 항목 | 전 | 후 |
|---|---|---|
| Input | 24K | 4,286 |
| Output | 56 | 35 |
| Reasoning | 19 | 0 |
| Wall time | 1.5s | 1.2s |
| Cost | $0.062 | $0.011 |
핸드오프 72회 시점 기준. 그리고 압축 자체가 1회 $0.099가 든다.
③ 필요할 때만 도구 로드
🖼 LOAD TOOLS ON DEMAND WITHOUT BREAKING THE CACHE
- 도구 설명 토큰 −45%
- 전체 입력 −35%
- 비용 −33%
- 슬라이드 문구: "Pass rate was identical" (성공률 동일)
④ 동적 컨텍스트 고정 + 중단점
- 새 대화 첫 메시지 비용 −89%
- 프로덕션 전체 토큰 지출 −5%
출처: ploy.ai/blog/migrating-a-production-ai-agent-to-gpt-5-6
⑤ 도구 호출 묶기
- 도구 호출 −32%
- 에이전트 단계 −20%
- 비용 −14%
- 성공률 동일(SAME)
비개발자용 번역: "세 번 물어볼 걸 한 번에 물어보기." 이건 수강생이 지금 당장 대화창에서 따라 할 수 있는 유일한 항목이라 강조 가치가 높다.
⑥ 도구가 뱉는 바이트 = 미래의 입력
🖼 EVERY BYTE A TOOL RETURNS BECOMES FUTURE INPUT
| 측정 | 값 |
|---|---|
| 도구 관련 트래픽 | 전체의 59% |
| └ 도구 결과만 | 43% |
| 사용자가 친 글자 | 1% 미만 |
| 검색 결과 다듬기 | 42,552자 → 12,809자 (−70%), 30/30 통과 (양쪽 동일) |
| 도구 설계 개선 | −54% (CSS 200줄을 되읊지 않도록) |
| 추산 절감 | "Exa estimate: ~$37K/year saved in input tokens." |
예상 질문과 답
A. 둘 다 아니다. "값어치를 하는지 보라"는 것이다. 품질·시간·규모·리스크 네 축 중 하나가 걸려 있으면 더 쓰는 게 맞고, 아무것도 안 걸려 있으면 그건 그냥 낭비다.
A. 화면에 "1.5x speed, more usage"라고 쓰여 있다. 더 쓴다. 기다리는 시간이 실제로 아까운 작업에서만 켜는 게 맞다.
A. 압축 자체가 1회 $0.099 든다. 후속 작업을 두 번 이상 할 때부터 이득이다. 한 번 쓰고 끝낼 대화면 손해다.
A. 직접 적용 가능한 건 세 개다 — 모델 고르기, 여러 개를 한 번에 묻기(배치), 주제 바뀌면 새 대화. 나머지는 "왜 그런 습관이 이득인지"의 근거로 쓰면 된다.
A. 구조는 같다. 앞을 안 바꿔야 캐시가 산다는 원리는 회사가 달라도 동일하다. 다른 건 관점이다 — 클로드 편은 새는 곳, 코덱스 편은 어디에 더 쓸지.
A. 아니다. 한 회사의 프로덕션 워크로드 실측이다. 방향(무엇을 고치면 크게 준다)은 참고하되, 퍼센트는 자기 환경에서 재야 한다.
절대 하면 안 되는 말
❌ Ploy 수치를 보편 절감률처럼 말하기 → "이 회사 실측"을 매번 붙일 것
❌ 호스티드 툴 루프에서 느려진 걸 빼고 말하기 → 9.5s→12s를 같이
❌ 압축에서 $0.099를 빼고 말하기 → 두 번 이상 써야 이득
❌ −89%만 떼어 말하기 → 전체로는 −5%
❌ "전체 권한 주면 편해요" → 권장된 건 자동 승인까지
❌ 가격·모델 목록을 영구 사실처럼 → "2026-08-01 확인 기준"
클로징
단톡방 공지 초안
수업 후 붙여넣기용. 필요하면 줄여서.
검증 로그
대조 대상
- 발표 영상 슬라이드 14장을 개별 프레임으로 추출 후 확대 판독 — 자막 받아쓰기에 의존하지 않음
- 수치 표(호스티드 툴 루프 8행 / 압축 5행 / 가격표 3×3)는 표 전체를 그대로 옮겨 부분 인용으로 인한 왜곡 차단
- 영어 원문(밸류맥싱 3축, 네 가지 질문, 토큰 더 쓸 네 경우, 모델 3종 설명, 캐시 3법칙)은 화면 문구 그대로 병기
- UI 라벨(
Advanced,5.6 Sol,Medium,Fast — 1.5x speed, more usage,Approve for me)은 캡처에서만 읽음
이번 작성에서 걸러낸 것
- KV 캐시 슬라이드 각주의 표본 수(span 개수) — 확대해도 두 값으로 읽혀 통째로 제외 (근거 없는 숫자는 완화가 아니라 삭제)
- 가격표의 단위 — 슬라이드에 표기가 없어 금액 단위를 쓰지 않고 비율(1/10)로만 표현
- "programmatic tool calling"이라는 발화 표현 대신 화면 라벨 "hosted tool loop" 채택
- 노션 글(스킬 TOP 5)의 설치 후기·설치 수치는 1차 출처 확인 불가로 이 교안에 미반영
- 절감률을 보편 수치처럼 쓰려던 문장 전부 "한 회사 실측" 조건부로 수정
체크리스트 §1(숫자 근거)·§2(개수)·§4(UI 라벨)·§7(인용문)·§10(공백 처리) 통과. §11 배포 확인은 게시 후 별도 수행.
· 이 문서는 강사용이다. 조건부 수치·트레이드오프 경고가 포함돼 있으니 수강생에게 그대로 배포하지 말 것.
· 실측 수치는 특정 회사의 프로덕션 워크로드 기준이다. 방향은 참고하되 퍼센트는 각자 환경에서 재야 한다.
· 가격·모델 목록·기본값은 변경된다. 재사용 전 원본을 다시 확인할 것 (본문 수치는 2026-08-01 확인값).
← 강사용 인덱스 ← 클로드 편 상세본 수강생용 미니교안 →