오늘의 AI 꿀팁 · 미니교안 · 2026-08-01

코덱스 토큰,
값어치로 따지기

"토큰을 아끼자"가 아니에요. OpenAI가 직접 던진 질문은 이겁니다 —
"토큰을 더 썼는데, 그게 값어치가 있었는지 어떻게 알죠?"

⏱ 읽기 10분 🎬 OpenAI Build Hour 🖼 화면 캡처 9장 실측 🔢 수치 전부 슬라이드 확대 판독 원본 보기

오늘의 한 문장

Valuemaxxing
토큰이 아니라 결과를 센다

슬라이드 원문 그대로예요 — "Measuring progress by what AI helps you accomplish".
측정 기준은 세 가지: Work completed(끝낸 일) · Time saved(아낀 시간) · Quality improved(좋아진 품질).
"얼마나 적게 썼나"는 목록에 아예 없습니다.

Valuemaxxing 슬라이드 — Work completed, Time saved, Quality improved

🖼 실제 슬라이드 — Valuemaxxing의 정의와 측정 항목 3가지.

STEP 01 · 측정

먼저 답해야 할 질문 4개

이 프레임이 없으면 뒤에 나오는 절약 기술은 전부 무의미해요. 뭘 좋게 만들려는지 모르는 채로 토큰만 줄이면, 그냥 결과가 나빠집니다.

How would you know the extra tokens were worth it? — Outcomes, Workflows, Intelligence, Evidence 4장 카드

🖼 실제 슬라이드 — 제목이 "How would you know the extra tokens were worth it?"입니다.

질문	슬라이드 원문	우리말로
Outcomes	What are you trying to improve?	뭘 좋게 만들려는 건데?
Workflows	Where is that outcome created?	그 결과는 어디서 만들어지지?
Intelligence	What work should the system take on?	그중 AI가 맡을 일은 뭐지?
Evidence	What shows it worked?	잘 됐다는 증거는 뭐지?

💡 Evidence(증거)를 정하는 게 제일 중요해요. 이게 없으면 "요즘 AI 잘 쓰는 것 같은데"에서 영원히 못 벗어납니다.

STEP 02 · 방향

오히려 토큰을 더 써야 할 때

절약만 배우면 반쪽이에요. 발표에서는 "언제 더 써야 하는가"를 먼저 짚습니다.

상황	슬라이드 원문
Quality 품질	가치 있는 작업이 품질 기준에 못 미칠 때 — 능력을 올려라
Time 시간	빨리 끝내는 게 다음 일을 열어줄 때 — 병렬로 돌려라
Scale 규모	검증된 워크플로를 더 많은 일·고객으로 넓힐 때
Risk 위험	실패 비용이 클 때 — 맥락과 검증을 더해라

📄 슬라이드 "When might you want more tokens?" 4항목을 우리말로 옮긴 것. 원문 대조본은 강사용 상세본에 있어요.

🎯 뒤집으면 이런 뜻이에요 — 품질도 충분하고, 급하지도 않고, 한 번만 할 일이고, 틀려도 별일 아니면 → 싼 모델로 충분합니다.

STEP 03 · 모델

해 · 지구 · 달 — 셋 중에 고르기

The GPT-5.6 family 슬라이드 — Sol, Terra, Luna

🖼 실제 슬라이드 — The GPT-5.6 family. 이름이 해(Sol)·지구(Terra)·달(Luna)이에요.

모델	슬라이드 설명	언제 쓰나
☀️ Sol	복잡한 전문 작업을 위한 최고 성능	어렵고 중요한 일
🌍 Terra	지능과 비용이 둘 다 중요할 때의 강한 성능	매일 쓰는 기본값
🌙 Luna	대량 작업을 위한 효율적인 지능	많이·자주 돌리는 일

중요한 건 "토큰당 가격"이 아니다

Token efficiency 슬라이드 — cost per task 기준 DeepSWE 점수 차트

🖼 실제 슬라이드 — 가로축이 Avg cost per task(작업 1건당 평균 비용). 토큰 단가가 아니에요.

슬라이드 원문: "The key metric is cost per task not cost per token."
비싼 모델이 한 번에 끝내면, 싼 모델이 다섯 번 헤매는 것보다 쌉니다. 그래서 단가표만 보고 고르면 틀려요.

⚠️ 이 차트는 특정 벤치마크(코딩 과제) 기준이에요. 내 일에서의 순위는 다를 수 있습니다. "내 작업 1건 끝내는 데 얼마 들었나"를 직접 재보는 게 정답이에요.

STEP 04 · 설정

코덱스 앱에서 오늘 만질 3개

🖼 실제 슬라이드 — 왼쪽이 팁 3개, 오른쪽이 실제 코덱스 설정 화면이에요.

01 · Start with Sol

화면의 모델 선택기에 5.6 Sol · Medium으로 잡혀 있어요. 처음부터 최고 추론 단계로 올리지 말고 Sol을 중간(Medium)으로 시작하라는 뜻입니다. 부족할 때 올리면 돼요.

02 · Trade tokens for time (토큰을 시간과 바꾸기)

토큰을 더 쓰는 대신 내 시간을 되사는 옵션 3개예요.

⚡ Fast Mode — 화면 문구 그대로 Fast · 1.5x speed, more usage. 1.5배 빠른 대신 한도를 더 씁니다. 공짜가 아니에요
✅ Auto-approval — 화면의 Approve for me. 매번 "허용할까요?"에 답하느라 끊기는 걸 없앱니다
🎥 Chronicle — 슬라이드에 이름만 올라온 항목이라 어떤 기능인지는 확인되지 않았습니다. 이름만 기억해두세요

🚨 자동 승인은 권장, 전체 접근 권한(full access)은 권장하지 않습니다. 발표에서 명시적으로 갈라놓은 지점이에요. "귀찮으니 다 열어두자"가 아닙니다.

03 · Audit AGENTS.md

이게 사실 제일 큰 절감이에요. AGENTS.md(에이전트 지침 파일)와 설치한 스킬들은 매 요청마다 전부 읽힙니다. 한 번 열어서 지금 안 쓰는 줄을 지우세요.

💡 클로드 쓰는 분은 CLAUDE.md가 같은 자리예요. 규칙이 늘기만 하고 줄어든 적 없다면, 지금이 정리할 때입니다.

▶ 13:00 팁 3개

STEP 05 · 구조

일이 아니라 하네스를 바꿔라

발표의 두 번째 축입니다. 슬라이드 원문 — "Change the harness, not the task."
같은 일을 시키면서 감싸는 구조만 바꿔도 비용이 크게 떨어진다는 거예요. 실측 두 개만 보죠.

24% fewer input tokens with the hosted tool loop 비교표

🖼 실제 데모 화면(OpenAI Valuemaxxing Lab) — "24% fewer input tokens with the hosted tool loop". 도구 호출 37회는 똑같습니다.

항목	기본 방식	도구 루프를 안쪽에서 처리
도구 호출 수	37회	37회 (같음)
모델이 도는 횟수	3	2
입력 토큰	2,616	1,996
출력 토큰	1,011	371
예상 비용	$0.023	$0.011
걸린 시간	9.5초	12초 (오히려 느림)

🧐 시간은 오히려 느려졌어요. 슬라이드 숫자 그대로입니다. 비용을 절반으로 줄이는 대신 2.5초를 내준 거예요 — 이게 바로 "트레이드오프"고, 무조건 좋은 기술은 없다는 증거입니다.

82% fewer input tokens on the same follow-up task — Compaction 비교표

🖼 실제 데모 화면(OpenAI Valuemaxxing Lab) — "82% fewer input tokens on the same follow-up task". 72번의 주고받음을 압축한 뒤 같은 후속 질문을 한 결과예요.

24K→4,286입력 토큰

$0.062→$0.011비용

$0.099압축 자체에 든 1회 비용

압축은 공짜가 아니에요. 한 번 압축하는 데 $0.099이 들었으니, 그 대화를 앞으로 두 번 이상 더 쓸 때만 이득입니다. 끝날 대화를 압축하는 건 손해예요.

STEP 06 · 캐시

제일 큰 절감은 캐시에서 나온다

에이전트는 매 단계마다 지금까지의 전부를 다시 읽습니다. 그래서 단계가 늘수록 비용이 눈덩이처럼 커져요. 이걸 막는 게 캐시입니다.

KV CACHING 101 슬라이드 — 캐시 없을 때와 있을 때 비교, 그리고 프로덕션 실측

🖼 실제 슬라이드 — 왼쪽 "WITHOUT CACHING · EVERY STEP COLD", 오른쪽 "WITH CACHING · APPEND-ONLY PREFIX".

❄️ 캐시 안 걸릴 때 (실측)

10.4초 첫 응답까지
$32.75

🔥 캐시 걸릴 때 (실측)

3.4초 첫 응답까지
약 $3.70

📄 발표사(Ploy)의 프로덕션 실측치. 초 단위에만 Average TTFT at 100–200K input(입력 10만~20만 토큰 구간 첫 응답 평균)이라고 붙어 있어요. 금액 쪽은 무엇을 합산한 값인지 슬라이드 라벨이 판독되지 않아 1회 요청 비용으로 읽지 마세요 — 같은 조건에서 캐시로 약 1/9이라는 비율만 가져가면 됩니다.

캐시는 "이어붙이기"만 허용한다

슬라이드 표현이 정확해요 — APPEND-ONLY PREFIX. 앞부분이 글자 하나까지 똑같이 유지되고 뒤에만 붙어야 캐시가 살아있습니다. 앞을 건드리는 순간 전부 무효예요.

🚨 캐시를 깨는 3대 습관 (슬라이드에 그대로 나옵니다)
① 시스템 프롬프트를 바꾸는 것 → 글자까지 똑같이 유지하세요
② 시스템 프롬프트에 현재 시각 같은 변하는 값을 넣는 것 → 필요할 때만 도구로 가져오세요
③ 도구 목록을 매번 바꾸는 것 → 도구는 고정하고, 추가 스펙은 맨 뒤에 붙이세요

💡 ②번이 진짜 함정이에요. "지금 몇 시인지 알려주려고" 넣은 한 줄이 매 요청마다 캐시를 통째로 날립니다. 좋은 의도가 제일 비싼 실수가 되는 지점.

STEP 07 · 도구

도구가 뱉는 모든 글자는 다음 턴의 입력이다

EVERY BYTE A TOOL RETURNS BECOMES FUTURE INPUT — 59%, -70%, -54% 카드

🖼 실제 슬라이드 — 아래 한 줄: "Exa estimate: ~$37K/year saved in input tokens."

59%전체 토큰 중 도구가 차지한 비중
(사용자가 친 글자는 1% 미만)

−70%검색 결과를 요약본만 받게 했더니
42,552자 → 12,809자

−54%도구를 잘 설계해서
불필요한 되풀이 출력 제거

가장 충격적인 숫자는 "1% 미만"이에요. 우리가 타이핑하는 글자는 전체 토큰의 1%도 안 됩니다. 질문을 짧게 쓰는 건 절약이 아니에요. 도구가 뱉는 양을 줄여야 합니다.

🎯 앱만 쓰는 사람에게 번역하면 — 검색 결과 전문을 통째로 붙여넣지 말고, 필요한 부분만 붙여넣으세요. 그리고 매번 똑같이 계산되는 일은 AI에게 시키지 말고 정해진 방식으로 처리하세요.

오늘 바로 할 5가지

1️⃣ 지금 하는 일에 Evidence(증거)를 하나 정한다 — "이게 좋아지면 성공"
2️⃣ 모델을 Sol · Medium에서 시작한다. 부족할 때만 올린다
3️⃣ AGENTS.md(또는 CLAUDE.md)를 열어 안 쓰는 줄을 지운다
4️⃣ 설정 파일·지침에서 매번 바뀌는 값을 빼낸다 (특히 시각)
5️⃣ 길어진 대화는 계속 쓸 것만 압축한다. 끝날 대화는 그냥 새로 연다

한 줄로 남길 것

토큰을 아끼지 말고
토큰이 만든 결과를 세라

그리고 정말로 아껴야 할 곳은 내가 치는 글자(1% 미만)가 아니라, 매 턴 따라다니는 짐이에요 — 지침 파일, 도구 목록, 쌓인 대화, 도구가 뱉은 결과.

클로드 편 보기 →

원본 — OpenAI Build Hour, Valuemaxxing with GPT-5.6 (YouTube jyuyY86GJnA). 24%·82% 화면은 OpenAI 측 데모 앱(Valuemaxxing Lab)이고, KV캐시·슬림 프롬프트 사례가 초청 발표자 Lorenzo Gentile(Ploy)의 프로덕션 실측입니다. 둘은 출처가 달라요.

검증 — 이 교안의 모든 수치는 자막이 아니라 해당 시점 화면을 캡처해 확대 판독했습니다. 화면 문구(5.6 Sol, Medium, Fast · 1.5x speed, more usage, Approve for me)는 캡처에서 읽은 그대로입니다.

주의 — ① 절감률은 발표에 쓰인 특정 작업·특정 평가셋 기준이라 내 환경에서 그대로 재현되지 않을 수 있어요. ② 모델 이름·가격·기본값은 변경될 수 있습니다(2026-08-01 확인값). ③ 판독이 불확실했던 수치(캐시 표본 건수 등)는 일부러 뺐습니다.

← 스터디 가이드로 돌아가기 ▶ 원본 영상

코덱스 토큰,값어치로 따지기