프롬프트 엔지니어링6 블로그 계산기 만들기 (이벤트 처리, AI 프롬프팅, 유지보수) 블로그에 인터랙티브 계산기를 넣었더니 포스팅 체류 시간이 두 배 이상 늘었습니다. 처음엔 반신반의했는데, 독자들이 값을 바꿔가며 직접 계산해보는 경험 자체가 콘텐츠가 된다는 걸 그때 처음 실감했습니다.이벤트 처리, 생각보다 어렵지 않았습니다계산기를 블로그에 처음 넣어보려 했을 때, 가장 막막했던 부분이 바로 이벤트 처리(Event Handling)였습니다. 여기서 이벤트 처리란 사용자가 버튼을 클릭하거나 값을 입력하는 행동에 반응해 JavaScript가 특정 함수를 실행하도록 연결하는 구조를 말합니다. 요즘 워드프레스나 티스토리 블로그에서 "버튼을 눌렀을 때 뭔가 일어나는" 동작은 거의 다 이 구조로 작동한다고 보면 됩니다.제가 직접 써봤는데, onclick 속성을 HTML 태그에 직접 써서 함수를 호출.. 2026. 6. 30. AI 블로그 자동화 (프롬프트 엔지니어링, 비용 최적화, 파이프라인 설계) 블로그 포스팅을 자동화하면 인생이 편해질 거라고 막연히 생각했습니다. 실제로 몇 달을 굴려보니 그 기대는 절반만 맞았습니다. GPT-4o와 WordPress REST API를 이어붙여 꽤 긴 분량의 Python 파이프라인을 완성하기까지, 예상치 못한 곳에서 계속 발목이 잡혔습니다. 솔직히 처음엔 "이 정도면 주말 프로젝트로 끝나겠지"라고 자신만만했는데, 결과적으로는 거의 한 달을 이 작업에 쏟아부었습니다. 그 시행착오를 가감 없이 정리해보려 합니다.프롬프트 엔지니어링과 출력 포맷 일관성 확보파이프라인을 처음 설계할 때 가장 오래 걸린 부분이 어디였냐고 누가 물으면, 대부분 "OpenAI API 연결 아니냐"고 짐작합니다. 저도 그렇게 생각했습니다. 그런데 직접 겪어보니 API 호출 자체는 정말 30분 만.. 2026. 6. 4. LLM API 비용의 토큰 낭비 (패턴 진단, 히스토리 관리, 캐싱 전략) 파트너사의 고객 지원 봇을 처음 진단했을 때 솔직히 예상 밖이었다. 월 API 비용의 68%가 실제 AI 처리가 아닌 히스토리 재전송에 쓰이고 있었거든요. 코드는 멀쩡히 돌아가고 있었고, 아무도 문제를 몰랐다. LLM 개발에서 토큰 낭비는 대부분 이렇게 조용히 쌓인다. 이 숫자를 처음 봤을 때 든 생각은 "버그가 있는 거 아닌가"였다. 그런데 코드를 뜯어보면 뜯어볼수록 버그가 아니라 설계였다. 아무도 의심하지 않았기 때문에 아무도 고치지 않은 패턴들이 비용 구조를 조용히 갉아먹고 있었다. 이 경험 이후로 "돌아가는 코드"와 "효율적인 코드"가 얼마나 다를 수 있는지를 다시 생각하게 됐다.가장 많이 보이는 낭비 패턴 다섯 가지직접 코드 리뷰와 프로덕션 모니터링을 하면서 반복적으로 마주친 패턴들이다.첫 번째.. 2026. 5. 28. 프롬프트 토큰 최적화 247토큰 vs 18토큰 - 비교 실험, Few-shot, 비용 절감) 같은 일을 시키는 프롬프트인데 토큰이 247개짜리와 18개짜리로 나뉜다면, 그 차이가 실제 비용에서 어떻게 드러날지 궁금하지 않았는가. 나는 궁금했고, 직접 실험해봤다. 그 결과가 생각보다 꽤 명확해서, 내가 겪은 시행착오와 함께 프롬프트 토큰 최적화의 실체를 짚어보겠다.비교 실험: 같은 태스크, 다른 프롬프트내가 진행한 실험의 태스크는 단순했다. 고객 리뷰 텍스트를 긍정/부정/중립으로 분류하는 것이었다. 여기에 4가지 프롬프트 변형을 만들어 count_tokens API로 사전 측정했다. count_tokens API란 Anthropic이 무료로 제공하는 엔드포인트로, 실제 요청을 보내기 전에 예상 토큰 수를 미리 확인할 수 있는 도구다. 실험 비용 없이 프롬프트 간 토큰 차이를 비교할 수 있어서 최적.. 2026. 5. 27. 시스템 프롬프트 최적화 (토큰 절감, 프롬프트 구조, 보안 한계) API를 처음 붙일 때 저도 똑같은 실수를 했습니다. 매 요청마다 "너는 이런 역할이고, 한국어로 답하고, 코드는 이렇게, 형식은 저렇게"를 붙여 넣었고, 대화가 10턴을 넘어가자 청구서가 무서워지기 시작했습니다. 시스템 프롬프트(System Prompt)를 제대로 이해하고 나서야 그 낭비가 얼마나 컸는지 실감했습니다. 이 글은 그 경험에서 출발합니다.토큰 절감 - 사용자 메시지에 모든 걸 욱여넣던 시절API를 처음 다룰 때 가장 흔히 저지르는 실수가 있습니다. 바로 롤 지정, 어조, 출력 형식 같은 설정 정보를 사용자 메시지(User Message) 안에 전부 집어넣는 방식입니다. 사용자 메시지란 대화의 매 턴마다 모델에 전달되는 입력값으로, 여기에 설정 문장을 반복 삽입하면 토큰(Token) 소비가 .. 2026. 5. 16. 프롬프트 최적화 - 토큰 비용, 컨텍스트 압축, 품질(최적화로 41% 줄인 이야기) GPT-4 API를 실무에 연결한 첫 달, 예상의 세 배에 가까운 청구서를 받았습니다. 원인은 단 하나였습니다. 매 요청마다 길게 늘어뜨린 역할 지정 문장이었고, 두 달 만에 비용을 41% 줄인 건 프롬프트 길이를 다듬은 것 외에 아무것도 하지 않아서였습니다.이 이야기를 쓰는 이유는, 프롬프트 최적화를 "글을 잘 써야 하는 일"로 생각하는 분들이 많기 때문입니다. 저도 처음엔 그랬습니다. 그런데 실제로는 구조와 비용의 문제였습니다. 어디에 뭘 넣느냐, 불필요한 게 얼마나 있느냐를 직접 숫자로 확인하는 순간부터 달라졌습니다.토큰 비용을 낭비하는 프롬프트의 구조토큰이란 LLM이 텍스트를 처리하는 최소 단위입니다. 한국어 한 글자가 하나의 토큰이 되기도 하고, 영어 단어 하나가 여러 토큰으로 쪼개지기도 합니다.. 2026. 5. 15. 이전 1 다음
