LangChain 디버깅 가이드: 빠르게 훑고 깊게 파보는 3가지 방법
·
관심있는 주제/LLM
LLM 기반 앱은 “어디서” 틀렸는지 보기가 어렵습니다. 모델, 프롬프트, 체인, 툴 호출, 파서… 층이 많죠. 이 글은 LangChain 공식 문서(How to Debug)를 바탕으로 바로 써먹을 디버깅 루틴을 정리했습니다. 왜 디버깅이 더 어렵나?결정적 로직(deterministic)보다 확률적 출력 확률이 큼 → 같은 입력도 결과가 흔들림체인/에이전트 내부에 여러 단계(프롬프트→모델→툴→파서)가 얽힘에러가 나도 “어느 지점에서 깨졌는지” 로그가 부족한 경우가 많음이 때문에 “흐름을 먼저 보는 로그” → “내부를 다 까보는 로그” → “운영 시각화/추적” 순서로 계층화가 필요합니다. 최근에 가졌던 경험은 gpt-4o-mini 같이 api로 제공하는 모델들은 파싱이 잘되지만 오픈 소스 언어모델로 하..