패스트캠퍼스 환급챌린지 43일차 : 조대협의 항로 2 : 실전 LLM 애플리케이션 개발 로드맵 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

#패스트캠퍼스 #환급챌린지 #패스트캠퍼스후기 #습관형성 #직장인자기계발 #오공완

https://fastcampus.info/4n8ztzq

1. 학습 인증샷 5장
① 오늘자 날짜, 공부 시작 시각 포함 사진 1장
② 오늘자 날짜, 공부 종료 시각 포함 사진 1장
③ 1개 클립 수강 인증 사진 (강의장 목록 캡쳐, 강의 내용이 담긴 수강화면이 보이지 않도록) 1장
④ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)
⑤ 마이페이지 - 학습통계 - 챌린지 대상 강의 완강률 캡쳐 사진 1장

오늘 들은 강의

01. Example Selector 를 통해 프롬프트 방향성 제어이론 

Langchain Memory 개념

오늘 느낀 점

오늘은 LangChain의 Memory 수업을 들었다.

처음에는 메모리는 단순하게  그냥 대화 저장하는 것으로 생각하고 하고 대충 넘길 뻔했는데, 막상 종류별로 보니까 생각보다 차이가 컸다. 그리고 이거는 이전에 들었었는데, 뭔가 처음 듣는 느낌이였다. 

ConversationBufferMemory처럼 그냥 모든 대화를 다 쌓는 건 간단하긴 한데, 토큰이 미친 듯이 늘어나는 게 문제다. 반대로 WindowMemory는 최근 k개만 저장하니 가벼운데, 예전 얘기는 싹 잊어버린다.

둘다 실무에서 쓰기는 어려울 것 같았다. 

그중에서 SummaryMemory는 길게 가도 토큰을 아낄 수 있다는 게 매력인데, 대신 요약 과정에서 디테일이 사라진다. 결국 SummaryBufferMemory가 가장 현실적인 타협안인 것 같다. 최신 대화는 그대로 두고 오래된 건 요약해서 관리하는 방식이니까, 속도·비용·맥락 유지 모두 잡을 수 있다.

그리고 v0.3에서 Memory를 LangGraph로 옮기는 걸 권장한다는 것도 흥미로웠다. “레거시”라고 치부되더라도, 결국 대화 기록을 어떻게 다룰지 설계하는 건 여전히 핵심이니까. 이걸 잘 알아둬야 직접 커스텀할 때도 길이 보일 것 같다.

결론적으로, 단순히 “대화 기억”이 아니라 맥락 유지 전략이라는 관점에서 봐야 한다는 걸 깨달았다. 앞으로는 LLM 서빙할 때 무턱대고 버퍼만 쓰지 말고, 상황에 맞게 메모리 전략을 정해야겠다.

수업을 듣고, 뒤에 예제 선택기 강의를 또 추가로 들었다. 예제 선택기의 경우엔 N Shot Prompt, 즉 여러 예시를 주는 것인데 이것도 과거에들었던 것이 기억이 잘 안났다. 길이 기반의 예제선택기 등 여러가지가 있었는데, 다들 좀 쓰기는 어려운 것도 같다. 튜닝은 되게 어려운 것 같은데 실무에서는 해본 적이 없다. 

확실한 부분은 이런 것들을 튜닝하고 해야 돈, 토큰을 아낄 수 있을 것 같은데, 실무에서는 토큰 등 어떻게 돈이 나가는 지를 모르겠다.