패스트캠퍼스 환급챌린지 47일차 : 조대협의 항로 2 : 실전 LLM 애플리케이션 개발 로드맵 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

#패스트캠퍼스 #환급챌린지 #패스트캠퍼스후기 #습관형성 #직장인자기계발 #오공완

https://fastcampus.info/4n8ztzq

(~6/20) 50일의 기적 AI 환급반💫 | 패스트캠퍼스

 

1. 학습 인증샷 5장
① 오늘자 날짜, 공부 시작 시각 포함 사진 1장
② 오늘자 날짜, 공부 종료 시각 포함 사진 1장
③ 1개 클립 수강 인증 사진 (강의장 목록 캡쳐, 강의 내용이 담긴 수강화면이 보이지 않도록) 1장
④ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)
⑤ 마이페이지 - 학습통계 - 챌린지 대상 강의 완강률 캡쳐 사진 1장

오늘 들은 강의

01. LangSmith 모니터링 컨셉 이해

02. LangSmith 모니터링 실습

오늘 느낀 점

오늘은 주말이라 여유 있게 시간을 잡고 실습 위주로 돌려보았다. 

어제까지만 해도 환경 변수 문제 때문에 연동이 안 되던 랭스미스가 오늘은 제대로 연결되었고, 테스트도 깔끔하게 UI에 올라갔다.

작은 차이 같지만 환경 변수 세 개를 올바르게 잡아주니 바로 해결되었다는 점에서, 역시 이런 시스템은 사소한 설정이 전체 흐름을 결정한다는 걸 다시 느꼈다. 

추가로 OpenAI 20B 모델을 활용해 돌려봤는데, 거기서 Harmony 라는 annotation 방식을 접하게 되었다. 처음에는 뭔가 신기했지만, 실제로 실습을 여러 번 반복하다 보니 이 방식이 데이터 파싱이 제대로 되지 않았다. 오픈 AI API 와 응답 형태가 달랐기 때문에 출력이 깔끔하게 파싱되지 않았다. 

특히 같은 입력을 두세 번 돌려도 annotation 결과가 제각각이라 비교가 쉽지 않았고, 정합성이 떨어지는 느낌이 강했다. 사실 정합성이라기 보단, 실습 문제를 그대로 이 형태로 바로돌릴 수 는 없었다.   

결국은 추가적인 정제 과정을 거치지 않으면 원하는 수준의 데이터를 확보하기 힘들 것 같았다. 

그래도 이런 시행착오가 의미 있는 건, 단순히 모델을 가져다 쓰는 수준을 넘어서 직접 문제를 마주하고 해결책을 고민하는 과정이 있다는 점이다. 

사실 로컬에서 모델을 돌려보면서 얻는 만족감도 이런 지점에서 나온다. 
돈 들이지 않고, 내 환경에서 원하는 방식으로 세팅하고, 거기서 생기는 문제를 직접 해결하는 것. 오늘도 Harmony 문제로 시간을 좀 썼지만, 최소한 어디가 병목이고 어떤 지점에서 개선해야 하는지는 확인했다. 

삽질 같지만 결국은 앞으로 나아가는 과정이고, 하나씩 쌓여서 나중에는 더 단단한 기반이 될 거라 생각한다. 오늘도 뭔가 배웠다는 점에서 충분히 의미 있는 하루였다.

근데 진짜 확실히 강의 보다는 이렇게 새롭게 해보는 것도 재미있는 것 같다. harmony 등새로운 것을 알게 되었다.  이제는 120b 짜리도 올려서 좀 제대로 돌려봐야겠다.