패스트캠퍼스 환급챌린지 29일차 : 조대협의 항로 2 : 실전 LLM 애플리케이션 개발 로드맵 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

#패스트캠퍼스 #환급챌린지 #패스트캠퍼스후기 #습관형성 #직장인자기계발 #오공완

https://fastcampus.info/4n8ztzq

1. 학습 인증샷 5장 이상 포함
① 오늘자 날짜, 공부 시작 시각 포함 사진 1장
② 오늘자 날짜, 공부 종료 시각 포함 사진 1장
③ 1개 클립 수강 인증 사진 (강의장 목록 캡쳐, 강의 내용이 담긴 수강화면이 보이지 않도록) 1장
④ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)
⑤ 마이페이지 - 학습통계 - 챌린지 대상 강의 완강률 캡쳐 사진 1장

오늘 들은 강의

LLM 모델 튜닝, 프롬프트 엔지니어링, RAG 비교하기 

 

오늘 느낀 점

 

오늘 강의를 100% 완강했다. 딱 끝나니까 기분이 묘했다.

오늘 배운 주제는 RAG, 파인튜닝, 프롬프트 엔지니어링 비교였다. 뒤에를 먼저 들어서 아는 내용이긴 했다. 이렇게 한 번에 정리되니 확실히 머릿속이 좀 정돈된 느낌이다.

RAG는 외부 지식 기반으로 문서를 읽고 답하게 만드는 구조였다. 모델 자체를 바꾸는 게 아니라 외부 정보를 잘 붙여주는 방식인데, 예를 들면 벡터 DB 같은 데서 검색해서 준다. 그래서 최신 정보나 사내 지식에 맞춰 쓰기 좋다고 한다.

모델은 우리 회사 정보를 가지고 있지 않기 때문에, RAG 는 사내 지식 저장소 등을 챗봇 연동하는 데 쓰면 좋을 것 같다. 

파인튜닝은 아예 모델 자체를 수정하는 거였다. 뭔가 성능도 확 올라가고 우리가 원하는 톤이나 태도로 만들 수 있다는 점에서 매력적이긴 한데, 역시나 비용과 자원이 부담이다.

그래도 어제 강의에서 gpt3.5를 튜닝하면 4.5랑 비슷해진다고 하니까, 상황에 따라 고려해볼만하다고 느꼈다.

확실히 파인튜닝은 좀 더 어려워 보이는데, 이것도 어떻게 하는건지 궁금하긴하다. 

마지막으로 프롬프트 엔지니어링은 역시 기본 중 기본이었다. 비용도 안 들고 접근성도 좋아서 제일 먼저 해보게 되는 부분인데, 생각보다 깊이가 있었다.

앞에서 배웠던건 cot, react 등 여러가지 프롬프트 엔지니어링 기법과 패턴이 있었는데 기억이 난다

추가로 이제부터 100% 완강이라, 다시 처음부터 들어보려고 한다. 사실 다른 강의와도 함께 같이 들어보려고 한다. 

강의가 짧아서, 사실 길게 들어버리면 너무 양이 많아질 것 같아서 다른 LLM 강의와 함께 들으면서 정리해 볼까 한다. 

오늘 강의로 딱 틀이 잡힌 기분이다.

 

이제 좀 제대로, 실습을 해보면서 다시 들어보고 싶다. 앞에서 이해 안 되는 내용도 좀 빠르게 넘어갔는데, 이제는 그 부분도 좀 완벽히 이해하고 넘어갈 수 있을 것 같다. 2회차 수업은 확실히 강의 내용을 이해하고 넘어가야겠다.