패스트캠퍼스 환급챌린지 28일차 : 조대협의 항로 2 : 실전 LLM 애플리케이션 개발 로드맵 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

#패스트캠퍼스 #환급챌린지 #패스트캠퍼스후기 #습관형성 #직장인자기계발 #오공완

https://fastcampus.info/4n8ztzq

1. 학습 인증샷 5장
① 오늘자 날짜, 공부 시작 시각 포함 사진 1장
② 오늘자 날짜, 공부 종료 시각 포함 사진 1장
③ 1개 클립 수강 인증 사진 (강의장 목록 캡쳐, 강의 내용이 담긴 수강화면이 보이지 않도록) 1장
④ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)
⑤ 마이페이지 - 학습통계 - 챌린지 대상 강의 완강률 캡쳐 사진 1장

오늘 들은 강의 

LLM 모델 튜닝 이해하기

오늘 느낀 점

오늘으로서 강의가 1개 남은 상황이다. 
내일이면 강의를 1회차를 들을 텐데, 이걸 들으면서 생각한 게 약간 더 강의 수가 많은걸로 들을 걸 그랬나 하는 생각이 든다. 
각설하고, 오늘은 LLM 모델 튜닝에 대해 들었다. 
파인 튜닝이라는 것은 많이 들어 보았다. 파인튜닝의 경우에, 비용이 비싸서 프롬프트 엔지니어링을 진행한다고 했다. 

LLM 튜닝을 진행하므로서 많은 이득을 얻는 것 같다. 편향 제거 라던지 모델을 좀 우리가 원하는 비지니스 대로 잘 대답하게 처리 하는 여러가지 이점이 있었다. 
이 강의를 사면 1달 정도 주는 강의가 있었는데, 그게 모델 튜닝에 관련된 강의였다. 
강의의 경우에 그런데 난이도가 매우 높았다. 오늘 좀 들어봐야겠다. 

지도 파인튜닝, 증류 등 여러가지 기법이 있었다. 이론으로만 배워서 잘은 모르겠다. 
LLM 튜닝 라이브러리도 여러가지가 있었는데, 사실 실습으로만 좀 봐봐야 겠다. 

간단하게 내가 강의 이외의 내용으로 찾아본 부분은 JSON 형태로 지피티 기반으로 질문과 응답을 주면 해당 내용 기준으로 러닝이 되는 것이였다. 
여러가지 방식에 대해서는 궁금한 내용 기준으로 조금 더 찾아보면서 배워봐야 겠다. 

추가로 확실히 파인 튜닝 시 gpt3.5 가 gpt4.5 기준의 성능과 비슷한 결과를 낼 수 있다고 하는거 보면 확실히 비용 문제에서도, 응답 면에서도 좀 나을거 같다는 생각이 든다. 

빠르게 변하는 LLM 시대에서 생존하려면 많은 사항을 공부하고 배워야 할 것 같다. 과거 강의에서도 빠르게 지식을 쌓는 것보다 많이 해본 사람이 좀더 빠르게 알아 간다고 했다. 나도 커서 AI 만 사용해봤는데 요새 윈드서프 등 많은 툴이 나온거 보면 확실히 좀 관심있게 봐봐야 겠다. 

LLM 모델로 나의 생산성을 개선해 보고 싶었는데, 아이디어를 좀 얻거나 LLAMA를 좀 파인튜닝 해볼까 하는 생각이 조금 들었다. LLM 모델을 통해서 나만의 옵시디언 저장소를 조금 더 활용해 봐야겠다.