패스트캠퍼스 환급챌린지 34일차 : 조대협의 항로 2 : 실전 LLM 애플리케이션 개발 로드맵 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

#패스트캠퍼스 #환급챌린지 #패스트캠퍼스후기 #습관형성 #직장인자기계발 #오공완

https://fastcampus.info/4n8ztzq

1. 학습 인증샷 5장
① 오늘자 날짜, 공부 시작 시각 포함 사진 1장
② 오늘자 날짜, 공부 종료 시각 포함 사진 1장
③ 1개 클립 수강 인증 사진 (강의장 목록 캡쳐, 강의 내용이 담긴 수강화면이 보이지 않도록) 1장
④ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)
⑤ 마이페이지 - 학습통계 - 챌린지 대상 강의 완강률 캡쳐 사진 1장

오늘 들은 강의

LLM 애플리케이션의 기본 아키텍쳐

오늘 느낀 점

오늘은 LLM 애플리케이션의 기본 아키텍쳐에 대해 수강했다. 

단순히 모델을 호출하는 것을 넘어, 상용 서비스를 운영하는 일이 역시 복잡하다는 것을 배웠다.

특히 세이프티 필터는 기술적 기능을 넘어, 서비스의 신뢰도를 위해 무조건 적용해야 할 것 같다. 예를들어 마약을 만드는 법을 알렺준다던지, 유저에게 불쾌감을 주는 성적인 응답 등이 나온다면 내가 만든 애플리케이션의 신뢰도가 바닥을 칠 것 같다.

이는 AI에서는 제일 중요한 문제라고 나는 생각하고, 애플리케이션의 운영에 직결되는 문제로 생각이 된다.

또한 동적 프롬프트 선택기와 템플릿은 LLM의 예측 불가능성을 제어하고 답변의 품질을 일관되게 유지하기 위해 사용한다.

후에 실습에서 동적 프롬프트 선택기를 배운다. 다시 보다 보니 확실히 조금 더 이해가 빨라 지는 것 같다.

 이 모든 요소들은 결국 LLM을 단순한 연동 서비스가 아닌, 견고한 소프트웨어 시스템으로 설계하는 것을 배우게 된 것 같다. 이제는 프롬프트 하나를 고민하는 수준을 넘어, 전체 시스템의 안정성과 확장성을 고려하는 아키텍처 설계를 배웠고, 중요한 내용을 알 게 도되었다. LLM 애플리케이션 개발이 단순한 아이디어 구현이 아닌, 체계적인 개발과 함께 해야하는 것을 알게 되었다. 


오늘은 주말인데, 강의를 많이는 듣지를 못했다. 이대로 매일 한개씩 듣게 되면 나는 그래도 2회독은 가능할 것 같다. 현재 Ollama-72b를 올려 보았는데, 이 뒤에서 이 코드로 랭체인을 연결해서 사용해 보고 싶다. 관련되서 챗봇을 하나 만들면서 이 강의를 듣고 공부하면 더 도움이 될 것 같다. 배우는 것에 있어서 즐거움도 있지만, 나는 인프라를 유지하면서 관리하는 것도 현재 내 직무이기 때문에 새롭다. 여러가지를 배워 빨리 LLM 개발의 어느정도 정도에 올라가고 싶다. 배울건 여전히 많은데, 이ㅏ게 내 직무랑 거ㅏ리가 있어서 아직은 조금 고민이 있다. 

임베딩 모델도 올려서, 유사도 검색도 한번 실습해 봐야겠다