패스트캠퍼스 환급챌린지 24일차 : 조대협의 항로 2 : 실전 LLM 애플리케이션 개발 로드맵 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

#패스트캠퍼스 #환급챌린지 #패스트캠퍼스후기 #습관형성 #직장인자기계발 #오공완

https://fastcampus.info/4n8ztzq

1. 학습 인증샷 5장 
① 오늘자 날짜, 공부 시작 시각 포함 사진 1장
② 오늘자 날짜, 공부 종료 시각 포함 사진 1장
③ 1개 클립 수강 인증 사진 (강의장 목록 캡쳐, 강의 내용이 담긴 수강화면이 보이지 않도록) 1장
④ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)
⑤ 마이페이지 - 학습통계 - 챌린지 대상 강의 완강률 캡쳐 사진 1장

 

오늘 들은 강의

향후 챗봇의 개선방향과 비지니스적 고민

오늘 느낀 점

오늘 에이전트 기능 개발에 대해 깊이 고민해보는 시간을 가졌다. 

 

기존의 단일화된 에이전트 방식은 다양한 데이터소스를 다루기에 한계가 명확했다. 

Elastic Search, Graph DB, 일반 검색 등 각기 다른 소스에 맞춰 최적의 프롬프트를 동적으로 조립하고, 사용자의 진짜 의도를 정확히 파악하는 과정이 얼마나 중요한지 다시금 깨달았다. 

마치 여러 부품을 조립해 하나의 완성된 기계를 만드는 ‘Composed Agent’의 개념을 구체화하는 작업이었다. 

이는 마치 특정 분야의 전문가 여러 명을 모아 태스크포스를 구성하는 것과 같다. 각 에이전트는 자신의 전문 분야에만 집중하고, 최상위의 관리자 에이전트가 이들의 결과를 종합해 최종 결론을 도출하는, 고도로 조직화된 협업 모델을 지향한다.

오늘 배운건 아니지만, 앞에 들었던 강의는, 흩어져 있는 비구조화된 로그나 DB 데이터를 단순히 검색하는 것을 넘어, 이를 체계적인 '지식 그래프'로 변환하고 축적하는 아이디어였다.

강의에서는 시간이 너무 오래 걸리는 것은 캐싱해서 피해 갈 수 있다는 아이디어를 주었다. 

이는 단순히 키워드에 매칭되는 로그 뭉치를 던져주는 것이 아니라, 'A'라는 장애가 'B'라는 배포와 연관되어 있고, 그 원인이 'C'라는 코드 변경에 있었다는 '관계' 자체를 보여주는 것이다.

필요한 필드만 정교하게 추출하고 관리하기 위한 프롬프트와 여러가지 방법으로 에이전트가 훨씬 더 지능적으로 응답할 수 있는 기반을 다질 수 있겠다는 확신이 들었다.

물론 비용과 속도 문제는 항상 따라다니는 과제다. 각 단계마다 LLM을 호출하는 것은 비용과 응답 시간 측면에서 부담이 될 수밖에 없다. 따라서 어떤 작업은 경량화된 모델로 처리하고, 핵심적인 추론 단계에서만 고성능 모델을 사용하는 하이브리드 전략이나 캐싱 등 최적화 방안도 함께 구상해야만 할 것 같다. 비용 및 토큰 범위를 넘기지 않게 하기 위해서 이다. 

결론적으로 오늘 구상은 단순한 기능 추가를 넘어 에이전트의 근본적인 체질을 개선하는 작업의 시작점이다. 사용자 의도 파악부터 지식화, 그리고 최종 응답까지의 전 과정을 투명하게 만들고 고도화하는 것. 실제 회사 업무에서 생산성을 극대화할 수 있는 똑똑한 에이전트를 만들어보고 싶다. 

최종 목표는 사용자가 겪는 문제의 근본 원인을 선제적으로 제시하고 해결책까지 추천하는, 수동적인 답변자를 넘어 능동적인 문제 해결 파트너로 만드는 것이다. 꾸준한 고민과 실행을 계속 이어나가야겠다.