RAG 기반 LLM 서비스 제작

RAG 기반 LLM 서비스를 직접 만들어 배포하는 과정입니다. 실습은 세 개이고, 아래 순서대로 진행합니다.

실습파일 내려받기

실습에 쓰는 파일을 먼저 내려받아 압축을 풉니다. 세 실습의 폴더가 모두 들어 있습니다.

실습파일 내려받기 (zip, 약 2.5MB)

실습 순서

  1. 1

    RAG 챗봇 기초 만들기

    도구 설치부터 벡터DB까지

    개발 도구를 설치하고 OpenAI API, LangChain, Streamlit, 벡터DB를 차례로 다룹니다. 노트북의 코드를 한 칸씩 직접 실행합니다.

    폴더
    01_basic
    방식
    노트북을 직접 실행
    1번 실습 열기 →
  2. 2

    공무원 여비 RAG 챗봇 만들기

    프로젝트 설정부터 배포까지

    여비 문서를 읽고 근거와 함께 답하는 챗봇을 Codex에게 맡겨 만들고, GitHub에 올려 Streamlit Cloud로 배포합니다.

    폴더
    chatbot
    방식
    Codex에게 프롬프트로 맡김
    2번 실습 열기 →
  3. 3

    강의 추천 RAG 챗봇 만들기

    데이터 수집부터 갱신까지

    수집한 강의 데이터로 추천 챗봇을 만들고, 맞게 답하는지 검증하고, 자료를 갱신하며 운영하는 데까지 갑니다.

    폴더
    course-bot
    방식
    검증, 운영, 데이터 갱신까지
    3번 실습 열기 →

이 과정에서 만드는 것

실습완성본
2 여비 챗봇https://ragchatbot9.streamlit.app/
3 강의 추천 챗봇https://fastchatbot.streamlit.app/
접속 암호를 물으면 강사가 알려 주는 암호를 넣습니다.

한동안 접속이 없었다면 깨어나는 데 1분쯤 걸릴 수 있습니다.

실습파일의 구성

실습파일의 압축을 풀면 폴더 세 개가 있습니다. 실습마다 해당 폴더 하나만 VS Code로 엽니다.

폴더쓰는 실습들어 있는 것
01_basic1노트북 3개, Streamlit 파일 2개, 패키지 목록, .env
chatbot2DATA 폴더의 여비 문서 PDF 2개
course-bot3data 폴더의 강의 데이터, .env

세 실습이 이어지는 방식

실습익히는 것
1 기초 실습RAG를 이루는 부품을 하나씩 직접 실행해 이해합니다
2 여비 챗봇부품을 합쳐 챗봇을 만들고 배포하는 전체 과정을 한 번 끝까지 갑니다
3 강의 추천 챗봇만든 뒤의 일, 곧 검증과 운영과 자료 갱신을 다룹니다