RAG 챗봇 기초 만들기

오늘 쓰는 파일과 순서를 먼저 확인합니다. 체크한 내용은 이 브라우저에만 저장됩니다.

• 과정 안내에서 실습파일을 내려받아 압축을 풀었다
• 실습파일 안에 01_basic 폴더가 있다
• 01_basic 폴더 안에 .env 파일이 있다 (수업용 API 키가 들어 있음)
• 인터넷에 연결돼 있다

01_basic 폴더의 파일

코드를 쓰고 실행할 작업 공간을 만듭니다. 설치할 것은 VS Code와 익스텐션입니다. 이미 설치된 것은 건너뜁니다.

파이썬은 따로 설치하지 않아도 됩니다

이 과정에서는 uv가 파이썬을 대신 설치합니다. 2단계에서 uv sync를 실행하면 실습에 맞는 버전(3.12)을 자동으로 내려받아 실습 폴더 안에 준비합니다.

• PC에 파이썬이 없어도 실습할 수 있습니다.
• 이미 다른 버전이 설치돼 있어도 그대로 두면 됩니다. 실습은 uv가 준비한 버전으로 돌아갑니다.

1. VS Code 설치

1. https://code.visualstudio.com/에서 내 운영체제에 맞는 설치 파일을 내려받아 실행합니다.

2. 익스텐션 설치

VS Code 왼쪽 메뉴의 Extensions를 누르고, 아래 이름을 검색해 설치합니다.

3. Codex 확인하기

1. VS Code 오른쪽의 Codex 탭을 선택합니다. 초기 설정 화면이 나오면 아래쪽 다음을 눌러 진행합니다.
2. 로그인 화면이 나오면 로그인합니다.
3. 설정이 끝나면 사용할 모델과 추론 수준을 고를 수 있습니다.

모두가 같은 버전의 패키지로 실습하도록 환경을 맞춥니다. uv가 01_basic 폴더의 목록대로 한 번에 설치합니다.

1. 폴더 열기

1. VS Code에서 파일 → 폴더 열기로 01_basic 폴더를 엽니다. 실습파일 전체가 아니라 01_basic을 엽니다.
2. 터미널 → 새 터미널로 터미널을 엽니다.

2. uv 설치

uv는 파이썬 패키지와 가상환경을 관리하는 도구입니다. 공식 안내는 https://docs.astral.sh/uv/에 있습니다.

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

curl -LsSf https://astral.sh/uv/install.sh | sh

설치한 뒤 VS Code를 닫았다가 다시 엽니다. 새로 열어야 uv 명령을 찾습니다.

3. 환경 동기화

uv sync

처음에는 패키지를 내려받느라 몇 분 걸립니다. 끝나면 폴더에 .venv가 생깁니다. 노트북 실행에 필요한 ipykernel과 pandas도 이때 함께 설치됩니다.

4. 노트북 커널 선택

1. 01_OpenAI_Chat_API.ipynb를 엽니다.
2. 오른쪽 위의 커널 선택을 누릅니다.
3. Python 환경을 고르고, 목록에서 .venv가 붙은 항목을 선택합니다.

파이썬 코드로 OpenAI API에 질문을 보내고 답을 받습니다. ChatGPT 화면 없이 AI를 부르는 방법입니다.

API를 부르는 다섯 단계

1. 1라이브러리 설치uv sync로 이미 끝남
2. 2API 키 설정.env에서 읽어 옴
3. 3질문 준비질문을 프롬프트로 작성
4. 4API 호출OpenAI 서버에 전송
5. 5응답 받기답을 프로그램에서 사용

노트북의 실습 순서

직접 해 보기

• 실습 2의 question을 내 업무에 관한 질문으로 바꿔 실행합니다.
• 실습 3의 goal, daily_time, level 값을 바꿔 계획이 어떻게 달라지는지 봅니다.
• 실습 4의 instructions에서 역할을 "초등학교 선생님"으로 바꿔 말투가 달라지는지 봅니다.

LangChain은 프롬프트, 모델, 출력 처리를 부품처럼 연결하게 해 주는 프레임워크입니다. 부품을 | 기호로 이어 붙이는 방법을 익힙니다.

다섯 가지 구성 요소

직접 해 보기

노트북 끝의 [실습]을 풉니다. 영어 문장을 넣으면 한국어로 번역하는 체인을 PromptTemplate, ChatOpenAI, StrOutputParser로 만들고 2회 이상 실행합니다. 먼저 직접 써 본 뒤 아래의 Solution과 비교합니다.

Streamlit은 파이썬 코드만으로 웹 화면을 만드는 도구입니다. 화면 하나를 띄워 보고, 대화를 기억하는 챗봇 화면까지 실행합니다.

1. 가장 단순한 화면

uv run streamlit run 03_Streamlit_app1.py

브라우저가 열리고 "간단한 챗봇"이라는 제목이 보입니다. 끝낼 때는 터미널에서 Ctrl + C를 누릅니다.

2. 직접 해 보기: 인사 앱으로 바꾸기

03_Streamlit_app1.py의 st.title 줄 아래에 두 줄을 추가하고 저장합니다. 브라우저에서 Rerun을 누르면 바로 반영됩니다.

name = st.text_input("당신의 이름을 입력하세요")
if name: st.write(f"안녕하세요, {name}님! 반갑습니다!")

3. 대화를 기억하는 챗봇

uv run streamlit run 04_Streamlit_app2.py

4단계에서 배운 프롬프트 템플릿, 모델, 메모리가 화면과 합쳐진 것입니다. 대화 주제를 고르고 메시지를 입력합니다.

RAG는 질문과 관련된 문서를 먼저 찾아 AI에게 함께 넘기는 방법입니다. 그 바탕이 되는 임베딩과 벡터DB 검색을 직접 실행합니다.

두 가지 개념

노트북의 순서

직접 해 보기

노트북 끝의 [실습]을 풉니다. 서울, 부산, 제주의 관광지 설명 3개를 벡터DB에 넣고, 질문에 맞는 관광지를 찾는 추천 시스템을 만듭니다. 먼저 직접 써 본 뒤 Solution과 비교합니다.

"바다가 보고 싶어"처럼 설명에 없는 단어로 물어도 부산이 나오는지 확인해 보세요. 단어가 아니라 뜻으로 찾는다는 것이 임베딩 검색의 핵심입니다.

지금까지 익힌 네 가지를 합치면 RAG 챗봇이 됩니다.

다음 실습에서는 공무원 여비 문서로 실제 챗봇을 만들고 배포합니다. 이번에는 코드를 직접 쓰지 않고 Codex에게 프롬프트로 맡깁니다.