Dify 챗봇 만들기 를 통해 Dify 의 전반적인 사용법을 알아보자.
이전 글에서 Dify를 온프레미스 환경에 성공적으로 설치했다면, 이제 실제로 챗봇을 만들어볼 차례다.
이 글에서는 Dify에서 챗봇 앱을 생성하고, 문서 업로드 및 API 테스트를 통해 RAG 기반 챗봇이 어떻게 작동하는지를 확인해본다.
1. 워크스페이스와 App 생성
Dify에 로그인하면 기본 워크스페이스가 생성되어 있다.
여기서 새로운 App을 만들어야 한다.
- 좌측 메뉴에서 Apps 클릭
- Create App 버튼 클릭
- 이름, 설명, 언어 등 기본 정보 입력 (예:
Internal Q&A Bot) - App 유형 선택: Chat App
생성 후 설정 화면으로 자동 이동된다.
채팅 플로우 앱 생성
모델 제공자 설치 & 모델 api 키 설정
2. 문서 업로드 (데이터 소스 설정)
RAG 기반 챗봇은 사내 문서 등 텍스트 데이터를 기반으로 응답을 생성한다.
- App 내 Datasets 탭 이동
- Upload Files 클릭 후 PDF, Markdown, 텍스트 파일 업로드
- 데이터 파싱 및 인덱싱 확인 (Qdrant 또는 Weaviate 연동 필요)
3. LLM 및 지식베이스 설정
Configuration > Model Provider 메뉴에서 사용할 LLM을 선택한다.
- OpenAI (gpt-4, gpt-3.5) 또는 사설 API 연동 가능
- Temperature, Max tokens, System Prompt 등도 설정 가능
4. API 테스트
App을 만들면 자동으로 API 엔드포인트가 생성된다.
OpenAPI 문서도 함께 제공되므로 쉽게 테스트할 수 있다.
예시: curl로 API 호출
curl -X POST http://localhost:5000/v1/chat-messages \
-H "Authorization: Bearer <YOUR_API_KEY>" \
-H "Content-Type: application/json" \
-d '{
"inputs": {},
"query": "dify 오픈소스에대해 간단하게 설명해줘",
"conversation_id": "test-conv-1"
}'
응답 결과에는 챗봇의 답변, 참조된 문서의 위치 등도 함께 포함된다.
5. Web UI에서 테스트
Apps > [내 App] > Preview 탭에서 실제로 대화를 시뮬레이션할 수 있다.
업로드한 문서를 기반으로 질문을 던져보고, 응답 품질을 확인해본다.
6. 응답 품질 개선 팁
| 방법 | 설명 |
|---|---|
| System Prompt 커스터마이징 | 챗봇의 말투, 문체, 태도를 정의 가능 |
| 문서 전처리 | 너무 긴 문서는 나누거나 요약 후 업로드 |
| 유사도 임계값 조정 | 유사한 문서만 추출되도록 Vector DB 설정 확인 |
이 글에서는 Dify에서 App을 만들고 챗봇을 구성하는 전체 과정을 실습했다.
기본적인 API 연동과 웹 테스트를 통해 실제 사내용 챗봇의 가능성을 체감할 수 있을 것이다.
다음 글에서는 이 챗봇에 사내 문서를 연동하고, RAG 전략을 더욱 고도화하는 방법을 살펴본다.