AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만드는 방법에 대해 알아보겠습니다. 이 애플리케이션을 사용하면 다음과 같은 작업을 수행할 수 있습니다. 공식 문서를 기반으로 답변을 제공하는 AI 기반 FAQ 챗봇을 구축하세요.가장 좋은 점은 코드를 한 줄도 작성할 필요가 없고, 개인 정보를 인터넷에 업로드할 필요도 없다는 것입니다.
AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 단계별로 만드는 방법
만들고 싶으신가요? 귀사를 위한 가상 비서이제 더 이상 데이터 개인정보를 침해하는 클라우드 서비스에 의존할 필요가 없습니다. 이 글에서는 AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만드는 방법을 알려드리겠습니다.
알고 보니… AnythingLLM 이는 최고의 플랫폼 중 하나로 자리매김했습니다. RAG 기법을 구현합니다. (검색 증강 생성 증강 검색 기반 생성(Augmented Generation by Retrieval)이라고도 하는 이 기술은 언어 모델(LLM)이 응답하기 전에 특정 지식 기반을 참조할 수 있도록 합니다. 이를 통해 AI가 정보를 조작할 위험 없이 더욱 정확한 응답을 얻을 수 있습니다. 관심 있으신가요? 단계별로 구현 방법을 살펴보겠습니다.
AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만들기 위한 요구 사항
시작하기 전에 다음 사항을 준비해 두는 것이 중요합니다. 먼저, 다음을 설치해야 합니다. AnythingLLM 애플리케이션의 서버 버전(Docker)또한 충분한 사양을 갖춘 컴퓨터가 필요합니다. 최소 8GB의 RAM이 필요하며, 로컬 언어 모델을 실행할 경우에는 16GB가 필요합니다.
그리고 물론, 당신은 다음을 가져야 합니다. 공식 질문과 답변 목록으로 정리된 파일 (PDF, Word, CSV, Markdown 또는 일반 텍스트). 이와 관련하여 궁금한 점이 있으면 해당 항목을 참조하세요. AnythingLLM을 처음 설정할 때 복잡함 없이 간편하게 설정하는 방법.
1단계: FAQ 문서 준비
AnythingLLM을 사용하여 자주 묻는 질문(FAQ)에 답변하는 챗봇을 만들려면 먼저 FAQ 파일을 준비해야 합니다. AI는 비정형 텍스트도 읽을 수 있지만, 정확한 답변을 얻으려면 잘 정리하는 것이 중요합니다.본문에 다음 내용이 포함되어 있는지 확인하십시오:
- 클리어 포맷제목(배송 정책, 반품 및 보증 등)이 있는 구조 또는 질문과 답변 쌍.
- 직접적인 언어원하는 어조로 AI가 사용자에게 응답하도록 설정하세요.
- 전체 맥락"서비스 이용료는 10달러입니다."와 같이 모호한 답변을 하는 대신, 전체적인 맥락을 포함하여 "기본 월간 구독료는 10달러입니다."와 같이 작성하세요.
2단계: 고객 서비스 FAQ 작업 공간 생성
AnythingLLM 내에서 정보는 워크스페이스로 구성됩니다. 각 워크스페이스는 자체 문서, 매개변수 및 AI 모델을 포함하는 독립적인 컨테이너 역할을 합니다. 워크스페이스를 생성하려면 다음을 클릭하세요. 새로운 작업 공간 앱의 왼쪽 사이드바에 있습니다. 명확한 이름을 붙여주세요예를 들어 고객 서비스 FAQ와 같은 것들입니다.
3단계: 질문 및 답변 파일을 업로드하고 준비하세요.
이 단계에서 우리가 할 일은 다음과 같습니다. FAQ 파일을 임베딩 또는 숫자 벡터로 변환합니다.이렇게 하면 내부 벡터 데이터베이스(예: LanceDB)에서 사용자 검색을 처리할 수 있습니다. 방법은 다음과 같습니다.
- 입력하세요 작업 공간 새로 생성되었습니다.
- 옵션을 클릭하세요 업로드.
- FAQ 파일을 선택하거나 인터페이스로 직접 드래그하세요.
- 패널 라이브러리에 로드되면 문서 확인란을 선택하고 클릭합니다. 워크스페이스로 이동.
- 이제 클릭하세요 저장 후 삽입앱은 파일을 여러 부분으로 나누고 검색 인덱스를 생성합니다.
4단계: AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 생성하도록 시스템 프롬프트를 구성합니다.
AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만들 때 네 번째 단계는 시스템 프롬프트를 구성하는 것입니다. 챗봇의 맥락, 성격, 규칙 및 한계를 정의합니다.여기서는 직원들이 귀사의 사업과 관련 없는 주제에 대해 이야기하는 것을 금지하고, 업로드된 문서에 근거해서만 답변하도록 지시할 수 있습니다.
워크스페이스에서 업로드 버튼 옆에 있는 버튼을 클릭합니다. 구성. 탭으로 이동하세요 채팅 설정 그리고 해당 섹션으로 내려가세요 시스템 프롬프트텍스트 필드에 다음과 같은 지침을 입력하세요.
"귀하는 (회사명)의 공식 고객 지원 가상 비서입니다. 귀하의 유일한 임무는 첨부된 FAQ 문서에 포함된 정보만을 사용하여 사용자 질문에 답변하는 것입니다. 친절하고 전문적이며 간결하고 직접적인 어조로 답변하십시오. 정보, 가격 또는 날짜를 허위로 기재하거나 문서에 명시적으로 언급되지 않은 사실을 추측해서는 안 됩니다. 사용자가 사용하는 동일한 언어를 사용하여 답변하십시오."
다음 칸에는, 쿼리 모드에서의 거부 응답사용자의 질문이 FAQ 파일에 없는 경우 챗봇이 어떻게 응답해야 하는지 메모해 두세요. 텍스트 필드에 다음과 같은 내용을 작성할 수 있습니다. "죄송합니다. 현재 해당 정보를 가지고 있지 않습니다. 고객 지원팀에 문의해 주시기 바랍니다." [이메일 보호됨].»
이 섹션의 마지막 필드는 다음과 같습니다. LLM 온도모델의 답변이 더욱 엄격해지고 창의성이 떨어지도록 최대 0.2로 줄이는 것이 가장 좋습니다. 이제 AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만들 준비가 거의 다 되었습니다.
5단계: 복구 프로세스 조정(RAG 설정)
AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만들 때 마지막으로 미세 조정 단계가 필요합니다. 작업 공간 설정에 있다면 벡터 데이터베이스 탭으로 이동하세요.
- 해당 섹션에서 맥스 컨텍스트 스니펫3~5개의 조각을 갖도록 구성하십시오. 이렇게 하면 모델이 질문에 답하기 위해 가장 관련성이 높은 정보만 분석할 수 있습니다.
- 다음 섹션은 다음과 같습니다. 문서 유사성 임계값거기서 필터를 '높음' 또는 0.7보다 큰 값으로 설정하세요. 이렇게 하면 챗봇이 사용자의 질문과 FAQ 내용 간에 높은 일치율을 요구해야만 답변할 수 있게 됩니다.
6단계: AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만들어 테스트합니다.
이렇게 하면 AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만들 수 있습니다. 하지만 챗봇을 배포하기 전에 몇 가지 점검을 하는 것이 좋습니다. 행동 테스트 앱의 채팅 인터페이스에서 직접 다음과 같은 질문을 할 수 있습니다.
- 정확히 일치함FAQ 문서에 있는 것과 동일한 표현을 사용하여 질문을 하세요. 예시: 주문한 상품이 도착하는 데 얼마나 걸리나요? 답이 100% 일치하는지 확인하세요.
- 다음과 같이 표현하세요 같은 질문이지만 표현이 다릅니다.. 예: "오늘 구매하면 언제 배송되나요?" RAG 시스템은 올바른 조각을 검색하고 적절하게 응답해야 합니다.
- 또한 문서에 없는 질문을 하세요.예를 들어 "초콜릿 케이크 레시피는 무엇인가요?"와 같은 질문입니다. 모든 것이 정상이라면 챗봇은 프롬프트 규칙을 활성화하여 사용자를 지원 이메일 주소로 안내합니다.
7단계: 웹사이트에 챗봇 위젯을 게시합니다.
AnythingLLM을 사용하여 자주 묻는 질문에 답변하는 챗봇을 만들고 테스트한 후에는 다음 단계로 넘어갈 준비가 되었습니다. 배포하세요. 이 단계 또한 간단합니다.
- 가세요 구성 워크스페이스에서 옵션을 입력하세요. 임베더블 채팅 위젯.
- 체크박스를 선택하세요 위젯 활성화.
- 허용된 도메인을 구성하여 승인되지 않은 사이트가 서버를 사용하지 못하도록 하세요.
- 코드를 복사하세요
<script>생성 후 레이블에 삽입합니다.<head>또는 마개 라벨 이전<\body>웹사이트(워드프레스, 쇼피파이 등)의 종류.
이게 전부입니다! AnythingLLM을 사용하면 자주 묻는 질문에 답변하는 챗봇을 아주 쉽게 만들 수 있습니다. 이는 언어 모델의 강력한 기능과 RAG 기법을 결합한 것입니다. 직관적인 인터페이스를 통해 단 몇 분 만에 귀사의 문서를 기반으로 전문적인 비즈니스 이미지를 구축하고 배포할 수 있는 가상 비서를 만들 수 있습니다.
어릴 적부터 과학과 기술, 특히 우리 삶을 더 편리하고 즐겁게 만들어주는 기술 발전에 매료되었습니다. 최신 뉴스와 트렌드를 파악하고, 제가 사용하는 기기들에 대한 경험, 의견, 팁을 공유하는 것을 좋아합니다. 이러한 관심 덕분에 5년 전부터 웹 작가가 되었고, 주로 안드로이드 기기와 윈도우 운영체제에 초점을 맞춰 글을 쓰고 있습니다. 복잡한 개념도 독자들이 쉽게 이해할 수 있도록 간결하게 설명하는 능력을 키워왔습니다.