Khám phá RAG - Hướng dẫn xây dựng chatbot với RAG

1. Giới thiệu về RAG

1. Truy xuất dữ liệu (Retrieval): Khi nhận được câu hỏi, hệ thống RAG sẽ tìm kiếm thông tin liên quan từ các nguồn dữ liệu. Các nguồn này có thể là dữ liệu liên quan đến công ty hay là dữ liệu chăm sóc khách hàng. Quá trình truy xuất này giống như việc chúng ta sử dụng từ khóa để tìm kiếm thông tin trên Google.  
2. Tạo sinh (Generation): Sau khi đã thu thập đủ thông tin, RAG sẽ sử dụng một mô hình ngôn ngữ lớn (LLM) để tạo ra câu trả lời hoàn chỉnh và dễ hiểu. LLM đóng vai trò như một "tư vấn viên" tài ba, sử dụng thông tin đã truy xuất để viết nên câu trả lời phù hợp với câu hỏi của chúng ta.  

2. Kiến trúc ứng dụng RAG 

3. Xây dựng Chatbot với RAG 

3.1. LangChain

3.2. Xây dựng Chatbot đơn giản với RAG

!pip install -qU \

      python-dotenv \

      langchain \

      langchain_openai \

      langchain_community \

      langchain-huggingface \

      langchain-google-genai \

      streamlit \

      faiss-cpu \

      sentence-transformers \

      pypdf \

      docx2txt

#Tải dữ liệu từ folder (.txt)

from langchain_community.document_loaders import DirectoryLoader, TextLoader

file_path = "/content/drive/MyDrive/Cam_nang_txt"

loader = DirectoryLoader(

        file_path,

        glob="*.txt",

        loader_cls=TextLoader

    )

docs = loader.load()

from langchain_text_splitters.character import  RecursiveCharacterTextSplitter

from langchain_community.vectorstores import FAISS

from langchain_huggingface import HuggingFaceEmbeddings

 

text_splitter = RecursiveCharacterTextSplitter(

      chunk_size=1200,

      chunk_overlap=200

)

doc_chunks = text_splitter.split_documents(docs)

#Embedding các chunks này và đưa vào vector store

embeddings = HuggingFaceEmbeddings()

vectordb = FAISS.from_documents(doc_chunks, embeddings)

# Lưu vector store

vectordb.save_local("index")

from langchain.memory import ConversationBufferMemory

from langchain.chains import ConversationalRetrievalChain

from langchain_google_genai import ChatGoogleGenerativeAI

 

llm = ChatGoogleGenerativeAI(model="gemini-1.5-pro")

retriever = vectordb.as_retriever(

        search_kwargs={

                  "k": 2, # số lượng kết quả của truy vấn trả về

    }

    )

memory = ConversationBufferMemory(

        llm=llm,

        output_key="answer",

        memory_key="chat_history",

        return_messages=True

    )

chain = ConversationalRetrievalChain.from_llm(

        llm=llm,

        retriever=retriever,

        chain_type="map_reduce",

        memory=memory,

        verbose=True

    )

memory.clear()  

while True:

    user_input = input("user: ")

    if user_input.lower() == "exit":

        break

 

    response = chain({"question": user_input, "chat_history": memory.chat_memory.messages})

    assistant_response = response["answer"]

 

    print("assistant: ", assistant_response)

4. Những vấn đề cần giải quyết khi áp dụng RAG trong thực tế

5. Kết luận