Lập trình LLM cơ bản với Python

• Sinh viên, lập trình viên muốn nắm vững nền tảng lập trình GenAI/LLM để hiện thực hóa ý tưởng của mình.
• Data Scientists/Data Analysts muốn cập nhật công nghệ GenAI/LLM
• Bất kỳ ai muốn tìm hiểu và lập trình ứng dụng LLM vào thực tế.
• Yêu cầu đầu vào: Học viên có kiến thức về Lập trình Python cơ bản

• Tổng số giờ: 30 giờ (5 tuần), học trực tiếp trên máy
• Học phí:  3.500.000đ

Sau khi hoàn thành khóa học, bạn sẽ:

• Hiểu rõ bản chất, cơ chế hoạt động và giới hạn của LLM.
• Hiểu rõ cách các hệ thống LLM “đọc - hiểu” ngữ nghĩa văn bản.
• Nắm vững kỹ thuật Prompt Engineering từ cơ bản đến nâng cao (CoT, ReAct)
• Xây dựng được ứng dụng LLM hoàn chỉnh kết nối với API và các mô hình Open-source
• Xây dựng Chatbot thông minh trên dữ liệu riêng (ứng dụng kỹ thuật RAG)

1. Tư duy bất định và bài toán LLM

• Sự khác biệt giữa lập trình truyền thống (Deterministic) và AI (Probabilistic)
• Cơ chế dự đoán “từ” tiếp theo trong LLM
• Hiện tượng Hallucination (Ảo giác)
• Các loại sai lệch phổ biến trong phản hồi của LLM
• Thách thức đối với ứng dụng LLM

2. Cách biểu diễn thông tin và so sánh ngữ nghĩa

• Cách LLM tokenize thông tin
• Cách biểu diễn ngữ nghĩa trong không gian vector (Vector Embeddings)
• Các phép toán vector trong biểu diễn và xử lý ngữ nghĩa
• Chuẩn hóa vector và Cosine Similarity

3. LLM và các thuật ngữ cơ bản

• Context Window và cơ chế quản lý ngữ cảnh của LLM
• Completion và Chat-based LLM
• Các loại message trong LLM chat
• Các tham số điều khiển tính ngẫu nhiên (Temperature, Top-p, Top-k,…)
• Chi phí và các yếu tố kỹ thuật

4. Prompt Engineering

• Vai trò của prompt trong ứng dụng LLM
• Cấu trúc một Prompt chuẩn
• Các kỹ thuật Prompt Engineering phổ biến
• Rủi ro bảo mật thông qua Prompt Leakage & Injection.

5. Kiến trúc tối thiểu của ứng dụng LLM

• Mô hình Giao diện - Lớp Điều phối - LLM
• LLM – Bộ não trung tâm
• Lớp Giao diện – Kênh “giao tiếp” với người dùng
• Lớp Điều phối – Kết nối và tương tác với LLM

6 . Thiết kế và điều phối hệ thống LLM

• Hệ sinh thái LLM
• Điều chỉnh “hành vi” của LLM
• Quản lý ngữ cảnh hội thoại trong ứng dụng LLM
• Kiểm soát chu trình Lý luận - Hành động với Function Calling
• Lớp Điều phối - Trung tâm điều khiển của ứng dụng LLM

7 . RAG - Kỹ thuật "mở rộng" tri thức cho LLM

• Đặc điểm của tri thức nội tại trong LLM
• Tổng quan về RAG
• Quy trình kỹ thuật RAG
• Các lưu ý cần chú ý trong RAG

• Kiểm thử và đánh giá ứng dụng RAG

• Học viên thi đạt sẽ được cấp chứng nhận “Lập trình LLM cơ bản với Python” do Trung Tâm Tin Học – Trường Đại học Khoa Học Tự Nhiên cấp