Natural Language Processing with Deep Learning

• HV đã tham gia khóa “Machine learning with Python”  hoặc có kiến thức tương đương.
• HV muốn áp dụng AI/ Natural Language Processing vào công việc.
• HV có định hướng sẽ làm việc trong lĩnh vực Machine Learning/ AI/ Natural Language Processing.

Sau khi hoàn thành khóa học, học viên sẽ đạt được các kỹ năng:

• Tổng số giờ: 42 giờ - 56 tiết (5 tuần)
• Học phí: 5.800.000đ (có chế độ miễn giảm của mỗi khóa, xem chi tiết trong Thời Khóa Biểu)

• Tổng quan về Pytorch
  • Giới thiệu Pytorch và ứng dụng Pytorch trong Deep Learning.
  • Tensor, các phép toán Tensor và Gradient
  • Khái niệm cơ bản về các mô-đun Autograd, Optimization (tối ưu hóa) và Pytorch
  • Triển khai mạng Neural Network đơn giản trong Pytorch
• Machine learning và Deep learning with Pytorch
• Ứng dụng Pytorch giải một số bài toán với Machine Learning và Deep Learning
  • Hiện thực Linear Classification cho bài toán nhận dạng chữ viết tay
  • Hiện thực Neural Network cho bài toán nhận dạng chữ viết tay
• Sentiment Analysis với Logistic Regression và Naïve Bayes
  • Feature extraction từ văn bản sang numerical vector
  • Xây dựng bộ phân loại nhị phân cho các tweet bằng Logistic Regression
  • Tìm hiểu Định lý Bayes về xác suất có điều kiện
  • Phát triển bộ phân loại tweet Naïve Bayes
• N-gram Language Model và Continuous Bag-of-Words
  • Phát triển thuật toán auto-complete sử dụng N-gram language model
  • Hiện thực mô hình Word2Vec với Neural Network và Continuous Bag-Of-Words
• Mạng Neural Network trong Sentiment Analysis
  • Sử dụng các GloVe word embeddings để huấn luyện Neural Network
  • Phát triển bộ phân loại tweet thành các nhóm sentiment (quan điểm) tích cực hoặc tiêu cực
• Long Short-Term Memory và Named Entity Recognition
  • Tìm hiểu cách LSTM giải quyết vấn đề Vanishing Gradient.
  • Hiểu vai trò của Named Entity Recognition trong trích xuất thông tin cần thiết từ văn bản
  • Xây dựng hệ thống Named Entity Recognition dựa trên LSTM sử dụng dữ liệu Kaggle
• Transformer Architecture và Language Translation
  • Giới thiệu cấu trúc Transformer
  • So sánh mô hình RNN và Transformer cho sequence data
  • Triển khai mô hình Neural Machine Translation với Attention
  • Dịch câu tiếng Anh sang tiếng Việt bằng mô hình Transformer
• Giới thiệu về Generative AI và LLM
  • Tìm hiểu Generative AI và cách thức hoạt động của LLM
  • Hiểu sự đa dạng của LLM và các trường hợp sử dụng khác nhau
  • Hiểu cách chọn lựa mô hình, cách kiểm tra và đánh giá hiệu suất
• Mô hình BERT cho Question-Answering và Text Classification
  • Khám phá mô hình BERT cho các tác vụ trả lời câu hỏi và phân loại văn bản
  • Fine-tune BERT cho các ứng dụng trong các lĩnh vực cụ thể
  • Xây dựng mô hình Sentiment Analysis đa lớp
• Mô hình GPT và T5 cho Text Generation và các tác vụ NLP nâng cao
  • Tìm hiểu mô hình GPT để khởi tạo văn bản
  • Tìm hiểu mô hình T5 và các chức năng nâng cao cho NLP
  • Ứng dụng mô hình GPT và T5 vào các bài toán thực tế
• Giới thiệu về mô hình LLaMA
  • Tìm hiểu mô hình LLaMA và cách thức hoạt động
  • Tìm hiểu về mô hình LLaMA 1, LLaMA2 và LLaMA 3
  • Tìm hiểu kỹ thuật LoRA trong huấn luyện mô hình LLaMA
• Nền tảng Chatbot
  • Tìm hiểu về kiến trúc và nguyên tắc thiết kế chatbot
  • Kỹ thuật Dialogue Management, Natural Language Understanding, và Natural Language Generation
  • Đánh giá hiệu quả hoạt động của các mô hình chatbot và đưa ra các cải tiến
• Milestone project: Ứng dụng Chatbot
  • Thiết kế và triển khai chatbot sử dụng các kỹ thuật và mô hình NLP tiên tiến
  • Tích hợp chatbot vào giao diện người dùng hoặc nền tảng nhắn tin
  • Đánh giá hiệu suất của chatbot và cải tiến dựa trên phản hồi của người dùng

Học viên thi đạt kết quả cuối môn học sẽ được cấp chứng nhận "Natural Language Processing with Deep Learning - Xử lý ngôn ngữ tự nhiên với Học sâu" do Trung Tâm Tin Học - Trường ĐH Khoa Học Tự Nhiên cấp.