Môn học mới
Natural Language Processing with Deep Learning

  • Khóa học này mang đến cho học viên những kiến thức cần thiết về Xử lý Ngôn ngữ Tự nhiên (Natural Language Processing - NLP), một lĩnh vực đang rất thu hút sự quan tâm trong ngành Học máy (Machine Learning). Học viên sẽ được trang bị các kỹ năng áp dụng các thuật toán NLP quan trọng như Phân tích tình cảm (Sentiment Analysis), Dịch máy (Machine Translation), Tìm kiếm tài liệu (Document Search), Tự động sửa lỗi chính tả (Auto-correct), Gán nhãn từ loại (Part-of-Speech Tagging), N-gram Language, Continuous Bag-of-Words, BERT, GPT, thông qua việc sử dụng các thư viện và công cụ mạnh mẽ, mã nguồn mở, chẳng hạn như Pytorch, Huggingface Accelerate. 
  • Khóa học cũng giúp học viên tìm hiểu về AI tạo sinh (Generative AI) và cách thức hoạt động của các mô hình ngôn ngữ lớn (Large Language Model - LLM). Học viên sẽ được giới thiệu về mô hình LLM của Meta AI (LLaMA) và cách thức hoạt động của nó. Đồng thời, khóa học sẽ cung cấp thông tin về các phiên bản LLaMA cũng như kỹ thuật LoRA trong quá trình huấn luyện mô hình. 
  • Học viên sẽ phát triển các ứng dụng NLP tiên tiến và thiết thực như chatbot, hệ thống tìm kiếm tài liệu, tự động hóa sửa lỗi chính tả, dịch thuật, tự động sửa lỗi ngữ pháp, phân loại thông tin từ văn bản, cũng như xây dựng hệ thống trả lời câu hỏi và chatbot đầy đủ tính năng. 
  • Khóa học còn là cơ hội để mở rộng hiểu biết về lĩnh vực NLP và học cách ứng dụng những kiến thức thu được để giải quyết các vấn đề thực tiễn trong cuộc sống và công việc. Đây sẽ là nền tảng vững chắc để học viên có thể tiếp tục khám phá và áp dụng những nghiên cứu mới nhất trong lĩnh vực NLP, từ đó xử lý các vấn đề một cách hiệu quả và sáng tạo.
  • HV đã tham gia khóa “Machine learning with Python”  hoặc có kiến thức tương đương.
  • HV muốn áp dụng AI/ Natural Language Processing vào công việc.
  • HV có định hướng sẽ làm việc trong lĩnh vực Machine Learning/ AI/ Natural Language Processing.
 

Sau khi hoàn thành khóa học, học viên sẽ đạt được các kỹ năng:

  • Hiểu và ứng dụng được các khái niệm và kỹ thuật trong PyTorch để xây dựng, huấn luyện, và triển khai các mô hình Deep Learning và NLP;
  • Xử lý và biến đổi dữ liệu ngôn ngữ tự nhiên thành dạng số để phục vụ cho việc huấn luyện mô hình;
  • Xây dựng và tối ưu hóa các mô hình cho các tác vụ NLP như phân loại văn bản, dự đoán cảm xúc, và dịch máy… sử dụng các kỹ thuật như Neural Networks, LSTM, và Transformer, Sentiment Analysis, Machine Translation, và Named Entity Recognition…
  • Trải nghiệm thực tế với các mô hình NLP hiện đại như BERT, GPT và T5.
  • Hiểu rõ về Generative AI và cách thức hoạt động của các mô hình ngôn ngữ lớn (LLM);
  • Hểu về mô hình LLaMA và các phiên bản hiện có cùng với kỹ thuật LoRA trong huấn luyện mô hình;
  • Triển khai ứng dụng Chatbot đủ tính năng như: AI hội thoại, trích xuất thông tin hay khởi tạo ngôn ngữ tự nhiên.
  • Tư duy và triển khai các ứng dụng NLP áp dụng các kiến thức và kỹ năng được học mình vào nhiều vấn đề thực tế một cách phù hợp dựa trên yêu cầu công việc.
  • Cập nhật các nghiên cứu hay đột phá mới nhất về NLP hoặc thực hiện các dự án của riêng mình để phát triển các giải pháp tùy chỉnh phù hợp với nhu cầu.
 

 

  • Tổng số giờ: 42 giờ - 56 tiết (5 tuần)
  • Học phí: 5.800.000đ (có chế độ miễn giảm của mỗi khóa, xem chi tiết trong Thời Khóa Biểu)
  • Tổng quan về Pytorch
    • Giới thiệu Pytorch và ứng dụng Pytorch trong Deep Learning.
    • Tensor, các phép toán Tensor và Gradient
    • Khái niệm cơ bản về các mô-đun Autograd, Optimization (tối ưu hóa) và Pytorch
    • Triển khai mạng Neural Network đơn giản trong Pytorch
  • Machine learning và Deep learning with Pytorch
  • Ứng dụng Pytorch giải một số bài toán với Machine Learning và Deep Learning
    • Hiện thực Linear Classification cho bài toán nhận dạng chữ viết tay
    • Hiện thực Neural Network cho bài toán nhận dạng chữ viết tay
  • Sentiment Analysis với Logistic Regression và Naïve Bayes
    • Feature extraction từ văn bản sang numerical vector
    • Xây dựng bộ phân loại nhị phân cho các tweet bằng Logistic Regression
    • Tìm hiểu Định lý Bayes về xác suất có điều kiện
    • Phát triển bộ phân loại tweet Naïve Bayes
  • N-gram Language Model và Continuous Bag-of-Words
    • Phát triển thuật toán auto-complete sử dụng N-gram language model
    • Hiện thực mô hình Word2Vec với Neural Network và Continuous Bag-Of-Words
  • Mạng Neural Network trong Sentiment Analysis
    • Sử dụng các GloVe word embeddings để huấn luyện Neural Network
    • Phát triển bộ phân loại tweet thành các nhóm sentiment (quan điểm) tích cực hoặc tiêu cực
  • Long Short-Term Memory và Named Entity Recognition
    • Tìm hiểu cách LSTM giải quyết vấn đề Vanishing Gradient.
    • Hiểu vai trò của Named Entity Recognition trong trích xuất thông tin cần thiết từ văn bản
    • Xây dựng hệ thống Named Entity Recognition dựa trên LSTM sử dụng dữ liệu Kaggle
  • Transformer Architecture và Language Translation
    • Giới thiệu cấu trúc Transformer
    • So sánh mô hình RNN và Transformer cho sequence data
    • Triển khai mô hình Neural Machine Translation với Attention
    • Dịch câu tiếng Anh sang tiếng Việt bằng mô hình Transformer
  • Giới thiệu về Generative AI và LLM
    • Tìm hiểu Generative AI và cách thức hoạt động của LLM
    • Hiểu sự đa dạng của LLM và các trường hợp sử dụng khác nhau
    • Hiểu cách chọn lựa mô hình, cách kiểm tra và đánh giá hiệu suất
  • Mô hình BERT cho Question-Answering và Text Classification
    • Khám phá mô hình BERT cho các tác vụ trả lời câu hỏi và phân loại văn bản
    • Fine-tune BERT cho các ứng dụng trong các lĩnh vực cụ thể
    • Xây dựng mô hình Sentiment Analysis đa lớp
  • Mô hình GPT và T5 cho Text Generation và các tác vụ NLP nâng cao
    • Tìm hiểu mô hình GPT để khởi tạo văn bản
    • Tìm hiểu mô hình T5 và các chức năng nâng cao cho NLP
    • Ứng dụng mô hình GPT và T5 vào các bài toán thực tế
  • Giới thiệu về mô hình LLaMA
    • Tìm hiểu mô hình LLaMA và cách thức hoạt động
    • Tìm hiểu về mô hình LLaMA 1, LLaMA2 và LLaMA 3
    • Tìm hiểu kỹ thuật LoRA trong huấn luyện mô hình LLaMA
  • Nền tảng Chatbot
    • Tìm hiểu về kiến trúc và nguyên tắc thiết kế chatbot
    • Kỹ thuật Dialogue Management, Natural Language Understanding, và Natural Language Generation
    • Đánh giá hiệu quả hoạt động của các mô hình chatbot và đưa ra các cải tiến
  • Milestone project: Ứng dụng Chatbot
    • Thiết kế và triển khai chatbot sử dụng các kỹ thuật và mô hình NLP tiên tiến
    • Tích hợp chatbot vào giao diện người dùng hoặc nền tảng nhắn tin
    • Đánh giá hiệu suất của chatbot và cải tiến dựa trên phản hồi của người dùng
 
 

Học viên thi đạt kết quả cuối môn học sẽ được cấp chứng nhận "Natural Language Processing with Deep Learning - Xử lý ngôn ngữ tự nhiên với Học sâu" do Trung Tâm Tin Học - Trường ĐH Khoa Học Tự Nhiên cấp.

 
LỊCH KHAI GIẢNG Xem thêm
Môn học mới

Học phí: 5.800.000đ - Nhận ƯU ĐÃI HỌC PHÍ khi ghi danh online + hoàn tất ​đến ngày 11/07/2025

LớpThời gianNgày khai giảngĐịa điểm học 
MD83_305S7N4_ONThứ 4 (18.00 - 21.00) & Thứ 7 + Chủ Nhật (08.00 - 11.30)16/07/2025OnlineĐăng ký
ai
Trung Tâm Tin Học
ai
Trung Tâm Tin Học
Chào mừng bạn đến với Trung Tâm Tin Học.
Bạn đang cần hỗ trợ thông tin gì ạ? Hãy Chat ngay với chúng tôi nhé.