Khóa học đã chọn

6 nhóm kỹ năng cốt lõi để trở thành AI Engineer

ngày 27-08-2026

AI Engineering không chỉ là sử dụng API của một mô hình ngôn ngữ lớn hay xây dựng một chatbot có khả năng trả lời câu hỏi. Công việc của AI Engineer là kết hợp mô hình, dữ liệu, phần mềm và hạ tầng để tạo ra những ứng dụng AI hữu ích, có thể đánh giá, triển khai và vận hành trong thực tế.

Theo AI Engineering Skills Map được Giáo sư Andrew Ng chia sẻ, năng lực của một AI Engineer có thể được nhìn nhận qua bốn nhóm lớn:

Xây dựng và triển khai ứng dụng AI.
Nắm vững nền tảng kỹ thuật phần mềm.
Sử dụng coding agent hiệu quả.
Định hình quá trình xây dựng sản phẩm.

Trong đó, nhóm Xây dựng và triển khai ứng dụng AI bao gồm sáu mảng kiến thức quan trọng:

Nền tảng LLM.
Grounding mô hình bằng dữ liệu.
Xây dựng hệ thống Agentic.
Phát triển dựa trên đánh giá.
Vận hành hệ thống trong môi trường production.
Nền tảng Machine Learning.

Vì sao phát triển ứng dụng AI khác phần mềm truyền thống?

Trong phần mềm truyền thống, lập trình viên thường xác định khá rõ đầu ra tương ứng với từng đầu vào. Khi chương trình được xây dựng đúng logic, kết quả có thể được kiểm thử bằng những điều kiện cụ thể.

Ứng dụng AI có mức độ bất định cao hơn. Chúng ta khó biết trước chính xác một mô hình ngôn ngữ lớn sẽ tạo ra câu trả lời nào. Một mô hình Machine Learning cũng có thể đưa ra dự đoán chưa chính xác khi gặp dữ liệu khác với dữ liệu huấn luyện hoặc bối cảnh vận hành thay đổi.

Vì vậy, xây dựng hệ thống AI thường là một quá trình lặp:

Xây dựng → Quan sát → Đánh giá → Phân tích lỗi → Điều chỉnh → Thử nghiệm lại.

AI Engineer không chỉ cần biết lập trình mà còn phải biết quan sát kết quả, tìm nguyên nhân sai lệch và lựa chọn bước cải tiến phù hợp. Đây là năng lực giúp tạo ra một hệ thống đáng tin cậy từ những thành phần AI vốn không hoàn toàn có thể dự đoán.

1. Nắm vững nền tảng LLM

Hiểu cách mô hình ngôn ngữ lớn tiếp nhận đầu vào và sinh kết quả là nền tảng quan trọng khi phát triển ứng dụng AI.

AI Engineer cần hiểu các khái niệm như:

Token và tokenization.
Context window và giới hạn ngữ cảnh.
Knowledge cutoff.
Temperature, top-p và các tham số ảnh hưởng đến kết quả.
Structured output.
Tool Calling và Function Calling.
Mô hình đa phương thức.
Chi phí và độ trễ khi gọi mô hình.

Những kiến thức này giúp người phát triển biết khi nào có thể sử dụng trực tiếp kết quả của mô hình, khi nào cần bổ sung dữ liệu, công cụ hoặc cơ chế kiểm tra.

Không phải lúc nào mô hình lớn nhất cũng là lựa chọn tốt nhất. Trong một hệ thống thực tế, tác vụ đơn giản có thể được xử lý bằng mô hình nhỏ để tiết kiệm chi phí và giảm độ trễ; những tác vụ cần suy luận phức tạp mới được chuyển đến mô hình mạnh hơn.

Hiểu nền tảng LLM vì thế không chỉ giúp cải thiện chất lượng câu trả lời mà còn hỗ trợ lựa chọn mô hình phù hợp với yêu cầu về hiệu năng, chi phí và bảo mật.

2. Grounding mô hình bằng dữ liệu

LLM có thể tạo ra câu trả lời trôi chảy nhưng không phải lúc nào cũng chính xác hoặc cập nhật. Để mô hình đưa ra kết quả phù hợp với một tổ chức hoặc bài toán cụ thể, hệ thống cần cung cấp đúng dữ liệu và ngữ cảnh.

Quá trình này thường được gọi là **grounding mô hình bằng dữ liệu**.

RAG kết hợp với vector search là một phương pháp phổ biến. Hệ thống tìm kiếm những nội dung liên quan trong nguồn dữ liệu riêng, sau đó đưa chúng vào ngữ cảnh để LLM tạo câu trả lời.

Tuy nhiên, grounding không chỉ là đưa tài liệu vào vector database. AI Engineer còn phải xác định:

Thông tin nào nên được đưa trực tiếp vào prompt.
Thông tin nào chỉ nên truy xuất khi cần.
Khi nào nên sử dụng vector search.
Khi nào nên truy vấn cơ sở dữ liệu hoặc API.
Cách kết nối mô hình với hệ thống nghiệp vụ.
Cách bảo đảm quyền truy cập dữ liệu.

Dữ liệu đầu vào có thể tồn tại dưới nhiều dạng như PDF, DOCX, HTML, bảng dữ liệu, hình ảnh hoặc dữ liệu lấy từ API. Trước khi sử dụng, dữ liệu cần được thu thập, trích xuất, làm sạch, chia nhỏ và tổ chức phù hợp.

Một hệ thống grounding tốt cần bảo đảm dữ liệu chính xác, được cập nhật, có nguồn gốc rõ ràng và được phân quyền phù hợp. Chất lượng kết quả của LLM phụ thuộc rất lớn vào chất lượng context mà hệ thống cung cấp.

3. Xây dựng hệ thống AI Agent

Một AI Agent không chỉ tạo câu trả lời mà còn có thể sử dụng công cụ, truy xuất dữ liệu, thực hiện hành động và lựa chọn bước tiếp theo để hoàn thành nhiệm vụ.

Hệ thống Agentic có thể được triển khai ở nhiều mức độ. Ở mức đơn giản, hệ thống thực hiện một workflow đã được định nghĩa trước. Ở mức cao hơn, agent có thể quan sát kết quả trung gian và tự quyết định hành động tiếp theo trong phạm vi được cho phép.

Khi thiết kế hệ thống, AI Engineer phải xác định:

Bước nào nên thực hiện tuần tự.
Bước nào có thể chạy song song.
Khi nào nên xử lý bằng code.
Khi nào nên giao cho LLM.
Agent được phép sử dụng những công cụ nào.
Cách quản lý context và memory.
Khi nào cần con người xác nhận.
Cách xử lý khi một bước thất bại.

Đối với những bài toán phức tạp, nhiều agent có thể được tổ chức theo các vai trò khác nhau. Tuy nhiên, multi-agent không phải lúc nào cũng tốt hơn single-agent. Việc lựa chọn kiến trúc cần dựa trên độ phức tạp của nhiệm vụ, khả năng kiểm soát, chi phí và mức độ rủi ro.

Một prototype hoạt động tốt trong môi trường thử nghiệm cũng chưa chắc đủ an toàn để đưa vào sử dụng thực tế. Hệ thống cần có cơ chế phân quyền, kiểm soát hành động và bảo vệ trước các rủi ro như Prompt Injection, truy cập công cụ vượt quyền hoặc rò rỉ dữ liệu.

4. Phát triển dựa trên đánh giá

Với phần mềm truyền thống, nhiều chức năng có thể được kiểm thử bằng kết quả đúng hoặc sai. Đối với AI, câu trả lời có thể đúng một phần, chưa đầy đủ hoặc phù hợp trong bối cảnh này nhưng không phù hợp trong bối cảnh khác.

Do đó, hệ thống AI cần được phát triển dựa trên một quy trình đánh giá có hệ thống, thường được gọi là Evaluation-driven Development.

Quy trình này có thể gồm:

Thu thập các tình huống sử dụng thực tế.
Xây dựng tập dữ liệu đánh giá.
Chạy hệ thống và ghi nhận kết quả.
Phân tích các trường hợp chưa đạt.
Điều chỉnh dữ liệu, prompt, mô hình hoặc workflow.
Đánh giá lại trên cùng bộ tiêu chí.

Tùy từng bài toán, quá trình đánh giá có thể kết hợp:

Kiểm tra tự động bằng code.
Các chỉ số thống kê.
Mô hình AI hỗ trợ đánh giá.
Đánh giá của chuyên gia hoặc người dùng.
Human-in-the-loop đối với quyết định có rủi ro.

Ví dụ, chatbot tư vấn tuyển sinh có thể được đánh giá dựa trên độ chính xác của thông tin, khả năng trích dẫn nguồn, mức độ phù hợp của câu trả lời và tỷ lệ chuyển tiếp cho nhân viên khi gặp câu hỏi ngoài phạm vi.

Phát triển dựa trên đánh giá giúp đội ngũ cải tiến hệ thống bằng dữ liệu thay vì chỉ điều chỉnh theo cảm nhận.

5. Vận hành hệ thống AI trong production

Một ứng dụng AI chỉ thực sự tạo ra giá trị khi có thể vận hành ổn định trong môi trường thực tế.

So với phần mềm truyền thống, hệ thống AI cần được theo dõi thêm ba yếu tố quan trọng:

Chất lượng đầu ra.
Chi phí vận hành.
Độ trễ khi xử lý.

Đội ngũ phát triển cần giám sát:

Tỷ lệ hoàn thành nhiệm vụ.
Chất lượng câu trả lời hoặc dự đoán.
Thời gian xử lý của từng bước.
Số lượng token và chi phí sử dụng.
Lỗi khi gọi mô hình hoặc công cụ.
Dấu hiệu suy giảm chất lượng theo thời gian.
Các hành vi bất thường và rủi ro bảo mật.

Bên cạnh đó, AI Engineer cần biết cách đóng gói ứng dụng, quản lý phiên bản, tự động hóa kiểm thử và phát hành bằng những công cụ như Docker và CI/CD.

Tùy yêu cầu của tổ chức, mô hình có thể được sử dụng qua Cloud API, triển khai trên hạ tầng tự quản lý hoặc vận hành on-premise đối với những trường hợp dữ liệu không được phép rời khỏi hệ thống nội bộ.

Mục tiêu không phải là xây dựng kiến trúc phức tạp nhất, mà là lựa chọn phương án đơn giản và phù hợp nhất để đáp ứng yêu cầu về chất lượng, bảo mật, tốc độ và chi phí.

6. Nền tảng Machine Learning

Sự phát triển của LLM không làm cho kiến thức Machine Learning trở nên lỗi thời. Đây vẫn là nền tảng giúp kỹ sư hiểu cách mô hình học, dự đoán và mắc lỗi.

AI Engineer cần nắm được:

Học có giám sát và không giám sát.
Dữ liệu train, validation và test.
Overfitting và underfitting.
Precision, recall, F1-score và confusion matrix.
Các yếu tố ảnh hưởng đến độ chính xác.
Quy trình chuẩn bị dữ liệu và đánh giá mô hình.
Nền tảng Deep Learning, Attention và Transformer.

Bên cạnh LLM, nhiều ứng dụng thực tế vẫn cần các mô hình Machine Learning chuyên biệt để phân loại, dự báo, phát hiện bất thường, xử lý hình ảnh hoặc xếp hạng kết quả.

Những khái niệm như bias, variance và error analysis giúp kỹ sư xác định vấn đề nằm ở dữ liệu, mô hình, phương pháp đánh giá hay kiến trúc của toàn hệ thống.

Kỹ thuật phần mềm là nền móng xuyên suốt

Sáu nhóm kỹ năng trên không thể tách rời nền tảng lập trình và kỹ thuật phần mềm.

Để biến một ý tưởng AI thành sản phẩm có thể sử dụng, người học còn cần biết:

Lập trình Python.
Làm việc với Git và GitHub.
Đọc và sử dụng API.
Xây dựng frontend và backend.
Thiết kế, kiểm thử và bảo mật ứng dụng.
Sử dụng coding agent nhưng vẫn kiểm tra được mã do AI tạo ra.
Đóng gói và triển khai sản phẩm.

Coding agent có thể hỗ trợ sinh code, sửa lỗi và tạo test case, nhưng người phát triển vẫn phải hiểu logic chương trình, đọc được mã và chịu trách nhiệm về kết quả cuối cùng.

Lộ trình phát triển năng lực AI Engineering

Các nhóm kỹ năng trên cho thấy AI Engineering là một lĩnh vực liên ngành. Người học cần kết hợp lập trình, dữ liệu, LLM, AI Agent, Machine Learning và vận hành hệ thống thay vì chỉ tập trung vào một công cụ riêng lẻ.

Để hỗ trợ người học phát triển các năng lực này theo một lộ trình có hệ thống, Trung tâm Tin học – Trường Đại học Khoa học Tự nhiên xây dựng chương trình Chuyên viên AI Engineering gồm 10 môn học với tổng thời lượng 362 giờ.

Lộ trình bao phủ:

Tư duy lập trình với Python.
Kỹ thuật lập trình cho ứng dụng AI.
Kỹ thuật dữ liệu cho hệ thống AI.
Lập trình AI và xây dựng RAG.
Phát triển ứng dụng Web AI.
AI Agent và Multi-agent.
Machine Learning, Deep Learning và Transformer.
Tích hợp, triển khai và vận hành hệ thống AI.
Đồ án tốt nghiệp.

Học viên từng bước xây dựng năng lực từ lập trình, xử lý dữ liệu và sử dụng mô hình đến phát triển AI Agent, triển khai ứng dụng, giám sát chất lượng và phân tích chi phí vận hành.

Kết thúc chương trình, học viên hoàn thiện một sản phẩm AI có kiến trúc rõ ràng, được triển khai và đánh giá bằng các số liệu về chất lượng, hiệu năng và chi phí. Đây cũng là cơ sở để người học xây dựng hồ sơ năng lực và chuẩn bị cho các vị trí liên quan đến AI Engineering.

Chương trình phù hợp với người đã có định hướng phát triển ứng dụng AI, lập trình viên hoặc AI Developer muốn tiến đến vai trò chịu trách nhiệm kỹ thuật cho toàn bộ vòng đời của một hệ thống AI.

Tìm hiểu chương trình: Chuyên viên AI Engineering

Bài viết tham khảo và diễn giải từ nội dung AI Engineering Skills Map của Giáo sư Andrew Ng