Hiện nay, các sản phẩm trí tuệ nhân tạo ứng dụng mô hình tạo sinh đã và đang mang đến những sự thay đổi lớn về kinh tế - xã hội. Đằng sau sự ra đời của những phần mềm này là vô số các nghiên cứu về các mô hình tạo sinh (generative models). Khóa học này được xây dựng nhằm giới thiệu sâu hơn về khía cạnh toán học của các mô hình tạo sinh đã và đang được phát triển. Học viên được tìm hiểu về thiết kế và nguyên lý hoạt động của một số mô hình tạo sinh nổi bật, và từ đó có thể ứng dụng trong công việc cũng như nghiên cứu đề xuất những cải tiến trong tương lai.

‍

Yêu cầu đầu vào

• Xác suất cơ bản (biến ngẫu nhiên, phân bố xác suất)
• Đại số tuyến tính cơ bản (nhân ma trận)
• Các khái niệm cơ bản trong học sâu (mạng thần kinh nhân tạo, gradient descent)
• Lập trình cơ bản bằng Python và các thư viện tính toán (numpy) và học sâu (PyTorch)

‍

Chi tiết khóa học

• Giới thiệu tổng quan về mô hình tạo sinh.
• Một số phương pháp suy diễn (inference): ước lượng Monte-Carlo, lấy mẫu quan trọng (importance sampling).
• Một số phương pháp lấy mẫu (sampling): xích Markov Monte-Carlo (Monte-Carlo Markov Chain), khuếch tán Langevin (Langevin diffusion).
• Một số phương pháp ước lượng tham số: ước lượng hợp lý cực đại (maximum likelihood estimation), thuật toán kỳ vọng-tối ưu (expectation-maximization).
• Mô hình năng lượng (energy-based model).
• Mô hình luồng chuẩn hóa (normalizing flow).
• Mô hình tự mã hóa biến phân (variational autoencoder).Mô hình khuếch tán (diffusion model).