History

leestott 2555d81160 🌐 Update translations via Co-op Translator		2025-08-29 16:53:37 +00:00
..
AutoEncodersPyTorch.ipynb	🌐 Update translations via Co-op Translator	2025-08-29 16:53:37 +00:00
AutoencodersTF.ipynb	🌐 Update translations via Co-op Translator	2025-08-29 16:53:37 +00:00
README.md	🌐 Update translations via Co-op Translator	2025-08-29 16:53:37 +00:00

README.md

Bộ mã hóa tự động (Autoencoders)

Khi huấn luyện CNNs, một trong những vấn đề là chúng ta cần rất nhiều dữ liệu được gắn nhãn. Trong trường hợp phân loại hình ảnh, chúng ta cần phân chia hình ảnh thành các lớp khác nhau, điều này đòi hỏi công sức thủ công.

Câu hỏi trước bài giảng

Tuy nhiên, chúng ta có thể muốn sử dụng dữ liệu thô (không gắn nhãn) để huấn luyện các bộ trích xuất đặc trưng của CNN, điều này được gọi là học tự giám sát. Thay vì sử dụng nhãn, chúng ta sẽ sử dụng hình ảnh huấn luyện làm cả đầu vào và đầu ra của mạng. Ý tưởng chính của bộ mã hóa tự động là chúng ta sẽ có một mạng mã hóa để chuyển đổi hình ảnh đầu vào thành một không gian tiềm ẩn (thường chỉ là một vector có kích thước nhỏ hơn), sau đó là mạng giải mã, với mục tiêu tái tạo lại hình ảnh gốc.

✅ Một bộ mã hóa tự động là "một loại mạng nơ-ron nhân tạo được sử dụng để học cách mã hóa hiệu quả dữ liệu không gắn nhãn."

Vì chúng ta đang huấn luyện một bộ mã hóa tự động để nắm bắt càng nhiều thông tin từ hình ảnh gốc càng tốt nhằm tái tạo chính xác, mạng cố gắng tìm biểu diễn nhúng tốt nhất của hình ảnh đầu vào để nắm bắt ý nghĩa.

Hình ảnh từ blog Keras

Các kịch bản sử dụng Autoencoders

Mặc dù việc tái tạo hình ảnh gốc có vẻ không hữu ích tự thân, nhưng có một số kịch bản mà autoencoders đặc biệt hữu ích:

Giảm chiều dữ liệu hình ảnh để trực quan hóa hoặc huấn luyện biểu diễn nhúng của hình ảnh. Thông thường, autoencoders cho kết quả tốt hơn PCA, vì chúng tính đến tính chất không gian của hình ảnh và các đặc trưng phân cấp.
Khử nhiễu, tức là loại bỏ nhiễu khỏi hình ảnh. Vì nhiễu mang theo rất nhiều thông tin không cần thiết, autoencoder không thể nén tất cả vào không gian tiềm ẩn nhỏ, do đó nó chỉ nắm bắt phần quan trọng của hình ảnh. Khi huấn luyện bộ khử nhiễu, chúng ta bắt đầu với hình ảnh gốc và sử dụng hình ảnh có nhiễu nhân tạo làm đầu vào cho autoencoder.
Tăng độ phân giải, tức là tăng độ phân giải của hình ảnh. Chúng ta bắt đầu với hình ảnh có độ phân giải cao và sử dụng hình ảnh có độ phân giải thấp hơn làm đầu vào cho autoencoder.
Mô hình sinh. Sau khi huấn luyện autoencoder, phần giải mã có thể được sử dụng để tạo ra các đối tượng mới bắt đầu từ các vector tiềm ẩn ngẫu nhiên.

Bộ mã hóa tự động biến phân (VAE)

Các autoencoders truyền thống giảm chiều dữ liệu đầu vào bằng cách nào đó, tìm ra các đặc trưng quan trọng của hình ảnh đầu vào. Tuy nhiên, các vector tiềm ẩn thường không có ý nghĩa rõ ràng. Nói cách khác, lấy ví dụ tập dữ liệu MNIST, việc xác định chữ số nào tương ứng với các vector tiềm ẩn khác nhau không phải là một nhiệm vụ dễ dàng, vì các vector tiềm ẩn gần nhau không nhất thiết phải tương ứng với cùng một chữ số.

Ngược lại, để huấn luyện các mô hình sinh, việc hiểu rõ không gian tiềm ẩn là tốt hơn. Ý tưởng này dẫn chúng ta đến bộ mã hóa tự động biến phân (VAE).

VAE là một autoencoder học cách dự đoán phân phối thống kê của các tham số tiềm ẩn, được gọi là phân phối tiềm ẩn. Ví dụ, chúng ta có thể muốn các vector tiềm ẩn được phân phối theo phân phối chuẩn với một giá trị trung bình z_mean và độ lệch chuẩn z_sigma (cả giá trị trung bình và độ lệch chuẩn đều là các vector có một số chiều d). Bộ mã hóa trong VAE học cách dự đoán các tham số này, sau đó bộ giải mã lấy một vector ngẫu nhiên từ phân phối này để tái tạo đối tượng.

Tóm tắt:

Từ vector đầu vào, chúng ta dự đoán z_mean và z_log_sigma (thay vì dự đoán độ lệch chuẩn, chúng ta dự đoán logarit của nó)
Chúng ta lấy mẫu một vector sample từ phân phối N(z_mean,exp(z_{log_sigma}))
Bộ giải mã cố gắng giải mã hình ảnh gốc bằng cách sử dụng sample làm vector đầu vào

Hình ảnh từ bài viết blog này của Isaak Dykeman

Bộ mã hóa tự động biến phân sử dụng một hàm mất mát phức tạp bao gồm hai phần:

Mất mát tái tạo là hàm mất mát cho thấy hình ảnh tái tạo gần với mục tiêu như thế nào (có thể là Mean Squared Error, hoặc MSE). Đây là hàm mất mát giống như trong các autoencoders thông thường.
Mất mát KL, đảm bảo rằng các phân phối biến tiềm ẩn gần với phân phối chuẩn. Nó dựa trên khái niệm độ phân kỳ Kullback-Leibler - một thước đo để ước tính mức độ tương đồng giữa hai phân phối thống kê.

Một lợi thế quan trọng của VAEs là chúng cho phép chúng ta tạo ra hình ảnh mới một cách tương đối dễ dàng, vì chúng ta biết phân phối nào để lấy mẫu các vector tiềm ẩn. Ví dụ, nếu chúng ta huấn luyện VAE với vector tiềm ẩn 2D trên MNIST, chúng ta có thể thay đổi các thành phần của vector tiềm ẩn để tạo ra các chữ số khác nhau:

Hình ảnh bởi Dmitry Soshnikov

Quan sát cách các hình ảnh hòa trộn vào nhau, khi chúng ta bắt đầu lấy các vector tiềm ẩn từ các phần khác nhau của không gian tham số tiềm ẩn. Chúng ta cũng có thể trực quan hóa không gian này trong 2D:

Hình ảnh bởi Dmitry Soshnikov

✍️ Bài tập: Autoencoders

Tìm hiểu thêm về autoencoders trong các notebook tương ứng sau:

Các đặc điểm của Autoencoders

Cụ thể theo dữ liệu - chúng chỉ hoạt động tốt với loại hình ảnh mà chúng đã được huấn luyện. Ví dụ, nếu chúng ta huấn luyện một mạng tăng độ phân giải trên hình ảnh hoa, nó sẽ không hoạt động tốt trên chân dung. Điều này là do mạng có thể tạo ra hình ảnh có độ phân giải cao hơn bằng cách lấy các chi tiết từ các đặc trưng học được từ tập dữ liệu huấn luyện.
Mất mát thông tin - hình ảnh tái tạo không giống hoàn toàn với hình ảnh gốc. Bản chất của mất mát được xác định bởi hàm mất mát được sử dụng trong quá trình huấn luyện.
Hoạt động trên dữ liệu không gắn nhãn

Câu hỏi sau bài giảng

Kết luận

Trong bài học này, bạn đã tìm hiểu về các loại autoencoders khác nhau dành cho nhà khoa học AI. Bạn đã học cách xây dựng chúng và cách sử dụng chúng để tái tạo hình ảnh. Bạn cũng đã tìm hiểu về VAE và cách sử dụng nó để tạo ra hình ảnh mới.

🚀 Thử thách

Trong bài học này, bạn đã tìm hiểu về việc sử dụng autoencoders cho hình ảnh. Nhưng chúng cũng có thể được sử dụng cho âm nhạc! Hãy xem dự án MusicVAE của dự án Magenta, sử dụng autoencoders để học cách tái tạo âm nhạc. Thực hiện một số thí nghiệm với thư viện này để xem bạn có thể tạo ra gì.

Câu hỏi sau bài giảng

Ôn tập & Tự học

Để tham khảo, đọc thêm về autoencoders trong các tài liệu sau:

Bài tập

Ở cuối notebook này sử dụng TensorFlow, bạn sẽ tìm thấy một 'nhiệm vụ' - sử dụng điều này làm bài tập của bạn.

Tuyên bố miễn trừ trách nhiệm:
Tài liệu này đã được dịch bằng dịch vụ dịch thuật AI Co-op Translator. Mặc dù chúng tôi cố gắng đảm bảo độ chính xác, xin lưu ý rằng các bản dịch tự động có thể chứa lỗi hoặc không chính xác. Tài liệu gốc bằng ngôn ngữ bản địa nên được coi là nguồn tham khảo chính thức. Đối với các thông tin quan trọng, nên sử dụng dịch vụ dịch thuật chuyên nghiệp từ con người. Chúng tôi không chịu trách nhiệm cho bất kỳ sự hiểu lầm hoặc diễn giải sai nào phát sinh từ việc sử dụng bản dịch này.