Bài viết sưu tầm

• Học sâu là một nhánh của học máy (Machine Learning).
• Điểm đặc biệt: sử dụng mạng nơ-ron nhân tạo (Artificial Neural Networks) có nhiều lớp (deep = sâu, nhiều lớp).
• Nhờ nhiều lớp, học sâu có thể học tự động các đặc trưng phức tạp từ dữ liệu, mà không cần lập trình thủ công.

2. Mạng nơ-ron nhân tạo (ANN)

• Gồm nút (neuron) kết nối với nhau thành lớp:
  • Lớp đầu vào (Input Layer): nhận dữ liệu (ví dụ: ảnh, văn bản).
  • Lớp ẩn (Hidden Layers): xử lý và trích xuất đặc trưng.
  • Lớp đầu ra (Output Layer): đưa ra dự đoán.
• Mỗi nút thực hiện phép tính đơn giản:
  output = activation(weighted sum of inputs)

3. Tại sao cần nhiều lớp?

• Các lớp đầu học đặc trưng cơ bản (ví dụ: đường thẳng, góc cạnh trong ảnh).
• Các lớp sâu hơn học đặc trưng phức tạp (ví dụ: mặt người, chữ số).
• Đây là lý do tại sao học sâu mạnh mẽ trong các bài toán như nhận diện hình ảnh, dịch ngôn ngữ, chơi game...

4. Một số kiến thức quan trọng trong học sâu

• Activation Function: Hàm kích hoạt như ReLU, Sigmoid, Tanh giúp mạng học được phi tuyến tính.
• Loss Function: Đo lường sự khác biệt giữa dự đoán và thực tế.
• Backpropagation: Cách mạng điều chỉnh trọng số dựa trên lỗi dự đoán.
• Optimizer: Thuật toán tìm trọng số tốt nhất (ví dụ: SGD, Adam).

5. Các loại mạng nơ-ron nổi bật

• CNN (Convolutional Neural Networks): chuyên xử lý ảnh.
• RNN (Recurrent Neural Networks): chuyên xử lý chuỗi (như văn bản, âm thanh).
• GAN (Generative Adversarial Networks): tạo ra dữ liệu mới như ảnh giả.
• Transformer: mạng mạnh mẽ nhất hiện nay cho NLP (ví dụ: ChatGPT).