Phân tích một số kỹ thuật để khắc phục Overfitting?

Tại sao không nên sử dụng các hàm kích hoạt sigmoid hoặc tanh trong các hidden layer của mạng neural network?

Vanishing Gradient là gì và làm thế nào để khắc phục được nó?

Quá trình training mô hình sẽ ảnh hưởng thế nào nếu tham số learning rate quá nhỏ hoặc quá lớn?

Một vấn đề đặt ra như sau, cơ sở dũ liệu của bạn có khoảng 12 triệu vector đại diện cho 12 triệu khuôn mặt. Khi nhận được ảnh một khuôn mặt mới, làm thế nào để bạn tìm kiếm một cách nhanh chóng trong 12 triệu khuôn mặt kia?