Phân tích một số kỹ thuật để khắc phục Overfitting?

Tại sao không nên sử dụng các hàm kích hoạt sigmoid hoặc tanh trong các hidden layer của mạng neural network?

Vanishing Gradient là gì và làm thế nào để khắc phục được nó?

Quá trình training mô hình sẽ ảnh hưởng thế nào nếu tham số learning rate quá nhỏ hoặc quá lớn?

Hàm kích hoạt (activation function) giải quyết trong việc xử lí phi tuyến tính như thế nào?