Mạng nơ-ron: Xử lý dữ liệu không sẵn có (dữ liệu bị thiếu hoặc không đầy đủ)

Question

Hy vọng câu hỏi NN cuối cùng bạn sẽ nhận được từ tôi cuối tuần này, nhưng ở đây đi :)

Có cách nào để xử lý dữ liệu đầu vào mà bạn không 't luôn luôn biết "... vì vậy nó không ảnh hưởng đến trọng lượng bằng cách nào đó?

Soo ... nếu tôi hỏi ai đó nếu họ là nam hay nữ và họ không muốn trả lời, có cách nào để bỏ qua đầu vào này không? Có lẽ bằng cách đặt nó vuông góc ở trung tâm? (giả sử 1,0 đầu vào là 0,5?)

Cảm ơn

Answer 1

Bạn có thể biết điều này hoặc nghi ngờ điều đó, nhưng không có cơ sở thống kê cho đoán hoặc cung cấp các giá trị thiếu bằng trung bình so với hàng loạt các giá trị có thể vv

Đối với NN nói riêng, có khá một vài kỹ thuật avaialble. Kỹ thuật tôi sử dụng - mà tôi đã mã hóa - là một trong những kỹ thuật đơn giản hơn, nhưng nó có một cơ sở thống kê vững chắc và nó vẫn được sử dụng ngày nay. Tài liệu học thuật mô tả nó here.

Lý thuyết nhấn mạnh kỹ thuật này là tích hợp trọng số trên dữ liệu không có sẵn. Trong thực tế, không có tích phân nào được đánh giá, thay vào đó chúng được ước tính bằng các giải pháp dạng đóng của các mạng chức năng Gaussian Basis. Như bạn sẽ thấy trong bài báo (đó là một lời giải thích từng bước, thật đơn giản để thực hiện trong thuật toán backprop của bạn.

Answer 2

Mạng thần kinh khá kháng tiếng ồn - đó là một trong những lợi thế lớn của chúng. Bạn có thể thử đặt đầu vào tại (-1.0,1.0) thay vào đó, với 0 là đầu vào không đầu vào, mặc dù. Bằng cách đó, đầu vào với trọng số từ nơron đó là 0,0, có nghĩa là không có việc học nào xảy ra ở đó.

Có lẽ cuốn sách hay nhất mà tôi từng trải qua không may là chưa hoàn thành (chưa!) Là Mạng và máy học thần kinh bởi Simon S. Haykin. Trong đó, anh ấy nói về tất cả các loại vấn đề, bao gồm cách bạn nên phân phối đầu vào/tập huấn luyện để đào tạo tốt nhất, vv Đó là một cuốn sách thực sự tuyệt vời!