Kích thước bộ nhớ cache lớn hơn có luôn dẫn đến hiệu suất được cải thiện không?

Question

Vì bộ nhớ cache bên trong bộ xử lý làm tăng tốc độ thực hiện lệnh. Tôi tự hỏi điều gì xảy ra nếu chúng ta tăng dung lượng bộ nhớ cache lên nhiều MB như 1 GB. Có thể không? Nếu nó sẽ tăng kích thước bộ nhớ cache luôn luôn dẫn đến hiệu suất tăng lên?

Answer 1

Đây là một sự đơn giản, nhưng, một trong những lý do chính khiến bộ nhớ cache tăng 'tốc độ' là nó cung cấp bộ nhớ nhanh rất gần bộ xử lý - điều này nhanh hơn nhiều so với bộ nhớ chính. Vì vậy, về mặt lý thuyết, việc tăng kích thước của bộ nhớ đệm sẽ cho phép nhiều thông tin hơn được lưu trữ trong bộ nhớ 'nhanh' này, và do đó cải thiện hiệu suất .. Trong thực tế mọi thứ rõ ràng phức tạp hơn nhiều so với điều này, và dĩ nhiên sẽ có thêm độ phức tạp và chi phí, được kết hợp với bộ nhớ cache lớn và xử lý các vấn đề như bộ nhớ cache, các thuật toán bộ nhớ đệm, v.v.

Answer 2

Có sự cân bằng giữa kích thước bộ nhớ cache và tỷ lệ nhấn ở một bên và đọc độ trễ với mức tiêu thụ điện năng khác. Vì vậy, câu trả lời cho câu hỏi đầu tiên của bạn là: kỹ thuật (có thể) có thể, nhưng không có ý nghĩa, vì bộ nhớ cache L3 trong các CPU hiện đại với kích cỡ chỉ một vài MB đã đọc độ trễ khoảng hàng chục chu kỳ.

Hiệu suất phụ thuộc nhiều hơn vào mẫu truy cập bộ nhớ so với kích thước bộ nhớ cache. Chính xác hơn, nếu chương trình chủ yếu là tuần tự, kích thước bộ nhớ cache không phải là một vấn đề lớn. Nếu có khá nhiều truy cập ngẫu nhiên (ví dụ: khi các vùng chứa kết hợp được sử dụng tích cực), kích thước bộ nhớ cache thực sự quan trọng.

Ở trên là đúng cho các tác vụ tính toán đơn lẻ. Trong môi trường đa xử lý với một số quy trình hoạt động, kích thước bộ nhớ cache lớn hơn luôn tốt hơn, vì giảm sự tranh chấp giữa các tiến trình.