Chủ đề liên tục trong OpenCL và CUDA

Question

Tôi đã đọc một số bài báo nói về "chuỗi liên tục" cho GPGPU, nhưng tôi thực sự không hiểu nó. Bất kỳ ai có thể cho tôi một ví dụ hoặc cho tôi thấy việc sử dụng thời trang lập trình này không?

gì tôi giữ trong tâm trí của tôi sau khi đọc và googling "đề dai dẳng":

Presistent Chủ đề đó là không nhiều hơn một vòng lặp trong khi đó giữ sợi chạy và tính toán rất nhiều loạt các công trình.

Điều này có đúng không? Cảm ơn trước

tham khảo: http://www.idav.ucdavis.edu/publications/print_pub?pub_id=1089 http://developer.download.nvidia.com/GTC/PDF/GTC2012/PresentationPDF/S0157-GTC2012-Persistent-Threads-Computing.pdf

Answer 1

CUDA khai thác mô hình lập trình nhiều dữ liệu hướng dẫn (SIMD). Các chủ đề tính toán được tổ chức theo các khối và các khối chuỗi được gán cho một bộ xử lý đa luồng (SM) khác nhau. Việc thực thi khối luồng trên SM được thực hiện bằng cách sắp xếp các luồng trong warps của 32 luồng: mỗi warp hoạt động trong khóa bước và thực hiện chính xác lệnh cùng một dữ liệu khác nhau.

Nói chung, để lấp đầy GPU, hạt nhân được khởi chạy với nhiều khối hơn có thể thực sự được lưu trữ trên các SM. Vì không phải tất cả các khối có thể được lưu trữ trên một SM, một trình lên lịch làm việc thực hiện một chuyển đổi ngữ cảnh khi một khối đã kết thúc tính toán. Cần lưu ý rằng việc chuyển đổi các khối được quản lý hoàn toàn bằng phần cứng bởi bộ lập lịch và lập trình viên không có phương tiện ảnh hưởng đến cách các khối được lên lịch cho SM. Điều này cho thấy một giới hạn cho tất cả các thuật toán không hoàn toàn phù hợp với một mô hình lập trình SIMD và có sự mất cân bằng công việc. Thật vậy, một khối A sẽ không được thay thế bởi một khối khác B trên cùng một SM cho đến khi luồng cuối cùng của khối A sẽ không hoàn thành để thực thi.

Mặc dù CUDA không hiển thị bộ lập lịch phần cứng cho người lập trình, các chủ đề liên tục chủ đề bỏ qua bộ lập lịch phần cứng bằng cách dựa vào hàng đợi công việc. Khi một khối kết thúc, nó sẽ kiểm tra hàng đợi để có thêm công việc và tiếp tục làm như vậy cho đến khi không còn công việc nào nữa, tại thời điểm đó khối đó sẽ nghỉ hưu. Bằng cách này, hạt nhân được khởi chạy với nhiều khối như số lượng SM có sẵn.

Các đề dai dẳng kỹ thuật là tốt hơn minh họa bằng các ví dụ sau đây, mà đã được lấy từ phần trình bày

“GPGPU” computing and the CUDA/OpenCL Programming Model

Một ví dụ chi tiết hơn có sẵn trong các giấy

Understanding the efficiency of ray traversal on GPUs

// Persistent thread: Run until work is done, processing multiple work per thread 
// rather than just one. Terminates when no more work is available 

// count represents the number of data to be processed 

__global__ void persistent(int* ahead, int* bhead, int count, float* a, float* b) 
{ 
    int local_input_data_index, local_output_data_index; 
while ((local_input_data_index = read_and_increment(ahead)) < count) 
{         
     load_locally(a[local_input_data_index]); 

     do_work_with_locally_loaded_data(); 

     int out_index = read_and_increment(bhead); 

     write_result(b[out_index]); 
    } 
} 

// Launch exactly enough threads to fill up machine (to achieve sufficient parallelism 
// and latency hiding) 
persistent<<numBlocks,blockSize>>(ahead_addr, bhead_addr, total_count, A, B); 

Answer 2

Khá dễ hiểu. Thông thường, mỗi mục công việc xử lý một lượng nhỏ công việc. Nếu bạn muốn lưu tiết kiệm thời gian chuyển đổi nhóm làm việc, bạn có thể cho phép một mục công việc xử lý rất nhiều công việc bằng cách sử dụng một vòng lặp. Ví dụ, bạn có một hình ảnh, và nó là 1920x1080, bạn có 1920 workitem, và mỗi mục công việc xử lý một cột 1080 pixel bằng cách sử dụng vòng lặp.