Chia sẻ GPU giữa các chương trình có khả năng OpenCL

Question

Có phương pháp chia sẻ GPU giữa hai chương trình có khả năng OpenCL riêng biệt hay cụ thể hơn giữa hai quy trình riêng biệt đồng thời cả hai yêu cầu GPU thực thi hạt nhân OpenCL không? nếu vậy, làm thế nào hoàn thành cái này?

Answer 1

Tùy thuộc vào những gì bạn gọi là chia sẻ.

Nói chung, bạn có thể tạo 2 quy trình vừa tạo ra thiết bị OpenCL, trên cùng một GPU. Đó là trách nhiệm của trình điều khiển/HĐH/GPU để đảm bảo mọi thứ hoạt động.

Điều đó nói rằng, hầu hết các triển khai sẽ cắt lát thời gian thực thi GPU để thực hiện điều đó (giống như nó xảy ra với đồ họa).

Tôi cảm thấy đây không phải là chính xác những gì bạn đang làm. Bạn có thể mở rộng câu hỏi của mình bằng một ca sử dụng không?

Answer 2

GPU hiện tại (trừ Fermi của NVidia) không hỗ trợ thực thi đồng thời nhiều hơn một hạt nhân. Hơn nữa, đến ngày này, GPU không hỗ trợ đa nhiệm ưu tiên; nó hoàn toàn hợp tác! Việc thực thi của hạt nhân không thể bị đình chỉ và tiếp tục sau này. Vì vậy, mức độ chi tiết của bất kỳ chia sẻ GPU dựa trên thời gian nào phụ thuộc vào thời gian thực hiện của hạt nhân.

Nếu bạn có nhiều chương trình đang chạy yêu cầu truy cập GPU, bạn nên đảm bảo rằng hạt nhân của bạn có thời gian chạy ngắn (< 100ms là quy tắc), do đó thời gian GPU có thể được tính trong số các hạt nhân muốn có chu kỳ GPU . Nó cũng quan trọng để làm điều đó vì nếu không đồ họa của hệ thống máy chủ sẽ trở nên rất không phản hồi khi chúng cần truy cập GPU. Điều này có thể đi xa đến mức một hạt nhân trong một vòng lặp vô tận hoặc dài sẽ làm hỏng hệ thống.