Liệu trình biên dịch JIT có thể sử dụng GPU cho một số hoạt động nhất định đằng sau hậu trường không?

Question

Vui lòng sửa lỗi nếu bất kỳ phần nào của sự hiểu biết của tôi sai.

Sự hiểu biết của tôi là GPU cung cấp một tập hợp con các hướng dẫn mà một CPU bình thường cung cấp nhưng thực thi chúng nhanh hơn nhiều.

Tôi biết có nhiều cách để sử dụng chu kỳ GPU cho mục đích phi đồ họa, nhưng có vẻ như (theo lý thuyết) ngôn ngữ vừa được biên dịch có thể phát hiện sự hiện diện của GPU phù hợp và giảm tải công việc GPU đằng sau hậu trường mà không cần thay đổi mã.

Sự hiểu biết của tôi có ngây thơ không? Nó chỉ là vấn đề của nó thực sự phức tạp và chưa được thực hiện?

Answer 1

sự hiểu biết của tôi là GPU cung cấp một tập hợp con của các hướng dẫn rằng một CPU bình thường cung cấp nhưng thực thi chúng nhanh hơn nhiều.

Hoàn toàn không đơn giản như vậy. GPU được thiết kế chủ yếu ở chế độ xử lý SIMD/vector. Vì vậy, mặc dù tiềm năng lý thuyết của GPU ngày nay vượt trội so với CPU, chỉ những chương trình có thể hưởng lợi từ các lệnh SIMD mới có thể được thực thi hiệu quả trên GPU. Ngoài ra, có tất nhiên là một hình phạt hiệu suất khi dữ liệu đã được chuyển từ CPU sang GPU để được xử lý ở đó. Vì vậy, để một trình biên dịch JIT có thể sử dụng GPU hiệu quả, nó phải có khả năng phát hiện mã có thể song song để hưởng lợi từ các lệnh SIMD và sau đó phải xác định, nếu chi phí gây ra bằng cách truyền dữ liệu từ CPU với GPU sẽ bị thừa cân bởi những cải tiến về hiệu suất.

Answer 2

Có thể sử dụng GPU (ví dụ: một GPU có hỗ trợ CUDA hoặc OpenCL) để tăng tốc độ JIT. Cả hai phân bổ đăng ký và lập kế hoạch giảng dạy có thể được thực hiện hiệu quả.