Tính toán hiệu quả cao (HPC) bao gồm thực hiện tính toán phức tạp một cách hiệu quả bằng cách sử dụng các đơn vị xử lý đa năng. Tính năng tối ưu đòi hỏi sự cân bằng giữa tính năng và tính đồng bộ hóa để tối đa hóa tài nguyên trong khi giảm thiểu sự chậm trễ.

Hiểu được tính song song

Chủ nghĩa song song bao gồm việc chia công việc thành đơn vị nhỏ hơn có thể được xử lý cùng một lúc. Nó giúp giảm thời gian tính toàn bộ và cải thiện tính toán thông qua. Có nhiều loại tính tương ứng khác nhau, bao gồm cả tính tương ứng dữ liệu và tính năng công việc, mỗi ứng dụng phù hợp với ứng dụng cụ thể.

Thử thách về sự đồng điệu

Sự đồng bộ hóa đảm bảo rằng các tác vụ song song phối hợp đúng, đặc biệt khi chia sẻ tài nguyên hay dữ liệu. Sự đồng bộ quá lâu có thể gây ra sự chậm trễ, được gọi là nút chai, mà không cho phép lợi ích của tính đồng thời. Việc tìm sự cân bằng là thiết yếu cho hiệu suất HPC hiệu quả.

Kỹ thuật thực tiễn

  • Mục đích của Granularity: điều chỉnh kích thước của công việc để tối ưu hóa sự trao đổi giữa tính song song và đồng bộ hóa trên đầu.
  • Lock- Free Algrithms: ) Dùng thuật toán giảm thiểu việc khóa để giảm thời gian chờ đợi.
  • Thực hiện Asynconous:) Thao tác không chặn để cho phép công việc tiếp tục mà không đợi đồng bộ hóa.
  • Work Scheduling:) Dùng chương trình năng động để phân phối các tác vụ đều đặn và thích nghi với điều kiện thời gian chạy.
  • [FLT: 0] Phân vùngta:) Chia dữ liệu thành phân đoạn riêng lẻ để giảm nhu cầu phụ thuộc và đồng bộ hoá.