Calcul sur GPU

5ème année ingénieur de Polytech Paris-Sud

Stéphane Vialle, CentraleSupélec & LISN, Stephane.Vialle@centralesupelec.fr   

(cours conçu avec Laércio Lima Pilla, CNRS)

• Thème et objectifs du cours : 

• Contenu du cours : 

  • Architecture des GPU, Bases de la programmation CUDA, Bonnes pratiques de la programmation CUDA(coalescence, divergence...)
    
  • Bibliothèque CUBLAS, Transferts rapides et recouvrement
  • Utilisation de la Shared Memory, autres optimisations
  • Retour d'expérience sur la programmation hybride CPU/GPU et sur cluster de GPU.
    
  
  
• Supports de cours :
• Partie I
  

1 - GPU architecture		1 slide par page		2 slides par page		6 slides par page
Site web du "Top 500" des superordinateurs				http://www.top500.org/
2 - CUDA : bases de la programmation		1 slide par page		2 slides par page		6 slides par page
3 - CUDA : bonnes pratiques		1 slide par page		2 slides par page		6 slides par page

• Partie II

4 - Bibliothèque CUBLAS		1 slide par page		2 slides par page		6 slides par page
5 - CUDA : transferts, streams et recouvrement		1 slide par page		2 slides par page		6 slides par page

• Partie III

6 - CUDA : Prog. avancée Part-1		1 slide par page		2 slides par page		6 slides par page
7 - CUDA : Prog. avancée Part-2		1 slide par page		2 slides par page		6 slides par page
8 - Retour d'expérience sur la programmation hybride		1 slide par page		2 slides par page		6 slides par page

• TD :

• TP :

TP-0 : prise en main de l'environnement de développement CUDA	Enoncé
TP-1 : programmation CUDA de base (produit de matrices, coalescence, mesure de performances)	Enoncé	Perf
TP-2 : Programmation CUBLAS, Tensor Cores et Optimisation des transferts CPU-GPU	Enoncé	Perf
TP-3 : Programmation CUDA optimisée avec la shared memory	Enoncé	Perf

• Salles de cours :

• Bibliographie :

• J. Sanders and E. Kandrot. "CUDA by Example: An Introduction to General-Purpose GPU Programming". NVIDIA. 2010.