Un Tesla K80 apparaît-il comme 1 GPU ou 2 dans Windows 10 avec les pilotes NVidia standard ? Il est CUDA Compute Level 3.5. C'est-à-dire assez bon pour TensorFlow . C'est assez bon pour Torch et d'autres paquets ? S'il s'agit de 2 GPU de 12 Go plutôt que de 1 GPU de 24 Go, les paquets habituels comme TF et Torch utiliseront-ils pleinement les deux GPU (mémoire et cœurs) ?
Réponse
Trop de publicités?
Une seule carte K80 devrait apparaître comme deux périphériques. "Assez bon" est un terme relatif. De nombreux chercheurs optent pour les cartes moins chères de la série GTX (ou maintenant RTX) plutôt que pour les cartes de la série K ou Quadros pour les types de charges de travail que vous souhaitez aborder.
La mise en parallèle du calcul est ce que vous recherchez pour utiliser plusieurs appareils avec le même problème. Vous pouvez obtenir une bonne accélération en mettant en parallèle le calcul avec les types de réseaux neuronaux utilisés dans l'apprentissage profond.
Cet article de blog est une très bonne lecture : http://timdettmers.com/2018/11/05/which-gpu-for-deep-learning/
En guise de référence, la société Lambda labs vend des machines GPU d'apprentissage profond clés en main avec trois cartes différentes : GTX 1080 ti, RTX 2080 ti et Titan V.
