eGPU : retour d'expérience sur le BizonBOX 3 et un projet TensorFlow
Stéphane Moussie | | 15:31 | 63Avec son débit de 40 Gbit/s, le Thunderbolt 3 a entraîné une multiplication des boîtiers pour carte graphique externe. C’est une aubaine pour les possesseurs de Mac bridés par les choix d’Apple en matière de GPU. Travaillant sur un projet de deep learning très gourmand, Benoît Desnos a adjoint à son MacBook Pro 2016 une GeForce GTX 980 Ti placée dans un boîtier BizonBOX 3.
Pourquoi ne pas opter pour un Mac Pro ? Parce que le logiciel qu’il utilise, TensorFlow (à l’origine un projet de Google qui est devenu open source), exploite la technologie CUDA pour l’accélération graphique. Or, les cartes AMD ne prennent pas en charge CUDA, qui est développé par Nvidia.
Dans la gamme de Nvidia, Benoît a préféré la GeForce GTX 980 Ti à la Titan X en raison de son compromis prix-performance qui lui semblait meilleur (le tarif va du simple au double). Impossible de sélectionner une GeForce 1000 plus récente faute de pilotes compatibles sur Mac.
Quant au boîtier Thunderbolt 3, il s’est tourné vers le BizonBOX 3 en raison de son prix et de sa livraison en France. Au total, il en a eu pour près de 1 700 € (1 556 $ pour le boîtier, la carte et l’alimentation, 85 $ de frais de port et 130 € de frais de douane). Pourquoi ne pas monter un hackintosh complet à ce prix là ? Le développeur avait besoin d’un ordinateur portable et voulait aussi une solution simple à mettre en place.
« L’assistance du site est très rapide, tant avant l’achat qu’après. J’ai dû écrire plusieurs fois pour avoir des précisions (vu le prix du matériel…) sur la compatibilité matérielle et logicielle, témoigne Benoît. L’expédition est très rapide, j’ai attendu 7 jours. L’emballage est assez sommaire : un carton, de la mousse expansée mais cela semble suffisant. Si j’avais su j’aurais également pris le câble de 2 mètres car celui de 50 cm est vraiment trop court pour pouvoir ranger la box où je veux sur mon bureau. »
Sur le boîtier en lui-même, il trouve qu’il est bien assorti avec le Mac. Par contre, le bloc d’alimentation est pour le moins élémentaire. Bizon n’a pas pris la peine de l’habiller un minimum.
À condition de lire l’anglais et d’avoir un peu de matériel supplémentaire, la mise en route est simple, d’après lui :
Les instructions d’installation sont très claires. Elles nécessitent de désactiver la protection de l’intégrité du système (SIP). Il est demandé d’utiliser le boîtier avec un écran externe, j’utilise donc mon vieil iMac 2009 comme écran avec un câble Mini DisplayPort et un adaptateur USB-C et tout fonctionne !
Une fois la solution eGPU en place, les performances changent du tout au tout. Benoît parle de temps de calcul divisé par 30 à 40 ! « Je n’ai pas vérifié exactement, mais en gros pour un traitement qui me prenait 8–10 heures sur mon MacBook Pro 2016 2,6 GHz Core i7 16 Go de RAM, je suis passé à 8–10 minutes. En plus ça me permet d’utiliser le CPU pour bosser sur autre chose sans ralentissements », indique-t-il, très satisfait de ce gain de performances. « J’ai observé que plus j’ai de données à traiter, plus l’impact en termes de perfs est important et plus le GPU est rapide par rapport au CPU », ajoute-t-il.
Cette solution a toutefois des contreparties. Le bloc d’alimentation est assez bruyant et la carte graphique siffle — l’assistance de Bizon lui a indiqué que cela pouvait arriver avec certains modèles. Le branchement à chaud fonctionne à moitié : il déclenche parfois des plantages du système.
De plus, le développeur est dépendant de la mise à disposition des pilotes par Nvidia. Ceux-ci arrivent généralement rapidement, mais il faut penser à ne pas passer sur les nouvelles versions de macOS dès leur sortie, sous peine de se retrouver sans eGPU temporairement, comme ça lui est arrivé avec macOS 10.12.3.
En conclusion, les performances sont radicalement changées dans le cas présent, mais les à-côtés (compatibilité, bruit, finitions…) sont très largement perfectibles.
Facebook
Twitter
RSS
63 Commentaires
Je ne savais pas qu'il était possible d'utiliser un iMac comme écran externe 😮
@Yohmi
Uniquement certains anciens modèles.
Ah bon Apple a retiré cette fonction depuis quel modele?
Cette fonction n'a pas beaucoup de sens mais ça avait le merite d'exister et niveau realisation ça veut dire juste passer le signal directement sur l'ecran, donc c'est pas non plus
Sinon pour l'histoire, le gars a fait un choix etrange parce que TensorFlow - qui est un outil de calcul - offre une architecture très flexible qui permet de le lancer sur tout et particulièrement sur des serveurs... donc au lieu de la solution qu'il a choisi il aurait tout a fait pu prendre un vieux PC le passer sous Ubuntu et y mettre un ou plusieurs GPU Nvidia, voire des GPU Quadro Pascal et aurait eu de meilleurs résultats - tout ça bien sur en pilotant le tout depuis son Mac.
Quel est l'avantage reel d'utiliser ce boitier, mystere...
Bref, on est typiquement dans le cas d'un usage GPGPU asynchrone, c'est pas comme s'il voulait utiliser son Mac pour faire de l'affichage en temps reel, ou la il faut avoir un GPU Nvidia dans le Mac...
@ C1rc3@0rc
« au lieu de la solution qu'il a choisi il aurait tout a fait pu prendre un vieux PC ... »
Faudrait songer à lire les articles en entier avant de commenter. Visiblement, t'as pas lu ce qui suit :
« Pourquoi ne pas monter un hackintosh complet à ce prix là ? Le développeur avait besoin d’un ordinateur portable et voulait aussi une solution simple à mettre en place ».
Ben entre un petite tour PC faisant office de serveur et cette tour eGPU avec sa grosse alimentation, en terme de portabilité, il me semble que ni l'un ni l'autre ne répondent au critere du portable comme seule machine, et que dans le cadre de la transportabilité et de l'autonomie la tour PC serveur est bien plus pertinente...
Seuls les modèles d'iMac suivants ont eu droit au Target Display Mode (utiliser l'iMac comme un écran externe) :
• iMac 27" Late 2009
• iMac 27" Mid 2010
• iMac 21.5" et 27" Mid 2011
• iMac 21.5" et 27" Late 2012
• iMac 21.5" Early 2013
• iMac 21.5" et 27" Late 2013
• iMac 21.5" Mid 2014
La fonctionnalité TDM a malheureusement été supprimée par la suite (à partir de l'iMac 5K, y compris l'iMac 21.5" Late 2015 et l'iMac 21.5" 4K).
Ok, donc y a aucune raison technique a cette suppression de fonctionnalité, cela semble être de l'arbitraire marketing pur. :(
Tout à fait, tout comme au début durant 2 ans cette fonctionnalité était réservée au seul modèle 27", pour créer un "effet de gamme". Après, il y a peut-être quelque chose au niveau du GPU qu'on ne connaît pas et qui a forcé Apple à revoir sa copie.
Apple a retiré cela avec le Retina, dans sa stratégie de faire payer toujours plus cher pour moins de fonctionnalités ...
C'est du n'importe quoi. D'accord ça améliore les performances par rapport à la carte interne, mais on reste sur des performances dignes d'une carte à 150 euros.
1700 euros pour faire tourner une 980Ti à la moitié de ses capacités ? Avec un truc en mode bricolage du dimanche ? Quelle honte !!
Croire qu'on puisse avoir un portable sympa tout en ayant un CUDA efficace en même temps... tout dans le même portable, c'est aussi du "n'importe quoi".
En tout cas, il semble pouvoir en tirer ce qui lui faut.
On est d'accord un portable ultra-fin n'est pas fait pour faire du calcul GPGPU intensif. Le portable est bien pour piloter le calcul qui se fait sur un serveur... a la limite d'ailleurs un iPad peut en faire autant.
Après avoir un GPU CUDA dan un portable ça permet de développer ou de faire des simulations quand on a pas de serveur de calcul a disposition. Sans parler de l'efficacité dans les applications graphiques et video.
En fait d'ailleurs la solution developpé dans l'article est meme incoherente car les Nvidia GT sont inadaptées pour du calcul pur (pas de controle d'erreur) faut des Quadro pour ça.
Enfin pour du développement ça peut le faire, mais les data sorties sont pas fiables.
Ce que dit @dtb06 n'est valable que pour l'affichage, car en utilisation pour du calcul GPGPU asynchrone la 980 sera autant exploité dans un serveur dedié (ce a quoi revient la solution presentée) que dans un PC.
@C1rc3@0rc
Les quadro ne sont pas adaptées pour le deep learning. Elles coûtent très cher et sont moins performantes que des titan pour ce type de calcul.
@fanchig
Ça ne sert à rien de répondre au monsieur. Moins il sait de quoi il parle, plus il est convaincu du contraire et s'étend sur le sujet. Et, de toute façon, il parait persuadé qu'il suffit qu'il pense quelque chose pour que ce soit vrai,ou que ça se réalise...
@fanchig
Pourrais tu m'expliquer pourquoi les quadro ne sont pas adaptées la ou une titan le serait dans ce secteur ?
Et comment tu fais pour certifier le resultat sans ECC ?
Les quadro ont moins de cudacores, chose la plus importante pour qui à besoin de puissance avec CUDA.
c'est la même chose pour les moteurs de rendu 3D GPU, avant la nouvelle serie des 1080, tout le monde utilisait des 980Ti qui avaient le meilleur rapport prix / puissance.
Maintenant ce sont les 1070 qui ont le meilleur rapport puissance prix. Tout le monde attend les 1080Ti (à moins qu'elles ne soient déjà sorties)
Les plus fortunés iront vers les Titans directement qui ont aussi plus de Vram, ce qui est assez important dans le rendu 3D GPU si vous avez des grosses scenes avec beaucoup de textures à calculer.
Oui, mais ça c'est valable pour le traitement graphique. S'il y a une erreur qui affecte un pixel c'est pas un drame.
Dans le cadre de calcul GPGPU une erreur d'ecriture peut etre dramatique, et la y a besoin de l'assurance que donne les Quadro, dont la memoire ECC.
Et comme par definition en GPGPU on peut repartir la charge sur le plus grand nombre d'unités possibles et generalement en asynchrone, ben on additionne les Quadro dans un serveur a Xeon (ou POWER). Ca coute une blinde, mais au moins le calcul est garanti fiable. Et je t'assure que sur des calcul qui prennent des jours, t'as pas envi de devoir les relancer pour des question de non fiabilité de la memoire.
Donc j'attend l'argument de @fanchig sur le desavantage des Quadro pour le deep learning.
@dtb06
C'est un choix. Tu peux ne pas être d'accord mais pourquoi tant de haine ? ^^
Ce n'est pas de la haine. J'ai un PC avec une 390X, soit bien en dessous d'une 980Ti (la 390X est en gros aux performances de la 970 qui est en-dessous de la 980 qui est en-dessous de la 980Ti). On va dire que ma carte a les performances d'une 1060 à 200 euros. Et bien tous les tests que j'ai vus sur les eGPU avec des 980 donnaient des performances deux fois moins bonnes que sur mon PC. Donc en gros on achète une carte haut de gamme avec un boitier hors de prix pour avoir des performances d'une carte à 150 euros.
1700 euros ? Franchement les gens, sortez un peu voir ailleurs ce qui se passe !
Un PC avec un i7 Skylake, un SSD et 16Go de RAM, avec une carte graphique comme la 980Ti ça vaut 1300 euros maximum, et on explose les performances de ce MBP avec une carte graphique externe.
Et bien oui, pour moi c'est stupide et injustifiable.
Acheter un MBP pour la mobilité pourquoi pas, mais s'il faut rajouter 1700 euros pour une solution bricolée pour pouvoir travailler en fixe sur un écran 15 pouces, je rigole. A ce moment là il sera beaucoup plus performant de racheter un bon PC tour en plus.
Les Apple-fans c'est super : l'argument massue pour un Mac c'est que c'est simple et joli et ce n'est pas du bricolage. Et là on tape dans un truc avec une alim externe affreuse, des fichiers système à bidouiller, des pilotes tiers à installer, des MAJ système qu'il ne faut pas effectuer pour risque d'incompatibilité avec les pilotes, un branchement à chaud qui fait des Kernel Panic, enfibn la bonne panoplie de trucs foireux que les Mac-Users étaient les premiers à dénoncer sur Windows 98 à la fin du siècle dernier.
Ce truc Bizon, vous êtes tous aveugles ! Le site web est super mais c'est une arnaque !!!!!!!!!
C'est un boitier Thunderbolt AKiTiO modifié, avec une alim d'ordinateur Dell portable ! Ben oui c'est super joli ce site tout propre mais cherchez un peu par vous-même ! C'est une boîte Russe qui fait du bricolage, ils achètent un boitier TB, ils mettent une carte graphique PC et ajoutent une alim d'ordinateur avec une Dremel !
https://www.techinferno.com/index.php?/forums/topic/7921-rip-off-alert-b...
Bref, de la pigeonnade pour les pigeons. Mais allez-y sans moi, ne vous gênez pas, mettez 1700 euros dans une carte graphique de l'équivalent d'une 1060 plus récente à 209 euros, et faites-vous plaisir à désactiver le SIP, mettre les Webdrivers Nvidia, etc... tout ça pour des performances d'une pauvre carte à 150 euros.
EDIT : et pourquoi ils préconisent de l'utiliser avec un écran externe ? Par ce qu'avec l'écran interne on perd encore de la bande passante car on fait un aller-retour de l'image, et donc on se retrouve avec une carte basique à 50 euros même avec une TitanX dans le boitier.
@dtb06
Ouais ... c'est triste c'est un akitio thunder 2. Un boitier qui vaut 200 euro, avec une carte au alentour de 500 euro et une alim correcte à 30 euro, soit 730€ ... c'est du foutage de g....
Maintenant, il a pas trop chercher! Car on trouve le akitio node l'equivalent du razer core à 300€! (Alim intégré)
@ dtb06
« Les Apple-fans c'est super »
Et les « haters » en mal de reconnaissance (et moi et moi et moi) qui crachent dans la soupe des autres et tiennent absolument à les pourrir, ils commencent sérieusement à me gaver. :/
@marc_os
Tout comme moi. D'un pénible... 😝
Dommage qu'on ne puisse les virer sur le site comme dans l'app. Du coup je ne consulte plus MacG que sur l'iPhone (ce qui, par la même occasion, m'épargne les pubs) 🙄
Tu peux même suivre les news sur Mac 68K. C'est plus lent mais tu n'as pas tous les boulets.
les 'haters' ? des gens qui disent juste que ce produit est une grosse arnaque Tu peux penser ce que tu veux, et si ça te fait plaisir tu peux juste acheter une 980Ti avec un boitier Thunderbolt à 1700 euros qui tournera à peine comme une 1060 à 200 euros.
Fais-toi plaisir.
@dtb06
Je suis d'accord que le gain de performances est loin d'égaler celui de la carte en natif mais on peut aussi considérer qu'un gain de temps de 30 à 40 fois peut largement valoir un investissement de 1700$ pour un professionnel.
Pages