Je ne l'ai jamais utilisé sur une machine avec autant de mémoire ! (La seule fois où j'ai utilisé plus de 16 Go, c'était sur un serveur qui avait généralement ses propres contrôleurs de mémoire intégrés).
Vous utilisez le tag memtest86+, mais mentionnez memtest86 dans la question - je vous dirais simplement de vous assurer que vous utilisez Memtest86+ et non Memtest86 (car memtest86+ est mis à jour, memtest86 ne l'est pas).
J'espère que vous lui donnez quelques minutes pour démarrer - je sais que lorsque je l'ai lancé sur des machines avec 8 Go, on a parfois l'impression qu'il s'est figé pendant 5 minutes avant de démarrer - je ne suis pas sûr que cet effet soit exponentiel avec l'augmentation de la mémoire.
Si la carte mère n'est pas compatible, vous n'avez pas de chance - à moins d'attendre une nouvelle version, mais si c'est simplement la mémoire qui est trop importante, vous pouvez essayer de l'utiliser avec 4 Go (ou le maximum autorisé) à la fois.
Vous pouvez également utiliser un autre vérificateur de mémoire, tel que Microsoft Diagnostics. À première vue, il semble moins impressionnant mais il fonctionne très bien sur toutes les machines compatibles avec Windows. Si vous avez une copie installée de Windows Vista/Windows 7 ou un disque d'installation, vous disposez de cet utilitaire.
Le moyen le plus simple d'y accéder est d'appuyer sur F8 au démarrage et le lancer à partir de là, ou regarder dans cette page qui a les nombreux autres moyens.
Et, surtout, profitez de votre nouveau système, il semble impressionnant !