Je pense que l'on peut résumer la situation en disant simplement que plus la mémoire cache est grande, plus l'accès est lent. Un cache plus grand ne sert donc à rien, puisqu'il est conçu pour réduire la lenteur des communications entre le bus et la mémoire vive.
La vitesse du processeur augmentant rapidement, le cache de même taille doit être de plus en plus performant pour suivre le rythme. Les caches peuvent donc être nettement plus performants (en termes de vitesse), mais pas en termes de stockage.
(Je suis un informaticien, j'espère donc que ce n'est pas totalement faux).