http://www.nagios.org/
Choqué que personne n'ait recommandé cela?! Nagios est une solution open-source impressionnante, très personnalisable. Nous l'avons utilisé dans un environnement de taille moyenne (~100 serveurs) et je l'adore absolument. Il vous oblige à créer et personnaliser des vérifications de service, mais il est très puissant.
L'interface graphique est très conviviale et il existe des applications pour le bureau ainsi que pour le système d'exploitation Android pour surveiller votre infrastructure. Sans oublier la possibilité d'envoyer des e-mails ou des notifications par SMS pour alerter.
Nagios vaut le coup d'œil si vous avez le temps de faire quelques ajustements/personnalisations.. mais il dispose même de quelques vérifications de service prêtes à l'emploi
**Bon, ce n'est pas tout à fait une solution pour surveiller vos serveurs à partir de plusieurs endroits différents, bien que nous ayons configuré un serveur Nagios "visible par le client" de manière externe pour y parvenir, donc c'est possible si vous avez plusieurs colocations.