Tout d'abord, assurez-vous que les binaires de Virtual Box sont dans votre chemin. Cela est fait par défaut sous Linux, mais sous Windows, vous devrez peut-être ajouter manuellement le dossier bin du répertoire d'installation à votre chemin.
Ensuite, vous devez connaître le nom de votre système d'exploitation invité ou le numéro UUID. Vous pouvez trouver ces deux éléments en tapant
VBoxManage list vms
dans un terminal. De là, tapez simplement
VBoxHeadless -s <Guest-OS-Name>
ou
VBoxHeadless -s <UUID>
Cela permet de lancer la VM sans attacher son affichage à une fenêtre. Il ne vous reste plus qu'à définir cette commande comme un service de démarrage qui s'exécute en arrière-plan, et vous serez prêt.