Tu veux faire quoi exactement? avoir un serveur pour te faire un petit reseau (créer un reseau local avec 1 ou 2 PC et beneficier d'un partage de connexion, de fichier, d'imprimante, de messagerie peut être? etc... configurer ton serveur avec des fonctions routeur, firewall etc... ?) chez toi ?
Dans ce cas un simple PC avec XP, deux cartes reseaux (si ton modem est en ethernet, si en USB, alors qu'une pour raccorder le HUB ethernet) un petit HUB ethernet, qq cables, et un XP pro suffisent largement. aprés tu installes un Firewall, un bon antivirus, un client FTP (serverU par exemple) et ça roule (tu trouveras sur Google de bon tuto pour configurer l'ensemble ip passerelle etc...).
Pour Linux, surtout si tu as une machine pas trés puissante (proco, ram etc...) c'est l'idéal et plus stable même si XP est vraiment pas mal,mais la configuration est un peu plus compliqué si tu ne connais pas cet envirronement... et la je peux pas t'aider
Pour les differents serveurs, c'est surtout dans les boites qu'on spécifie un tache précise a un serveur, tu auras un serveur de fichier, un serveur HTTP, serveur Web, un serveur d'impression, un serveur FTP, un serveur de messagerie... on les spécialise pour qu'ils tiennent la charge de taff, rien d'autre

et que si ils tombent en rade, il n'y est que la fonction dont il avait la charge qui soit paralisée.
Pour le cout, si tu part sur un Serveur sous XP pro, y a que la licence ^^ alors que linux ...

, ou peut être le cout auprés de ton FAI si tu prends une ip fixe...
Si tu comptes heberger un site Web avec et que tu n'as "qu'une connexion ADSL" même 1Mbit... je te conseille d'ouvrir un compte chez un hebergeur, car ta bande passante souffrira moins (surtout le up), un petit serveur chez soit, c'est trés pratique pour se proteger, faire du partage de connexion, avoir un serveur FTP etc... mais si tu mets qu'u seul PC derriere... ça n'a pas forcement d'interet a mon avis