A. A.________ et son épouse C.________ sont copropriétaires de deux parcelles acquises en 2007 et situées en zone à bâtir, les articles ddd et eee du registre foncier de B.________. Ces deux parcelles constituent le jardin entourant au sud et au nord l'article fff sur lequel est érigé leur habitation. Le 3 février 2010, la Commune de B.________-G.________ (ci-après : la Commune), leur a notifié deux factures intitulées chacune "Décompte final pour les parcelles non bâties :