Il sera statué sans frais, les collectivités publiques n’en payant pas. Le recourant qui agit sans mandataire et n'allègue pas de frais particuliers, n'a pas droit, pour la présente procédure devant la Cour de droit public, à des dépens qu'il ne sollicite d'ailleurs pas.
Par ces motifs,
la Cour de droit public
1. Admet le recours.
2. Annule les chiffres 2, 3 et 4 de la décision attaquée.
3. Statue sans frais ni allocation de dépens.
Neuchâtel, le 30 décembre 2011