La décision du département des finances et des affaires sociales
du 15 mars 1995 est dès lors confirmée. Vu le sort de la cause, le recourant supportera les frais de la procédure de recours (art.47 al.1 LPJA).
Il n'y a pas lieu d'allouer des dépens (art.48 al.1 a contrario LPJA).
Par ces motifs,
LE TRIBUNAL ADMINISTRATIF
1. Rejette le recours.
2. Met à la charge du recourant les frais arrêtés à 550 francs (compensés
par son avance).
Neuchâtel, le 15 juin 1995
AU NOM DU TRIBUNAL ADMINISTRATIF
Le greffier Le président