En droit : 1. 1.1 La décision attaquée est fondée sur la loi sur le personnel de l'Etat (LPer ; RSJU 173.11), entrée en vigueur le 1er janvier 2011, qui prévoit à son article 94 que toute décision prise en vertu de cette loi et concernant la situation de l'employé peut faire l'objet d'un recours auprès de la Cour administrative du Tribunal cantonal.