E.
S.________ interjette un recours de droit administratif en concluant à la réforme du jugement cantonal en ce sens qu'il a droit au maintien du paiement du supplément fixe (ou rente complémentaire d'invalidité) et qu'il ne doit pas le montant de 45'857 fr. 50. Subsidiairement, il demande au tribunal de dire qu'il n'est pas tenu de rembourser ce montant. Subsidiairement encore, il conclut à l'annulation du jugement attaqué.
La caisse de pensions conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il renonce à se déterminer.
Considérant en droit: