B. L'office fédéral des assurances sociales interjette recours de droit administratif contre ce jugement, dont il demande la réforme en prenant les conclusions suivantes: - Condamner la Caisse de pensions X.________ à verser des intérêts ordinaires réglementaires en faveur de A.________ sur la somme de 16'728 fr. 35 dès le 24 avril 2001 et jusqu'au jour du transfert de ladite somme à la Caisse fédérale de pensions; - Réserver le paiement d'intérêts moratoires de 4,25 % par année en cas de transfert tardif de ladite somme après le délai de 30 jours dès l'entrée en force de l'arrêt du Tribunal fédéral des assurances. Les institutions de prévoyance ont renoncé expressément à se déterminer.