A titre subsidiaire, elle conclut au rejet du recours dirigé contre la Confédération.
La Caisse fédérale de pensions PUBLICA prend les mêmes conclusions que la Confédération suisse s'agissant de la requête de la substitution de partie. Prenant position sur le fond, elle conclut au rejet du recours.
Quant à l'Office fédéral des assurances sociales, il renonce à prendre position.
Considérant en droit: