5. Vu la nature du litige, la procédure n'est pas gratuite. Succombant, la recourante en supportera les frais (art. 134 OJ a contrario et 156 al. 1 OJ). Par ces motifs, le Tribunal fédéral des assurances prononce: 1. Le recours est rejeté. 2. Les frais de justice, d'un montant de 500 fr., sont mis à la charge de la Fondation institution supplétive LPP et compensés avec l'avance de frais, d'un même montant, qu'elle a versée. 3. Le présent arrêt sera communiqué aux parties, au Tribunal administratif du canton de Neuchâtel et à l'Office fédéral des assurances sociales. Lucerne, le 26 août 2004 Au nom du Tribunal fédéral des assurances La Présidente de la IIIe Chambre: La Greffière: