A. P., né en 1977, a commencé un apprentissage d'électronicien à l'Ecole technique du Centre professionnel du Littoral neuchâtelois (CPLN) au mois d'août 1994. Le 16 décembre 1994, il a toutefois rompu son contrat d'apprentissage parce qu'il rencontrait des difficultés scolaires. Apprenant la rupture du contrat, la Caisse cantonale neuchâteloise de compensation s'est adressée par un courrier du 13 avril 1995 au CPLN pour obtenir des précisions sur la nouvelle situation de l'intéressé. Ce courrier n'a eu aucune suite. Par lettre du 22 septembre 1995, la caisse s'est adressée au père du prénommé, V., l'informant que, puisqu'elle n'avait reçu aucune nouvelle, elle suspendait le verse-