Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 17. Dezember 1997 aufgehoben und die Sache an die Vorinstanz zurückgewiesen wird, damit sie im Sinne der Erwägungen verfahre und über die Klage neu entscheide.
II. Es werden keine Gerichtskosten erhoben.
III. Die Progressa Sammelstiftung BVG der Genfer Lebensversicherungs-Gesellschaft, Genf, hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 2'500. - zu bezahlen.