Die Sache wird an die Beschwerdegegnerin zurückgewiesen, damit diese im Sinne der Erwägungen verfahre und hierauf neu verfüge.
4. Der Beschwerdeführer hat die Verfahrenskosten von CHF 1'000.00 zu bezahlen. Diese werden mit dem von ihm geleisteten Kostenvorschuss in gleicher Höhe verrechnet.
5. Die IV-Stelle Solothurn hat die Kosten des Gerichtsgutachtens vom 17. August 2016 von CHF 14'600.50 zu bezahlen.
6. Die Kosten für das Aktengutachten vom 7. Februar 2018 von CHF 1'950.00 gehen zu Lasten des Staates.
7. Eine Kopie des Protokolls der öffentlichen Verhandlung vom 7. November 2018 geht zur Kenntnisnahme an die Parteien.