Demnach wird erkannt:
1. Die Verfügung des Betreibungsamtes Olten-Gösgen vom 20. Dezember 2022 wird in Gutheissung der Beschwerde aufgehoben und das Betreibungsamt angewiesen, die Betreibung Nr. [...] an Dritte nicht bekanntzugeben.
2. Insofern der Beschwerdeführer die Löschung der Betreibung verlangt, wird die Beschwerde abgewiesen.
3. Es werden keine Kosten erhoben.
Rechtsmittel: Gegen diesen Entscheid kann innert 10 Tagen seit Eröffnung des begründeten Urteils beim Bundesgericht Beschwerde in Zivilsachen eingereicht werden (Adresse: 1000 Lausanne 14). Die Frist wird durch rechtzeitige Aufgabe bei der Schweizerischen Post gewahrt. Die Frist ist nicht erstreckbar.