Zusammenfassend ergibt sich, dass die Beschwerde gutzuheissen und der
Rekursentscheid vom 20. Oktober 2003 aufzuheben ist. Dem Beschwerdeführer ist die
Ausweisung förmlich anzudrohen.

3./ Dem Verfahrensausgang entsprechend sind die amtlichen Kosten des
Beschwerdeverfahrens dem Staat aufzuerlegen (Art. 95 Abs. 1 VRP). Eine
Entscheidgebühr von Fr. 2'000.-- ist angemessen (Ziff. 382 des Gerichtskostentarifs,
sGS 941.12). Auf ihre Erhebung ist zu verzichten (Art. 95 Abs. 3 VRP). Dem
Beschwerdeführer ist der geleistete Kostenvorschuss von Fr. 2'000.--
zurückzuerstatten.