Kemudian juga Ketua PAC PPP Kec. Medan Timur & Kec. Medan Perjuangan, Kota Medan pada 1985-1995 serta Wakil Ketua DPC PPP Kota Medan pada 1995-2000. Ia juga pernah menduduki jabatan sebagai anggota DPRD Kota Medan pada 1997-1999.
Setelah di PPP, Romo pindah ke Partai Bintang Reformasi (PBR) sebelum akhirnya bergabung di Partai Gerindra. Di PBR, ia dipercaya sebagai Ketua Dewan Pimpinan Wilayah (DPW) PBR pada 2002-2006 serta Wakil Ketua Umum DPP PBR pada 2006-2011. Selama tergabung di PBR, ia pernah menduduki Ketua Fraksi DPRD Provinsi Sumatera Utara Fraksi PBR pada 2004-2009.
Selain aktif di organisasi politik, Romo juga tercatat masuk di berbagai organisasi lainnya seperti Korps Alumni Himpunan Mahasiswa Islam (KAHMI) baik di daerah maupun di pusat, Pengurus Pusat Ikatan Persaudaraan Haji Indonesia (PP-IPHI), Ikatan Alumni Fakultas Hukum Universitas Sumatera Utara, Pengurus Pusat Ikatan Alumni Universitas Sumatera Utara (PP IKA USU), hingga Dewan Pimpinan Nasional Himpunan Kerukunan Tani Indonesia (DPN HKTI).