Beliau berkhidmat sebagai ahli Majlis Perbandaran Kangar pada 1981. Pada 1982 beliau menang bertanding di Parlimen Arau, Perlis dalam Pilihan raya umum Malaysia 1982 . Timbalan Yang Dipertua Dewan Rakyat dari tahun 1983 hingga 1986.

1986 beliau menang bertanding dalam Pilihan raya umum Malaysia 1986 .Pada Ogos 1986 Perdana Menteri Malaysia ketika itu,Tun Dr Mahathir Mohamad melantik beliau menjadi Menteri Besar Perlis. Kemudian beliau diganti oleh Dato' Seri Shahidan Kassim (1995-2008)[1]

Dalam Pilihan raya umum Malaysia 1999 beliau bertanding semula di parlimen Kangar.

Beliau menjadi menjadi Yang Dipertua Dewan Negara sejak 7 Julai 2003 dan disambung lagi pada 19 Julai 2006 untuk penggal kedua. Perdana Menteri Malaysia Datuk Seri Abdullah Ahmad Badawi mengemukakan cadangan itu dan disokong oleh Timbalan Menteri di Jabatan Perdana Menteri, Datuk M. Kayveas dan disokong oleh Senator Datuk Abdul Rahman Suliman, di Dewan Negara.Pada 6 Julai 2009, beliau menamatkan perkhidmatan sebagai Yang Dipertua Dewan Negara.Tempat beliau akan diambil alih timbalannya, Wong Foon Meng, 55, yang juga Setiausaha Agung MCA mulai 7 Julai 2009.[2]