Pada tahun 1974, beliau dipilih sebagai Ahli Parlimen Mata Kuching, Pulau Pinang. Kini dikenali sebagai Parlimen Bagan. Pada tahun 1986, beliau bertanding dan memenangi kerusi Parlimen Labis. Beliau mengekalkan kerusi tersebut untuk 4 penggal berturut-turut dalam pilihanraya 1986, 1990, 1995 dan 1999. Pada 3 September 1986, beliau telah dilantik sebagai Presiden MCA. Beliau menjadi Presiden MCA pada usia 43 tahun dan mentadbir parti selama 17 tahun dari tahun 1986 hingga tahun 2003, selepas penyandangnya, Tan Koon Swan berhadapan krisis pan ell yang memaksa beliau untuk meletakkan jawatan.

Beliau pernah dilantik sebagai Setiausaha Parlimen Kementerian Kerajaan Tempatan dan Persekutuan, Timbalan Menteri Penerangan, Timbalan Menteri Kewangan dan Timbalan Menteri Pelajaran. Jawatan terakhir sebagai Menteri Pengangkutan.

Antara kejayaan MCA sewaktu beliau menjadi Presiden MCA ialah mempromosi dan memperbesarkan Kolej Tunku Abdul Rahman (KTAR) di Setapak dan mengutip dana untuk menubuhkan Universiti Tunku Abdul Rahman di Kampar.

Biasiswa Koperasi Jayadiri Malaysia (Kojadi) turut dilancarkan. Kemudian Projek Pendidikan Langkawi turut dilancarkan bagi mengutip dana pendidikan.[1] Projek ini dilihat menyaingi Projek Tanjung I, II dan III yang dilaksanakan oleh DAP.