Beliau terlibat dalam MIC cawangan Jelutong , Pulau Pinang sejak 1968.Beliau terpilih menjadi Setiausaha MIC Petaling Jaya. Kemudian dilantik menjadi Setiausaha Akhbar Presiden MIC, Datuk Seri Samy Vellu sejak 1987 dan dipinjamkan ke Kementerian Kerjaraya. Beliau menjadi ketua bahagian MIC Hulu Selangor, Ketua MIC Selangor dan Timbalan Presiden MIC Pusat.

Beliau adalah juara masyarakat miskin India di Malaysia. Kerana itu beliau beliau menang 4 penggal berturut-turut dalam pilihan raya di parlimen Hulu Selangor pada 1990, 1995, 1999 dan 2004. Dalam tahun 2004 beliau menang dengan majoriti 14,000. Sejak itu beliau terpilih sebagai Timbalan Presiden MIC melalui Pemilihan MIC 2006.

Ketika menjadi Setiausaha Parlimen Kementerian Perpaduan dan Pembangunan Masyarakat pada tahun 1996, Palanivel telah perkenalkan Yayasan Kebajikan Negara (YKN) kepada masyarakat India diseluruh negara. 5000 jenis bantuan diberikan untuk membiayai pembedahan dan rawatan penyakit kronik. Perogam Amanah Ikhtiar Malaysia (AIM) diperkenalkan kepada masyarakat India dan pelancarannya diadakan di Sungai Siput.

Malangnya beliau dan ramai pemimpin nasional MIC tewas dalam pilihan raya 2008. Gerakan Hindraf pada 26 November 2007 dan kumpulan Makkal Sakthi berjaya menonjolkan diri sebagai juara rakyat India. Sejak itu ramai pemimpin India menyertai PKR atau DAP dalam Pakatan Rakyat dan menumbangkan 5 kerajaan negeri . Seorang India dari DAP (V Sivakumar) telah dilantik sebagai Speaker DUN Perak, kemudian diganti oleh Palanivel. Pada 2008, MIC hanya kalah 9 kerusi parlimen sahaja. 50 kawasan parlimen , bilangan pengundi sangat kritikal. Pengundi India beralih arah kerana kerajaan pecah kuil 2-3 bulan sebelum pilihan raya . MIC mempunyai 4000 cawangan di seluruh Malaysia. Masyarakat India yang miskin juga wajar diberi tanah sebagaimana peneroka Felda. Contohnya Felda Gedangsa ada 300 pengundi India, di Sungai Buaya ada 100 hingga 200 orang pengundi India.

Pilihan raya Hulu Selangor 2010

Nama beliau (61 tahun) sahaja dicadangkan oleh Datuk Samy Vellu menjadi calon Barisan Nasional. Ramai pihak mahukan muka baru yang lebih segar daripada MIC kerana Palanivel sudah lima penggal bertanding di situ. Samy Vellu dan Palanivel 'pencen' selepas kalah dalam PRU12 . Jika Palanivel menjadi Presiden MIC, ini bermakna beliau menjadi presiden tanpa kawasan diwakili . Masalahnya 6000 pengundi yang menyokong 3 Adun tidak menokong beliau. 3 Adun itu ialah di Batang Kali,Hulu Bernam dan Kuala Kubu Baru.[3] Pada 3 Mei 2010, Palanivel dilantik sebagai Senator bagi memenuhi kuota MIC.