Selepas kepulangannya, beliau menyertai Perkhidmatan Awam Malaya dan bergiat dalam bidang politik. Disebabkan keupayaan politiknya, beliau dilantik menjadi ketua pemuda Pertubuhan Kebangsaan Melayu Bersatu (UMNO). Dua tahun kemudian, beliau berkhidmat sebagai Penolong Setiausaha Negeri Pahang dan kemudian, pada Februari 1955, beliau menjadi Pemangku Ketua Menteri Pahang sewaktu berumur hanya 33 tahun.

Selepas memenangi pilihan raya umum yang pertama di Malaya pada Julai 1955, beliau dilantik sebagai Menteri Pelajaran. Beliau juga menyertai misi Februari 1956 yang diketuai oleh Tunku Abdul Rahman ke London untuk menuntut kemerdekaan Malaya daripada pihak British dang portfolio Timbalan Perdana Menteri Malaysia dan Kementerian Pertahanan Menteri. Pencapaian-pencapaiannya yang utama termasuk perumusan dasar pembangunan yang dikenali sebagai "Buku Merah".

Beliau mengisytiharkan Keadaan Darurat selepas kejadian berdarah 13 Mei 1967 dan beliau memerintah melalui dekri sehingga 1970. Pada 22 September 1970, beliau mewarisi Tunku Abdul Rahman sebagai Perdana Menteri Malaysia yang kedua.

Beliau menjadi terkenal terutamanya selepas pelancaran Dasar Ekonomi Baru (DEB) pada tahun 1971. Beliau dan "generasi kedua" ahli-ahli politik Melayu memperlihatkan keperluan untuk mengendalikan ketidaksamaan ekonomi dan sosial yang telah membangkitkan antagonisme perkauman. DEB menetapkan dua sasaran yang asas, iaitu menghapuskan kemiskinan dan menghapuskan pengenalpastian fungsi ekonomi antara kaum.

Beliau telah menubuhkan Barisan Nasional pada 1 Januari 1973 untuk menggantikan Parti Perikatan. Beliau juga menambah ahli-ahli parti untuk mengasaskan apa yang dikatanya "Ketahanan Nasional" melalui kestabilan politik.

Disebabkan sebahagian daripada penyakit acute leukemia, beliau meninggal pada tahun 1976 sewaktu mendapat rawatan perubatan di London. Beliau disemadikan di berdekatan Makam Pahlawan yang berdekatan dengan Masjid Negara, Kuala Lumpur. Selepas kematiannya, beliau dianugerahkan dengan gelaran Bapa Pembangunan