Mahama pertama kali dipilih ke Parlimen Ghana pada tahun 1996 untuk mewakili Kawasan Bole / Bamboi selama tempoh empat tahun. Pada April 1997, Mahama telah dilantik sebagai Timbalan Menteri Perhubungan. Dia bangkit untuk menjadi Menteri Komunikasi November 1998 sehingga Januari 2001 .

Pada tahun 2000, Mahama dipilih semula untuk satu penggal lagi selama empat tahun sebagai Ahli Parlimen bagi kawasan undi Bole / Bamboi. Beliau dilantik semula pada tahun 2004 untuk kali ketiga. Dari 2001 - 2004, Mahama berkhidmat sebagai Jurucakap Parlimen bagi Komunikasi. Pada tahun 2002, beliau telah dilantik sebagai Pengarah Komunikasi untuk NDC. Pada tahun yang sama, beliau berkhidmat sebagai ahli pasukan pemerhati antarabangsa yang dipilih untuk Pilihanraya Parlimen memantau Pilihan raya Zimbabwe.

Sebagai Menteri Perhubungan, Mahama juga berkhidmat sebagai Pengerusi Majlis Kebangsaan Komunikasi Ghana untuk menstabilkan sektor telekomunikasi Ghana selepas ia telah dinyahkawal selia pada tahun 1997. Mahama juga pernah berkhidmat sebagai ahli Pasukan Pengurusan Ekonomi Negara, ahli Suruhanjaya AIDS Ghana, anggota jawatankuasa pelaksanaan Banci Penduduk 2000 dan Timbalan Pengerusi Jawatankuasa Publisiti untuk Penilaian Semula Cukai (VAT).

Pada tahun 2003 Mahama menjadi ahli Parlimen Pan-Afrika , berkhidmat sebagai Pengerusi Caucus Afrika Barat. Pada 7 Januari 2009, Mahama menjadi Naib Presiden Ghana.