Cimahi mula dikenali pada tahun 1811, Gabernor Jeneral Herman Willem Daendels membuat jalan Anyer-Panarukan, dengan membuat pos penjagaan di jalan-jalan di Cimahi sekarang. Pada tahun 1874–1893, dibina jalan kereta api Bandung ke Cianjur sekaligus membina stesen kereta api Cimahi. Pada tahun 1886 dibangunkan pula pusat pendidikan tentera dengan kemudahan-kemudahan yang lain seperti hospital Dustira dan rumah tahanan tentera. Pada tahun 1935, Cimahi diumumkan sebagai kecamatan.

Selepas kemerdekaan Indonesia, Cimahi menjadi sebahagian daripada Kabupaten Bandung Utara. Pada tahun 1962, dibentuk pula Kawedanan Cimahi yang meliputi Kecamatan Cimahi, Padalarang, Batujajar, dan Cipatat. Berdasarkan PP bernombor 29 tahun 1975, Cimahi ditingkatkan statusnya menjadi kota pentadbiran pada 29 Januari 1976, dan menjadi kota pentadbiran pertama di Jawa Barat.Bermula 21 Jun 2001 status Cimahi menjadi kota.

Kini Cimahi menjadi salah satu kawasan membangun Kota Bandung di sebelah barat. Jumlah penduduknya sebanyak 483.000 orang, meningkat dari 290.000 pada tahun 1990. Pertumbuhan rata-rata 2,12% per tahun.