Menurut seorang ahli sejarah tempatan, Cikgu
Hassan bin Muhammad, daerah
Segamat asalnya dikenali sebagai
Rantau Panjang. Sekitar tahun 1511,
Bendahara terakhir
Melaka,
Bendahara Tepok dan para pengikutnya berundur ke
Johor setelah kejatuhan Melaka ke tangan tentera
Portugis pimpinan
Alfonso de Albuquerque.
Bendahara dan para pengikutnya berhenti berehat di satu lubuk sungai di kawasan tersebut dan meminum air sungai tersebut. Setelah meminumnya, beliau berkata, "Segar amat badanku ini!", dan seterusnya menamakan sungai tersebut sebagai Segar Amat, yang kemudian berubah menjadi Segamat. Namun demikian, nama tersebut hanya diguna pakai pada sungai tersebut sahaja. Petempatan yang seterusnya menjadi pusat bandar Segamat asalnya dipanggil Rantau Panjang. Bandar tersebut hanya mengambil nama sungai itu pada awal abad ke-20.Menjelang penghujung abad ke-19, 4 daerah asal Johor mempunyai beberapa daerah kecil, contohnya daerah asal Muar mempunyai 4 daerah kecil -
Parit Jawa,
Chohong,
Lenga dan Segamat. Pegawai Daerah Kecil Segamat yang pertama adalah
Encik Menthol bin Haji Ahmad. Pada tahun 1933, daerah penuh Segamat ditubuhkan setelah persempadanan semula oleh kerajaan
Johor bagi memisahkan 4 daerah asal (
Muar,
Batu Pahat,
Johor Bahru dan
Sedili) kepada 8 daerah (sebelum persempadanan tahun 2008 yang menambah daerah
Kulaijaya dan
Ledang untuk membentuk 10 daerah).Setelah pembentukan Daerah Segamat, kerajaan mula membangunkan Segamat terutamanya dengan aktiviti pertanian bagi memacu ekonomi Segamat. Ia termasuklah pembinaan
sistem kereta api kebangsaan yang melalui bandar Segamat.Stesen KTM Segamat memberi perkhidmatan kereta api bagi daerah Segamat, Ledang dan Muar Johor serta pembinaan jalan utama yang dikenali sebagai
Laluan Persekutuan .Pada tahun 1970-an,
Lebuhraya Tun Razak telah dibina bagi memacu ekonomi Segamat sebagai hab pertanian, memendekkan perjalanan ke
Kuantan serta untuk menyegerakan proses pembangunan di kawasan mundur di selatan
Pahang.Kampus cawangan Johor bagi
Universiti Teknologi MARA (UiTM) telah dibina di
Jementah pada penghujung 1980-an dan mula beroperasi pada tahun 1991. Pembinaan kampus UiTM di daerah Segamat menjadikan Segamat sebagai satu lagi hab pendidikan utama di Johor selain
Skudai yang menempatkan
Universiti Teknologi Malaysia.Pada tahun 1996,
Pelabuhan Darat Segamat dibina bagi menjadikan Segamat satu lagi hab pengangkutan utama, sebagai mana
Nilai di
Negeri Sembilan. Dengan pembinaan pelabuhan darat tersebut, pengilang hanya perlu menghantar barang ke Pelabuhan Darat Segamat dan kemudian barang tersebut akan dihantar ke
pelabuhan terdekat seperti
Pasir Gudang melalui
kereta api dan ini boleh meningkatkan kecekapan pengangkutan.Pada tahun 1999, jambatan kedua Segamat, dibiayai terutamanya oleh pemaju swasta telah dibina bagi mengurangkan kesesakan di jambatan utama. Jambatan tersebut dimasukkan sebagai sebahagian pakej
Jalan Lingkaran Dalam Segamat yang terdiri daripada kerja naik taraf kepada jalan 4 lorong di Jalan Pemuda, Jalan Hassan, Jalan Pee Kang Hai dan Jalan Chia Chin Koon, siap pada Ogos 2005.
Jalan lingkaran dalam tersebut amat berguna bagi mengalihkan aliran lalu lintas apabila jalan-jalan utama di pusat bandar ditutup bagi upacara khas seperti
Hari Kebangsaan.