Sekolah Kebangsaan Jalan Baharu diasaskan oleh penduduk yang diketuai oleh seorang pawang pada tahun 1884. Bangunan awal terdiri dari pokok nibong dan beratap nipah.

Pada tahun 1905,kerajaan Inggeris  telah mendirikan dua buah bangunan tambahan. Dengan bilangan murid seramai tujuh puluh orang.

Pada tahun 1911,sebuah lagi bangunan tambahan didirikan. Semasa perang dunia kedua meletus sekolah ditutup buat sementara waktu dan kembali beroperasi setelah perang itu tamat.

Bagi menampung penambahan bilangan murid, sebuah lagi bangunan dibina secara bergotong-royong oleh penduduk kampung pada tahun 1957.

Pada tahun 1961, sebuah blok bangunan satu tingkat mengandungi empat buah bilik darjah dibina oleh kerajaan dan dirasmikanoleh Menteri Pelajaran pada waktu itu Encik Abdul Rahman bin Haji Talib pada 16September 1961.

Semasa pentadbiran Tuan Haji Khalid bin Abdul Hamid, peruntukan projek penambahan blok dua tingkat, sebuah kantin dan kemudahan padang permainan telah diluluskan.Kemudahan ini mula digunakan pada 3 Januari 1983.