Sejarah Ai FM bermula pada tahun 1934. Pada 24 Ogos 1934, Khoo Sian Ewe telah mendapat lesen siaran yang pertama daripada kerajaan untuk membuat siaran dari rumahnya di Jalan Perak, Pulau Pinang. Siaran tersebut dikenali sebagai ZHj Penang yang berformat muzik dan rencana dalam Bahasa Melayu, Inggeris, Cina dan Tamil. Tidak lama kemudian, siaran ZHj Penang diambil alih oleh tentera pihak Jepun untuk menghebahkan dakyah serta berita Jepun dan dipindah ke Bangunan Chinese Recreation Club (Kelab Rekreasi Cina) di Jalan Burma.

Radio Malaya ditubuhkan pada 1946 semasa pemerintahan British. Siaran dari Pulau Pinang pada masa itu dibuat dalam bahasa Melayu, Cina dan Tamil adalah terhad dan bercorak tempatan manakala siaran berita disambung dari ibu pejabat berita di Singapura. Pada masa itu, siaran Ai FM dikenali sebagai Perkhidmatan Bahasa Cina atau Rangkaian Hijau. Ketua Perkhidmatan Cina pada keseluruhannya bernama Shi Zu Xian manakala Ketua Bahagian Cina yang pertama ialah Leong Teng Sun dan Lim Eng Mao sebagai penolongnya di Pulau Pinang.

Radio Malaya kemudiannya bertempat di Jalan Young (kini Jalan Cenderawasih), Kuala Lumpur pada awal 1950-an. Leong Teng Sun bertukar sebagai Ketua Perkhidmatan Cina dan Wong Kim Pok dari Radio Rediffusion ditugaskan sebagai Pengelola Rancangan Cina. Siaran Cina dari stesen Kuala Lumpur ketika itu adalah bermula dari pada pukul 12:00 sehingga 13:15 iaitu berita dan laporan Indeks harga Komoditi Utama manakala dari pukul 17:00 sehingga 19:00 adalah siaran kampung atau petani dan dasar kerajaan yang diterang dalam loghat Hakka, Kongfu dan Hokkien. Semasa zaman darurat (1948-1960) pula, Perkhidmatan Cina membuat rakaman dakyah menyeru pengganas komunis untuk menyerah diri.

Pada 1957, Radio Malaya berpindah ke tingkat 5 dan 6 di Rumah Persekutuan sehingga tahun 1972. Pada tahun 1959, Rangkaian Hijau mengambilalih penerbitan dan siaran berita dari stesen Singapura dan waktu siarannya juga dilanjutkan dari pukul 06:30 sehingga 23:00 melalui gelombang sederhana dan pendek. Mulai tahun 1960 ke 1970, Rangkaian Hijau meningkatkan penerbitan rakaman luar khasnya di luar bandar dan kawasan pertanian. Ramai kakitangan dan pelakon drama diserap ke Rangkaian Hijau untuk melancarkan pertandingan bakat, ciptaan lagu petriotik dan penerbitan drama. Ia mencipta sejarah dan keistimewaan iaitu menubuhkan kumpulan koir yang berkaliber dan berjaya mengeluarkan beberapa album karya.

Pada 9 Mei 1972, semua perkhidmatan Radio Malaysia memulakan siaran dari Wisma Radio di Angkasapuri RTM iaitu percantuman TV Malaysia dengan Radio Malaysia telah menyusun semula organisasi dan pada tahun 1993, Rangkaian Hijau telah bertukar nama kepada Radio 5. Radio 5 adalah salah satu rangkaian radio RTM daripada 31 rangakaian iaitu 10 rangkaian di Angkasapuri dan 21 lagi di stesen negeri Semenanjung Malaysia, Sabah dan Sarawak.

Pada 28 Disember 1994, Radio 5 memulakan siaran 24 jam sehari iaitu tambahan masa siaran sebanyak 50 jam seminggu dan siaran berita disiarkan pada setiap jam. Pada tahun 1998, Radio 5 sekali lagi bertukar nama kepada Saluran 5 tetapi tidak lama kemudiannya namanya kembali kepada Radio 5.

Pada 1 April 2005, semua stesen radio kebangsaan RTM kecuali Radio 8 menjenamakan semula termasuk Radio 5 yang menukar nama kepada Ai FM yang masih dikenali pada hari ini.