Penubuhannya telah diilhamkan oleh Perdana Menteri pada ketika itu iaitu Tun Abdul Razak Hussein yang melihat peri pentingnya sebuah badan diwujudkan berperanan sebagai penyelaras kepada aktiviti serta program dakwah yang pelbagai selain sebagai medium yang dapat menyelesaikan isu-isu khusus yang timbul.

YADIM juga ditubuhkan sebagai suatu badan yang bertindak bagi menyelaras badan-badan agama khususnya badan bukan kerajaan yang dilihat tidak berkoordinasi dengan baik.

Pada masa yang sama, Biro Agama UMNO pimpinan YB Dato’ Wan Abdul Kadir Ismail dalam mesyuaratnya pada 18 Julai 1971 telah sebulat suara mengambil keputusan untuk mendesak pihak kerajaan menubuhkan suatu badan yang diberi tanggungjawab menyelaraskan kegiatan badan-badan dakwah bagi maksud dakwah dan tabligh di samping menyaingi kegiatan-kegiatan mubaligh Kristian pada masa itu.

Justeru, atas keprihatinan tersebut, Tun Abdul Razak Hussein telah mengarahkan pembentukan satu kumpulan pemikir untuk membincangkan penubuhan suatu badan dakwah. Hasilnya, dalam Kongres Ekonomi Islam Kedua pada 7 April 1972 telah merumus dan mencadangkan penubuhan perbadanan Muslimin dengan nama Yayasan Sebaran Islam (Islamic Missionary Trust) dengan tujuan menjalankan dakwah islamiah dan menjalankan usaha-usaha kebajikan di seluruh negara.

Berkesinambungan daripada itu, dalam persidangan kesepuluh Majlis Kebangsaan Hal Ehwal Agama Islam Malaysia pada 6 Julai 1973, keputusan untuk menubuhkan suatu badan dakwah kebangsaan telah dipersetujui dengan nama Yayasan Dakwah Islamiah Malaysia dan mengarahkan Setiausaha Majlis tersebut, Dato’ Ismail Panjang Aris menyiapkan perlembagaannya.

Pada 25 Jun 1974, Tun Abdul Razak Hussein mengisytiharkan penubuhannya mengambil sempena awal tahun hijrah 1 Muharam 1394 di majlis perjumpaan PERKIM Pahang. Dalam pengisytiharan tersebut, beliau telah menamakan senarai anggota pemegang amanah YADIM seramai 12 orang. YB Tan Sri Syed Nasir Ismail (kini Tun) sebagai Yang Dipertua pertama dan YB Haji Hassan Adli Haji Mohd Arshad (kini Dato’) sebagai timbalannya.

Ahli-ahli yang lain adalah:

1. YB Tan Sri Syed Jaafar Albar

2. YB Nik Abdul Aziz Haji Nik Mat (kini Dato’)

3. YB Encik Mawardi Lebai Teh

4. YB Tuan Haji Mokhtar Haji Mohd Daud

5. Encik Khaidir Khatib

6. Encik Dusuki Ahmad (kini Dato’)

7. Tuan Sheikh Ghazali Abdul Wahab

8. Datuk Dr Omar Din

9. Datuk Haji Mohamed Haji Ahmad

10. Encik Ismail Talap

Yayasan Dakwah Islamiah Malaysia mula beroperasi pada Ogos 1975 di tingkat 11 bangunan Wisma Batik, Jalan Tun Perak, Kuala Lumpur. Kemudian, pada 1 Januari 1980, kerajaan telah memperuntukkan sebuah rumah milik Jabatan Kerja Raya (JKR) di Jalan Ledang dengan keluasan kira-kira 3 ½ hektar bagi dijadikan pejabat baru YADIM. Lapan tahun selepas itu iaitu pada tahun 1988, YADIM berpindah pula ke Pusat Islam berhampiran Masjid Negara.

Usaha ini melibatkan pertubuhan pelajar, belia, badan badan bukan kerajaan (NGO), parti-parti politik, badan-badan dakwah, gerakan dakwah sukarela dan lain-lain. YADIM telah dipertanggungjawabkan untuk menyelaras badan-badan tersebut yang memperjuangkan gerakan dakwah ini supaya memainkan peranan positif dalam pembangunan dakwah negara.

Semenjak ditubuhkan, pelbagai pihak telah turut memberikan sokongan dan kerjasama yang baik. Segala aktivitinya dibantu oleh tenaga pengajar kehormat yang terdiri daripada pensyarah-pensyarah dari pusat pengajian tinggi, pegawai-pegawai dari jabatan-jabatan agama, aktivis dakwah dari badan badan sukarela dan badan bukan kerajaan.

Bagi merealisasikan fungsinya sebagai badan penyelaras, YADIM telah merancang dan melaksanakan persidangan, simposium, muktamar, seminar, syarahan, mesyuarat dan muzakarah, menerbitkan majalah majalah, buku-buku dan bahan terbitan lain. YADIM juga berperanan menyokong persatuan, institusi dan badan lain yang mempunyai tujuan dakwah dan memberi nasihat mengenai kegiatan persatuan, institusi dan badan lain supaya mencapai tujuan yang maksima.