Islam pertama kali diperkenalkan ke daerah Palestin sewaktu penaklukan Islam abad ke-7, apabila tentera dari Semenanjung Arab di bawah Khulafa al-Rasyidin menakluki wilayah terdahulunya di bawha kawalan Empayar Byzantin.[5]

Kebanyakan umat Islam di Israel adalah orang Arab Sunah. Sebagai akibat kenaikan Empayar Uthmaniyyah, dari 1516 hingga 1917, orang Turk Uthmaniyyah yang umat Sunah memerintah Palestin yang bersejarah, banyak darinya dikawali oleh Israel hari ini. Pucuk pemimpin mereka menguatkuasa semula dan memastikan kepusatan dan kepentingan Islam sebagai agama menguasai di daerah ini.

Penaklukan Palestin oleh tentera British pada 1917 dan Pengumuman Balfour yang berikutnya membuka pintu untuk ketibaan bilangan ramai orang Yahudi di Mandat Palestin yang bermula tip the scales dengan menggemari agama Yahudi dengan lalunya setiap dekad.

Meskipun, British memindah pentadbiran tanah simbolik Islam kepada Hashemite berasaskan di Jordan, dan bukan kepada Rumah Saud. Hashemites oleh itu menjadi penjaga-penjaga rasmi tanah-tanah suci Islam Baitulmuqaddis dan kawasan-kawasan di kelilingnya, khususnya kuat apabila Jordan mengawali Tebing Barat (1948–1967).

Orang Badwi di Israel juga umat Islam, dengan sesetengah puak Badwi menyertai dalam tentera Israel. Komuniti Circassian kecil terdiri dari umat Islam Sunah datang dari Caucasus pada lewat abad ke-19, tidak lama sebelum aliyah pertama, dan menetap di Galilee dengan pihak berkuasa Uthmaniyyah. Circassian juga berkhidmat dalam tentera Israel.

Pada 1922, British mencipta Majlis Tinggi Islam di Mandat British di Palestin dan melantik Amin al-Husayni (1895–1974) sebagai Ketua Mufti Baitulmuqaddis. Majlis ini dimansuhkan pada 1948.