Orang Muslim bergerak menuju Khaibar pada bulan Mei 628 bersamaan Muharram 7 H[33]. Mengikut beberapa sumber, tentera Islam terdiri daripada 1,400 ke 1,800 orang dan antara 100 dan 200 ekor kuda. Beberapa wanita Muslim (termasuk Ummu Salamah) juga menyertai angkatan Islam dengan niat untuk merawat mereka yang tercedera.[34] Berbanding dengan angkata Khaibar yang mempunyai kekuatan seramai 10,000 orang tentera, kontinjen Muslim kecil; namun ini membawa beberapa kelebihan kepada pihak Muslim.

Bilangan relatif kecil ini membolehkan tentera Muslim bergerak dengan pantas dan senyap menghala ke Khaibar (mengambil masa hanya tiga hari)[35]), sekali gus mengejutkan kota itu. Ia juga membuat pasukan pertahanan Khaibar terlalu yakin.[36] Hasilnya, orang Yahudi gagal membuat pertahanan yang teratur dan setiap keluarga terpaksa mempertahankan kubu masing-masing tanpa mendapat bantuan daripada pihak kawan.[6][24] Perasaan terlalu yakin terhadap kebolehan tentera Muslim ini membenarkan Nabi Muhammad SAW menakluk dengan mudah setiap kubu satu persatu, dan dengan itu merampas makanan, persenjataan dan tanah semasa mara.[37] Seorang Muslim melaporkan: "Kami bertemu pekerja-pekerja Khaibar yang keluar pada waktu pagi bersama-sama penyodok dan bakul mereka. Apabila mereka ternampak Nabi dan tentera Islam, mereka berteriak, 'Muhammad dan tenteranya,' lalu terus pusing dan lari. Nabi berkata, 'Allah Akbar! Khaibar sudah musnah. Bila kita sampai di medan para penduduk nanti, ia akan menjadi pagi yang buruk bagi mereka yang telah diberi peringatan.'" [38]

Selepas satu pertempuran yang agak ganas di hadapan satu daripada kubu, pihak Yahudi mula mengelak daripada bertempur di tanah lapang. Sebahagian besar pertempuran terdiri daripada peraduan memanah dari jarak jauh. Pihak Muslim dapat merempuh kubu-kubu Yahudi sekurang-kurangnya sekali. Yahudi yang terkepung berjaya memindahkan orang dan harta mereka dari satu kubu ke kubu yang lain demi memperkukuhkan kedudukan mereka dengan bantuan kegelapan hari.[6]

Kedua-dua pihak, Muslim dan Yahudi, tidak bersedia untuk pengepungan yang berpanjangan, dan kedua-dua pihak kekurangan bekalan. Pihak Yahudi, yang pada awalnya amat yakin akan kekuatan mereka, gagal menyediakan bekalan, mahupun bekalan air yang dapat menampung pengepungan pendek.[39]

Serbuan terhadap al-Qamus

Selepas kubu-kubu di al-Natat dan al-Shiqq ditawan, hanya tinggal kubu terakhir dan yang paling kuat dipertahan yang digelar al-Qamus. Kepungan terhadap kubu ini dilaksanakan selama antara 13 dan 19 hari.[37]

Beberapa cubaan oleh orang Islam untuk menawan kubu kuat ini melalui pertempuran satu lawan satu gagal.[40] Cubaan pertama dibuat oleh Abu Bakar. Beliau mengambil panji-panji Nabi Muhammad akan tetapi gagal menewaskan musuh. Saidina Umar, yang beriya-iya untuk menunjukkan kegagahannya, mengambil panji-panji Nabi Muhammad dan bertempur dengan lebih bertenaga daripada Saidina Abu Bakar tetapi juga gagal. Pada malam hari, Nabi Muhammad berkata, "Dengan nama Allah, esok akan ku berikannya (panji) kepada seorang yang mencintai Allah dan Rasulnya, yang dikasihi Allah dan Rasulnya dan yang akan mengambilnya dengan penuh ketaatan." Pada keesokan hari, kaum Quraisy bertelagah sesama sendiri tentang siapa yang akan membawa panji-panji, akan tetapi Nabi Muhammad memanggil Saidina Ali bin Abi Talib.[41] Sepanjang pertempuran, Saidina Ali, menantu dan sepupu Nabi Muhammad, tidak sihat dan tidak mengambil bahagian dalam percubaan-percubaan terdahulu. Saidina Ali datang kepada Nabi Muhammad, mengubati penyakit bengkak mata yang dialami Saidina Ali dengan menyapu air liur baginda pada mata Saidina Ali. Dengan tenaga baharu, Saidina Ali keluar bertemu musuh sambil membawa panji-panji Nabi. Apabila sampai di Kubu Qamus, beliau ditemui di get oleh Marhab, seorang pembesar Yahudi yang berpengalaman dalam peperangangan. Marhab berkata,

Kedua-dua perajurit itu bertempur, dan selepas hentaman kedua, Saidina Ali merekahkan topi besi Marhab sambil membelah kepala Marhab sehingga pedangnya sampai ke gigi musuh.[43] Berikutan kemenangan ini, pertempuran pun bermula dan Saidina Ali bergerak menghampiri kubu musuh. Semasa pertempuran, Saidina Ali kehilangan perisainya. Sebagai ganti, beliau mengambil sebuah pintu dan menggunakan ia sebagai perisai. Apabila tiba masanya untuk menyerbu kubu, beliau menggunakan pintu itu sebagai jambatan untuk dugunakan oleh tenteranya bagi menyerbu masuk ke dalam kubu dan seterusnya menawan pertahanan terakhir. Dikatakan bahawa pintu itu amat berat dan memerlukan lapan orang untuk memikulnya dan memasangnya kembali pada engselnya.[32]"Rasul menghidupkan semula iman (pengikutnya) dengan teladan Ali, yang diberikannya gelaran Singa Allah."[44]