Kumpulan Khalifah telah ditubuhkan pada tahun 2006 setelah penyanyi asal kumpulan tersebut iaitu Yabang dan gitaris Harry yang pernah mencipta lagu “Kasihnya Laila” dan juga menjadi fenomena hit muzik single terhangat suatu ketika dulu, telah mengundurkan diri dari kumpulan Jinbara akibat ketidaksefahaman di antara mereka. Ahli yang membentuk kumpulan Khalifah ketika itu adalah Yabang selaku ketua kumpulan dan vokalis utama yang menerajui kumpulan tersebut, manakala Harry yang merupakan gitaris, manakala Moy dijadikan selaku pemain bass dan Tony sebagai pemain drum.Penyanyinya, Yabang berkemampuan untuk berqhasidah telah membawa kemahirannya mengawal suara bagi mengalunkan lagu seperti Kasihnya Laila, Siapa Laila, Suara Khalifah dan Satu Kalimah. Khalifah merupakan satu kumpulan yang lain dari lain dimana mereka boleh membawa pelbagai rentak lagu. Sungguhpun sudah lebih 10 tahun Yabang mengundur diri daripada Jinbara dan menubuhkan kumpulan Khalifah, masih ramai segelintir pihak juga membabitkan kisah tersebut yang mengaitkannya dengan kumpulan itu.