Kelab Bola sepak Johor (dahulunya PKENJ FC) telah ditubuhkan pada tahun 1972 di bawah Biro Sukan Persatuan Rekreasi Anggota pekerja PKENJ. Mula menyertai pertandingan bolasepak dalam Liga PBJB dan memenanganinya hampir setiap tahun.

Pada tahun 1988 pasukan PKENJ telah layak bertanding dalam Piala FAM. Seterusnya menjadi Juara Piala FAM tahun 1994 dan 1995, Naib Juara pada tahun 1996. Bermain dalam Liga Perdana 2 pada tahun 1997 hingga 2001. Menjadi Juara Liga Perdana 2 pada tahun 2001 dan seterusnya layak bermain dalam Liga Perdana 1 pada tahun 2002 dan 2003. Ketika itu, Johor FC menjadi antara pasukan terhebat di Malaysia menduduki tempat ke-4 dalam Liga Super musim 2007-2008 dan melayakkan diri ke separuh akhir Piala Malaysia 2008. Di antara pemain utama yang pernah bermain untuk pasukan kebangsaan antaranya Wan Rohaimi Wan Ismail, Eddy Helmi Abd Manan, Hamzani Omar dan Sumardi Hajalan.

Raul Carizzo, jurulatih yang berasal dari Argentina merupakan arkitek utama kebangkitan Johor FC ketika dizaman Piala FAM dimana beliau dapat membentuk skuad yang dianggap pelapis kepada skuad utama negeri Johor.

Antara pemain import yang menyerlah bersama mereka ialah Jonathan Ben Angelucci (Australia), Walter Andrian Silva (Argentina), Gustavo Fuentes (Argentina), Moses Mondororou (Cameroon), Ante Juric (Australia) dan Aytek Genc (Australia).