Persebaya diasaskan oleh Paijo dan M. Pamoedji pada 18 Jun 1927. Pada awal ditubuhkanya, Persebaya dinamai dengan menggunakan bahasa Belanda Soerabajasche Indische Voetbal Bond (SIVB) (Bahasa Melayu: Kelab Bolasepak Indonesia Surabaya)[2]. Pada masa itu pula di bandar Surabaya juga terdapat sebuah kelab bolasepak lain yang lebih dulu wujud bernama Soerabajasche Voetbal Bond (SVB)(Bahasa Melayu: Kelab Bolasepak Surabaya), SVB ini ditubuhkan pada tahun 1910 dan pemainnya adalah orang-orang Belanda yang ada di Surabaya.

Setelah ditubuhkanya Persatuan Bolasepak Kebangsaan Indonesia (PSSI) pada 19hb April 1930, kemudian dilaksanakanlah kompetisyen tahunan kelab-kelab bolasepak antara bandar di Indonesia atau yang disebut dengan Kompetisyen Persyarikatan (Bahasa Indonesia: Kompetisi Perserikatan).

Di musim pertama kompetisyen rasmi pada tahun 1938, SIVB berhasil mara ke perlawanan akhir meski akhirnya takluk kepada VIJ Jakarta.

Ketika terjadi perang pasifik 1942, majoriti pemain SIVB yang adalah orang bumiputera dan sebahagian kecil kaum cina kembali mara ke perlawanan akhir namun lagi-lagi kecundang apabila kalah kepada Persis Solo.

Pada tahun 1943 SIVB berganti nama menjadi Persibaja singkatan daripada (Persatuan Sepak Bola Indonesia Soerabaja). Pada masa ini Persibaja diterajui oleh Dr. Soewandi. Dan di masa inilah Persibaja mencapai puncak kejayaan dengan meraih trofi juara berturut-turut pada tahun 1950, 1951, dan 1952. Setelah era Dr. Soewandi, Persebaya kembali meraih juara pada tahun 1978 dan 1988.

Pada tahun 1960, nama Persibaja diganti sekali lagi dengan mengikut kepada ejaan bahasa yang baru, menjadi Persebaya (Persatuan Sepak Bola Surabaya).

Pada era persyarikatan ini, Persebaya adalah merupakan satu antara gergasi bolasepak di Indonesia bersama PSMS Medan, PSM Makassar, Persib Bandung dan Persija Jakarta. Persebaya lima kali mengangkat trofi juara dan sebelas kali meraih peringkat naib juara.

Pada tahun 1994, PSSI membentuk kompetisyen baru yang lebih moden yang diberi nama Liga Indonesia. Di era Liga Indonesia ini Persebaya berjaya mengangkat trofi juara di tahun 1997. Bahkan Persebaya juga mencipta sejarah apabila tampil sebagai tim pertama yang mampu meraih trofi juara Liga Indonesia untuk kali kedua di tahun 2005.

Pada tahun 2010, kerana konspirasi elit PSSI, Persebaya harus turun divisyen ke Divisyen Utama (sekarang Liga 2)[3], namun Persebaya tak tinggal diam dan kemudianya melakukan perlawanan. Bersama dengan beberapa kelab yang tak puas hati dengan PSSI, mereka mengisytiharkan keluar daripada PSSI dan mengikuti kompetisyen baru diluar PSSI yang disebut dengan istilah 'Breakaway League' pada tahun 2010 . Liga yang diasaskan oleh Arifin Panigoro, seorang ahli perniagaan terkemuka Indonesia tersebut kemudianya dinamai Indonesian Premier League (IPL).

Ketika mengikuti kompetisyen IPL tersebut, Persebaya sekali lagi merubah namanya menjadi Persebaya 1927 dan juga merubah logonya.[4]

Setelah sengkarut bolasepak Indonesia berakhir antara tahun 2014 hingga 2016 (hingga Indonesia kena ban oleh FIFA), setelah hukuman dari FIFA berakhir kemudian PSSI memilih presiden yang baru pada tahun 2016. Presiden PSSI yang baru iaitu Lt.Jen. Edy Rahmayadi kemudianya membaikpulih status Persebaya 1927 dan menerimanya kembali menjadi anggota PSSI pada 8hb Januari 2017 sempena annual congress PSSI di Bandung. Namun Persebaya 1927 harus memulai kompetisyen pada tahap kedua liga iaitu Liga 2 di season 2017.

Dan sekali lagi Persebaya yang kembali menggunakan nama kebesaranya Persebaya Surabaya menunjukkan reputasinya sebagai kelab gergasi yang penuh tradisi di Indonesia yang hanya dalam semusim berjaya mengangkat trofi juara Liga 2 di tahun 2017 untuk membolehkanya naik ke tahap tertinggi Liga Indonesia iaitu Liga 1 pada tahun 2018.