Pada tahun 1921 Tan Malaka telah terjun ke dalam gelanggang politik. Dengan semangat yang berkobar dari sebuah ponduk miskin, Tan Malaka banyak mengumpulkan pemuda-pemuda komunis. Pemuda cerdas ini banyak juga berbincang dengan Semaun (wakil ISDV) mengenai pergerakan revolusioner dalam pemerintahan Hindia Belanda. Selain itu juga merancang suatu rombakan dalam bentuk pendidikan bagi anggota-anggota PKI dan SI (Sarekat Islam) untuk menyusun suatu sistem tentang kursus-kursus kader serta ajaran-ajaran komunis, gerakan-gerakan aksi komunis, keahlian berbicara, jurnalistik dan keahlian memimpin rakyat. Namun pemerintahan Belanda melarang mengadakan kursus-kursus sedemikian dan mengambil tindakan tegas ke atas pesertanya.

Melihat hal itu Tan Malaka mempunyai niat untuk mendirikan sekolah-sekolah sebagai anak-anak anggota SI untuk penciptaan kader-kader baru. Juga dengan alasan pertama: memberi banyak jalan (kepada para murid) untuk mendapatkan mata pencarian di dunia kapitalis (mengira, menulis, membaca, ilmu bumi, bahasa Belanda, Melayu, Jawa dan lain-lain); kedua, memberikan kebebasan kepada murid untuk mengikuti kegemaran mereka dalam bentuk perkumpulan-perkumpulan; ketiga, untuk memperbaiki nasib kaum miskin. Untuk mendirikan sekolah itu, ruang rapat SI Semarang diubah menjadi sekolah. Dan sekolah itu bertumbuh sangat cepat hingga sekolah itu semakin lama semakin besar.

Perjaungan Tan Malaka tidaklah hanya sebatas pada usaha mencerdaskan rakyat Indonesia pada saat itu, tapi juga pada gerakan-gerakan dalam melawan ketidakadilan seperti yang dilakukan para buruh terhadap pemerintahan Hindia Belanda lewat VSTP dan aksi-aksi pemogokan, disertai selebaran-selebaran sebagai alat propaganda yang ditujukan kepada rakyat agar rakyat dapat melihat adanya ketidakadilan yang diterima oleh kaum buruh.

Seperti dikatakan Tan Malaka pada pidatonya di depan para buruh “Semua gerakan buruh untuk mengeluarkan suatu pemogokan umum sebagai pernyataan simpati, apabila nanti menglami kegagalan maka pegawai yang akan diberhentikan akan didorongnya untuk berjuang dengan gigih dalam pergerakan revolusioner”.

Pergulatan Tan Malaka dengan partai komunis di dunia sangatlah jelas. Ia tidak hanya mempunyai hak untuk memberi usul-usul dan dan mengadakan kritik tetapi juga hak untuk mengucapkan vetonya atas aksi-aksi yang dilakukan partai komunis di daerah kerjanya. Tan Malaka juga harus mengadakan pengawasan supaya anggaran dasar, program dan taktik dari Komintern (Komunis Internasional) dan Profintern seperti yang telah ditentukan di kongres-kongres Moskwa diikuti oleh kaum komunis dunia. Dengan demikian tanggung-jawabnya sebagai wakil Komintern lebih berat dari keanggotaannya di PKI.

Sebagai seorang pemimpin yang masih sangat muda ia meletakkan tanggung jawab yang sangat berat pada pundaknya. Tan Malaka dan sebagian kawan-kawannya memisahkan diri dan kemudian memutuskan hubungan dengan PKI, Sardjono-Alimin-Musso.

Pemberontakan 1926 yang dirancang hasil dari Keputusan Prambanan yang berakibat bunuh diri bagi perjuangan nasional rakyat Indonesia melawan penjajah waktu itu. Pemberontakan 1926 hanya merupakan gejolak kerusuhan dan keributan kecil di beberapa daerah di Indonesia. Maka dengan mudah dalam waktu singkat pihak penjajah Belanda dapat mengakhirinya. Akibatnya ribuan pejuang politik ditangkap dan ditahan. Ada yang disiksa, ada yang dibunuh dan banyak yang dibuang ke Boven Digoel, Irian Jaya. Peristiwa ini dijadikan dalih oleh Belanda untuk menangkap, menahan dan membuang setiap orang yang melawan mereka, sekalipun bukan PKI. Maka perjuangan nasional mendapat pukulan yang sangat berat dan mengalami kemunduran besar serta lumpuh selama bertahun-tahun.

Tan Malaka yang berada di luar negeri pada waktu itu, berkumpul dengan beberapa temannya di Bangkok. Di ibu kota Thailand itu, bersama Soebakat dan Djamaludddin Tamin, Juni 1927 Tan Malaka memproklamasikan berdirinya Partai Republik Indonesia (PARI). Dua tahun sebelumnya Tan Malaka telah menulis "Menuju Republik Indonesia". Itu ditunjukkan kepada para pejuang intelektual di Indonesia dan di negeri Belanda. Buku itu pertama kali di terbitkan di Kowloon, Hong Kong, April 1925.

Prof. Mohammad Yamin, dalam karya tulisnya "Tan Malaka Bapak Republik Indonesia" memberi ulasan: "Tak ubahnya daripada Jefferson Washington merancangkan Republik Amerika Syarikat sebelum kemerdekaannya tercapai atau Rizal Bonifacio meramalkan Filipina sebelum revolusi Filipina pecah…."