Selepas menamatkan pengajian di Wirotomo, Sudirman menghabiskan setahun di sebuah kolej guru Muhammadiyah yang dikendalikan di Surakarta, tetapi kemudian berhenti kerana kekurangan dana.[23] Pada tahun 1936 beliau kembali ke kabupaten Cilacap untuk mengajar di sebuah sekolah rendah Muhammadiyah yang dikendalikan, yang telah dilatih oleh guru-gurunya di Wirotomo; pada tahun itu, dia telah mengahwini Alfiah, bekas rakan sekolah dan anak perempuan saudagar batik kaya Raden Sastroatmojo.[24][25] Selepas perkahwinannya, Sudirman tinggal di rumah baopa mertuanya di Cilacap supaya beliau boleh menyimpan wang untuk rumah sendiri.[24] Pasangan itu mempunyai tiga anak lelaki, Ahmad Tidarwono, Muhammad Teguh Bambang Tjahjadi, dan Taufik Effendi, dan empat orang anak perempuan, Didi Praptiastuti, Didi Sutjiati, Didi Pudjiati dan Titi Wahjuti Satyaningrum.[25][26]

Sebagai seorang guru, Sudirman mengajar pelajaran pelajarnya moral menggunakan contoh dari kehidupan para nabi dan cerita-cerita wayang tradisional.[24] Salah seorang muridnya kemudian teringat bahawa Sudirman adalah seorang guru yang adil dan pesakit yang akan bercampur humor dan nasionalisme dalam pelajaran beliau; ini menjadikan beliau popular dengan pelajar.[27] Seorang guru yang bekerja keras walaupun gaji miskin, dalam masa beberapa tahun Sudirman telah menjadi guru besar walaupun tidak mempunyai sijil guru.[28] Akibatnya, gaji bulanannya empat kali ganda daripada tiga gulden hingga dua belas setengah. Sebagai Guru Besar, Sudirman bekerja pada banyak tugas-tugas pentadbiran, termasuk mencari jalan tengah antara guru yang bertelagah. Rakan sekerja kemudian teringat bahawa Sudirman adalah seorang yang sederhana, pemimpin demokratik. [29] Beliau juga aktif dalam pengumpulan dana, baik untuk keperluan sekolah dan pembinaan lain.[30]

Pada masa ini Sudirman juga terus berkhidmat sebagai ahli Kumpulan Belia Muhammadiyah. Dalam kumpulan yang beliau dikenali sebagai seorang perunding yang berminat dan orang tengah, berusaha untuk menyelesaikan isu-isu antara ahli; beliau juga mengajar di Masjid tempatan.[31] Beliau telah dipilih sebagai Pengerusi Daerah Banyumas daripada Kumpulan Belia Muhammadiyah pada akhir tahun 1937. Dalam peranan ini, beliau menggubal dasar memudahkan kajian dan aktiviti ahli, kedua-dua agama dan sekular. Beliau kemudian dimasukkan ke dalam menjaga aktiviti Kumpulan Belia di seluruh Jawa Tengah[24][32] dan menghabiskan banyak masa lapangnya perjalanan dan dakwah Islam, meletakkan penekanan kepada kesedaran diri.[33] Alfiah juga aktif dalam aktiviti Muhammadiyah yang ditaja melalui cawangan kumpulan itu untuk wanita, Nasyiatul Aisyiyah. [34]