Beliau kemudian belajar di Sekolah Arab Limbongan Kapal, Alor Setar ketika ayahnya mengajar di sekolah itu yang kini dikenali sebagai Maktab Mahmud antara 1920 hingga 1926. Pada akhir 1927, beliau telah kembali semula ke Mekah untuk belajar di sana selama 10 musim haji. Antara guru utama beliau di Mekah ialah Sheikh Syed Mohamad Amin. Beliau terkenal sebagai seorang pelajar yang aktif di Mekah sehingga digelar “Badwi” oleh rakan-rakannya. Beliau bergiat aktif dalam sukan dan mengasaskan kelab bola sepak al-Wahdah, iaitu kelab yang terkenal sekarang di Arab Saudi. Beliau juga aktif dalam Persatuan Melayu Hijaz yang satu ketika pernah dipimpin oleh Pak Yusof Rawa, di samping turut bergerak untuk membebaskan Palestin melalui badan “al-Badawi.”