S.M. Salim mula bekerja sebagai juruhebah Radio Malaya, Singapura (sekarang RTM, Mediacorp Singapura) secara sambilan semenjak 1957. Pada masa sama dia dikenali sebagai penyanyi lagu-lagu Melayu klasik (tradisional). Pada tahun 50-an, dia menganggotai kumpulan Irama Melayu (pimpinan Awalaudin), sebelum menyertai Orkestra Puspati (diketuai mendiang Alfonso Soliano). Tan Sri P. Ramlee (Allahyarham) adalah antara orang yang banyak mempengaruhi kerjayanya sebagai anak seni.

Yusni Hamid adalah orang yang kerap berduet dengannya. Namun S. M. Salim pernah berduet dengan Zainal Abidin untuk lagu 'Satu', dan terbaru bersama Siti Nurhaliza menerusi lagu 'Pandang Pandang, Jeling Jeling' yang dinyanyikannya ketika mengadakan konsert Orkestra Filharmonik Malaysia di Dewan Filharmonik Petronas pada 31 Mac dan 1 April lalu.

Beliau merupakan antara artis yang diundang untuk menghiburkan tentera dari pelbagai negara ketika tentera Malaysia ditugaskan di Congo di bawah bendera Pertubuhan Bangsa-Bangsa Bersatu pada tahun 1960. S. M. Salim juga pernah melaksanakan tugas yang sama ketika era Konfrontasi dengan Indonesia pada awal tahun 1960. Beliau menerima pingat Ahli Mangku Negara (AMN) dari kerajaan selepas kembali dari Congo bersama-sama dengan penggesek biola, Allahyarham Hamzah Dolmat dan pelawak, Ismail Bontak.