Beliau bekerja sebagai pembantu penyiaran di Radio Malaya (kini Radio Televisyen Malaysia), Tobacco Co. Bhd, di Kementerian Kebudayaan, dan SSC & B Lintas Sdn. Bhd dan syarikat iklan rokok SH Benson Advertising Company. Seterusnya bekerja di Fleet Communication. Rahim menubuhkan syarikat sendiri Angkatan Seniman Abad XX Sdn Bhd bersama Rohani Zain, bekas penyampai berita RTM pada 1981.

Pada 1950an beliau menjadi penulis skrip dan pengarah bagi drama di sekolahnya. Di Australia, Rahim menyertai Melbourne University Theatre Dub, Brighton Theatre Group, dan Australia Broadcasting Commission. Pada 1963, berlakon sebagai Hamlet dalam Hamlet iaitu persembahan untuk Brighton Thearte Group. Pada tahun 2010 beliau mengarahkan Muzikal Uda & Dara karya asal Usman Awang. Beliau bertanggungjawab mencungkil dan menyerlahkan bakat lakonan ramai bintang sejak era 70an, dan terbaru beliau berjaya menampilkan penyanyi popular Misha Omar sebagai bintang teater muzikal yang mempunyai keseimbangan dalam bidang lakonan dan nyanyian.

Beliau menerbitkan 50 drama televisyen di RTM dan berlakon 15 buah filem. Sejak 1960an menceburi dunia lakonan di RTM. Sejak 1981 telah mengarah 8 buah filem dan filemnya terpilih mewakili negara ke Tokyo International Film Festival, London International Film Festival dan lain-lain.

Pada 2010, Rahim ditemuramah dalam rancangan dokumentari The Untold Truth About Supermokh yang menyingkap kisah kehidupan dan kerjaya pemain bola sepak, Mokhtar Dahari yang bersiaran di National Geographic pada 30 Ogos 2010.[4]

Beliau juga pernah menjadi duta dan jurucakap Perbadanan Insurans Deposit Malaysia (PIDM). Rahim juga terkenal dengan watak Cikgu Osman lakonannya dalam sitkom Osman Baku yang mengisahkan kecekalan Cikgu Osman memperjuangkan bahasa kebangsaan Malaysia.[5]

Dato’ Rahim paling dikenali menerusi kolaborasinya bersama Syamsul Yusof dalam filem Munafik yang mana beliau menjayakan watak sebagai bapa kepada Ustaz Adam.[6] Beliau kembali menjayakan wataknya dalam kesinambungannya yang ditayangkan pada 30 Ogos 2018.[7] Rahim kini membuat persiapan untuk filem terbarunya bertajuk Melayu yang berkisar tentang kisah politikus Melayu dan penyatuan semula orang Melayu di negara ini.[8]