Dari sudut sejarah, perintis awal aliran rasionalisme ialah Heraclitus yang meyakini bahawa akal melebihi pancaindera sebagai sumber ilmu. Menurut beliau, akal manusia boleh berhubung dengan akal ketuhanan yang memancarkan sinaran cahaya tuhan dalam diri manusia. Pada zaman pertengahan rasionalisme Yunani berkembang di tangan tokoh-tokoh Sokrates, Plato dan Aristoteles. Rasionalisme mencapai zaman kemuncaknya pada zaman Aristoteles yang berusaha menangkis serangan pemikiran aliran Sufastho’iyyun yang menyebarkan pegangan bahawa "sesuatu perkara itu adalah dianggap baik bila manusia mengira ia adalah baik" - dengan kata lain ‘Manusia adalah kayu pengukur segala perkara’. Hasil dari pengaruh tersebut, Aristoteles telah memperkemaskan rasionalisme dengan menyusun kaedah ilmu logik secara sistematik dalam karyanya yang terkenal iaitu Organaon.

Rasionalisme telah menguasai tamadun Yunani sehinggalah kepada zaman Helenisme. Di antara aliran moden yang berpaksi kepada rasionalisme ialah aliran idealisme yang dipelopori oleh Baruch Spinoza (1632-1677) dan Gottfried Leibniz (1646-1716). Tokoh lain yang mengembangkan rasionalisme ialah René Descartes (1596-1716). Edward de Bono dalam bukunya Thinking Course menyatakan bahawa logik ialah satu cara menjana maklumat daripada sesuatu keadaan. Maklumat yang hendak dijana ialah sesuatu yang benar dan diterima akal. Kebiasaannya, tokoh-tokoh yang mengembangkan rasionalisme mereka digelar sebagai seorang idealis.

Pada pertengahan abad ke-20, telah munculnya tradisi kuat rasionalisme yang terencana hasil pengaruhi besar para pemikir bebas dan kaum intelektual.

Rasionalisme moden hanya mempunyai sedikit kesamaan dengan rasionalisme kontinental yang diterangkan René Descartes. Perbedaan paling jelas terlihat pada kebergantungan tinggi rasionalisme jenis ini terhadap sains diterapkan percubaan dan pengamatan, suatu hal yang ditentang rasionalisme kontinental sama sekali.