Asid sulfurik telah ditemui oleh seorang ahli sains and alkimia Islam, Abu Bakar Muhammad bin Zakaria al-Razi, pada kurun ke-9. Beliau telah memperoleh asid sulfurik dengan penyulingan kering mineral-mineral vitriol tertentu. Misalnya :

(FeSO4 • 7H2O) → FeO + H2O + SO3

(CuSO4 • 5H2O) → FeO + H2O + SO3

SO3 + H2O → H2SO4

Apabila ferum (II) sulfat heptahidrat atau kuprum(II) sulfat pentahidrat dipanaskan, kedua-duanya akan terurai menjadi ferum (II) oksida serta kuprum(II) oksida masing masing dan membebaskan air dan sulfur trioksida. Air dan sulfur trioksida kemudiannya bergabung menjadi asid sulfurik cair. Cara menghasilkan asid sulfurik ini diketahui oleh ahli alkimia Eropah hasil penterjemahan. Asid sulfurik dikenali sebagai ‘oil of vitriol’ dan ‘spirit of vitriol’.

Perkembangan industri pada kurun ke-17 menyebabkan ahli alkimia bertungkus-lumus mencari cara untuk menghasilan asid sulfurik secara komersial. Pada tahun 1736, seorang ahli farmasi London, Joshua Ward, membakar sulfur dengan dengan kalium nitrat, KNO3, dengan kehadiran wap air untuk menghasilkan asid sulfurik secara komersial.

Pada tahun 1746 di Birmingham, John Roebuck menghasilkan asid sulfurik dengan cara tersebut dalam kebuk yang menggunakan plumbum. Asid sulfurik dihasilkan dengan cara ini untuk dua kurun yang seterusnya.

Cara Roebuck hanya dapat menghasilkan asid sulfurik 35-40%. Pembaikan cara ini telah meningkatkan kepekatan asid sulfurik kepada 78%. Walau bagaimanapun, asid sulfurik yang lebih pekat diperlukan untuk menghasilkan barangan industri yang lebih berkualiti. Satu lagi cara untuk mendapatkan asid sulfurik telah ditemui :

FeS2 → FeSO4

FeSO4 → Fe2(SO4)3

FeSO4 → Fe3O2 + SO3

Sulfur trioksida dapat dilarutkan dalam air untuk membentuk asid sulfurik yang pelbagai kepekatannya. Tetapi, cara ini memakan masa dan belanja yang terlalu banyak untuk kegunaan industri.