Hingga kurun ke-17 jalan ini digelarkan Jalan Portugal. Nama Piccadilly berpunca dari seorang tukang jahit yang bernama Robert Baker, yang memiliki sebuah kedai di the Strand, pada lewat kurun ke-16 dan awal kurun ke-17. Dia amassed suatu kekayaan besar dengan membuat dan menjual piccadill (juga digelar kolar picadil atau keras pickadil dengan tepi-tepi berbiku dan sebuah renda lebar atau sempadan menebuk), yang telah kemudian berada dalam fesyen. Dengan kekayaan besarnya dia membeli sebidang besar apa yuang kemudian kawasan luar bandar terdedah di barat London, dan pada lebih kurang 1612 dia membina sebuah rumah besar sana. Rumah besar ini kemudian digelar Piccadilly Hall.

Selepas Pengembalian monarki Inggeris pada 1660, Piccadilly dan kawasan di utara (Mayfair) bermula dimajukan secara sistematik sebagai sebuah kawasan tempat kediaman berfesyen. Sesetengah rumah besar termewah di London telah dibina di belah utara Piccadilly: Rumah Clarendon (kini lokasi Jalan Albemarle), Rumah Berkeley (kemudian Rumah Devonshire), dan rumah Sir John Denham (kemudian Rumah Burlington) telah dibina pada kurun ke-17. Kemudian rumah besar termasuk Rumah Melbourne (sekarang The Albany), Rumah Apsley, Rumah Bath dan Rumah Cambridge. Beberapa ahli keluarga Rothschild mempunyai rumah besar di hujung barat jalan, dan bahawa sebahagian dari itu telah secara basahan dirujukkan sebagai Rothschild Row. Pada 1920an kebanyakan dari bangunan ini telah diruntuhkan atau telah berada dalam kegunaan institusi. Pembesaran Park Lane dan penubuhan Sudut Taman Hyde sebagai suatu sistem giratori kenderaan utama telah memangkas anjuran barat Piccadilly, dengan akibat bahawa Rumah Apsley telah menjadi diasingkan darinya.

21st century Piccadilly pada kurun ke-21 bukan salah satu dari jalan beli-belah London, sungguhpun kehadiran beberapa kedai masyhur.bat pejabat dan sesetengah Hotel Ritz berada di jalan, bersama dengan sesetengah hotel mewah lain. Ada juga sesetengah pejabat dan sesetengah rumah pangsa mahal. Piccadilly adalah salah satu dari jalan yang terluas dan terlurus di pusat London.