Wilayah yang sekarang menjadi bandar Yokohama mulai berkembang sejak abad ke-13 di zaman Keshogunan Kamakura. Di sepanjang aliran Sungai Tsurumi dan Sungai Kashio merupakan daerah pertanian, dan daerah pantai Teluk Tokyo berkembang sebagai desa nelayan. Di abad ke-17, sewaktu Keshogunan Edo menjadikan Edo sebagai ibu bandar Jepun, Yokohama menjadi bandar transit di jalur Tokaidō. Pada waktu itu terdapat rumah-rumah penginapan di tempat perhentian yang disebut Kanagawa-juku, Hodogaya-juku, dan Totsuka-juku. Tempat perhentian yang paling ramai adalah Kanagawa-juku kerana dekat dengan Pelabuhan Kanagawa yang sibuk dengan lalu lintas kapal dan barang di Teluk Edo.

Nama "Yokohama" sebagai sebuah bandar, berasal dari nama desa nelayan bernama desa Yokohama (Yokohama-mura) yang terletak di Distrik Kuraki, Provinsi Musashi. Hingga di akhir zaman Edo, desa Yokohama adalah desa kecil di atas sebuah delta sungai yang penduduknya bermata pencaharian sebagai petani dan nelayan. Kedatangan Komodor Matthew Perry di Jepun mengubah nasib desa kecil Yokohama. Komodor Matthew Perry tiba di selatan Yokohama bersama armada kapal perang Amerika Serikat dan meminta Jepun membuka beberapa pelabuhan untuk perdagangan. Di tahun 1854, Komodor Matthew Perry menggunakan Persetujuan Kanagawa untuk memaksa Jepun membuka pelabuhan di Shimoda dan Hakodate kepada Amerika Serikat dan mengakhiri kebijakan tertutup Jepun yang telah berlangsung 200 tahun. Selanjutnya berdasarkan Treaty of Amity and Commerce di tahun 1858, Pelabuhan Yokohama dibuka untuk kapal-kapal AS. Pada mulanya, bandar perhentian Kanagawa-juku (sekarang disebut Kanagawa-ku) ingin dijadikan salah satu pelabuhan untuk kapal asing, namun letak Kanagawa-juku dianggap pemerintah terlalu dekat dengan jalur utama Tōkaidō yang strategis. Sebagai gantinya, berbagai fasilitas pelabuhan dibangun di desa Yokohama yang waktu itu masih berupa desa nelayan yang sepi. Pada 1 Julai 1859, Pelabuhan Yokohama diresmikan sebagai pelabuhan yang terbuka bagi perdagangan dengan negara Barat.

Pelabuhan Yokohama langsung menjadi basis perdagangan luar negeri di Jepun. Surat kabar berbahasa Inggris pertama di Jepun, Japan Herald terbit pertama kali pada tahun 1861. Distrik Kanai yang diapit Sungai Ōoka dan beberapa anak sungainya, dibangun khusus sebagai pusat perdagangan dan perumahan orang asing.

Sejak dibuka hingga paruh pertama zaman Showa, Pelabuhan Yokohama merupakan pintu masuk impor barang mentah seperti kapas, besi, mesin, dan pelabuhan ekspor bagi benang, kain sutra, dan kain katun. Pelabuhan Yokohama waktu itu sangat terkenal sebagai pelabuhan ekspor-impor benang. Pelabuhan ini sekaligus merupakan pintu masuk bagi pengaruh kebudayaan Barat di Jepun, termasuk surat kabar harian (1870) dan lampu penerangan jalan berbahan bakar gas (1872).

Sebagai pelabuhan perdagangan terbesar di Jepun, Yokohama menikmati masa keemasan perdagangan internasional yang akhirnya memberikan kemudahan bagi perkembangan perdagangan dan industri yang sangat cepat. Tak ketinggalan, banyak juga kebudayaan asing ikut masuk. Banyak kebudayaan Barat pertama kali diperkenalkan dan berkembang di Yokohama, antara lain, hotel bergaya Barat, restoran, penjahit, dan pabrik roti. Yokohama juga bandar pertama di Jepun yang memiliki pacuan kuda modern, surat kabar harian, toko es krim dan sekolah Katolik untuk anak perempuan.

Pada tahun 1872, jalan kereta api yang pertama di Jepun dibangun antara Yokohama dengan Shinagawa dan Shimbashi di Tokyo. Pusat pembangkit tenaga listrik berbahan bakar batu bara dibangun pertama kali di Yokohama oleh saudagar Inggris bernama Samuel Cocking di tahun 1887. Pembangkit tenaga listrik ini mulanya dibangun untuk memenuhi keperluan sendiri, tapi nantinya berkembang sebagai perusahaan listrik bandar Yokohama. Yokohama sebagai sebuah bandar didirikan secara resmi pada 1 April 1889. Sesudah penghapusan lokasi permukiman orang asing pada tahun 1899, Yokohama berkembang sebagai bandar internasional pertama di Jepun. Kawasan yang ditinggali orang asing meluas dari kawasan Kannai hingga ke Yamate, dan kawasan Pecinan Yokohama.

Di awal abad ke-20, pelabuhan Yokohama berubah menjadi pelabuhan industri bersamaan dengan pengembangan Kawasan Industri Keihin. Pelabuhan Yokohama berubah sebagai pintu masuk impor besi baja, mesin-mesin, dan minyak bumi. Pada 1 September 1923, sebagian bandar Yokohama hancur akibat gempa bumi besar Kanto dan menyebabkan 23 ribu orang maut. Di zaman sekarang, Pelabuhan Yokohama berfungsi sebagai pelabuhan kontainer dan salah satu dari berbagai pelabuhan di Jepun yang melayani arus ekspor impor.

Yokohama tidak hanya kaya dengan sejarah masa lalu, tapi juga siap menghadapi abad 21. Untuk menghadapi tantangan di masa depan dalam pengembangan Yokohama sebagai bandar bisnis, projek Minato Mirai 21 (MM21) dibangunkan sebagai bandar baru di sepanjang kawasan pelabuhan. MM21 akan menjadi bandar informasi, sejalan dengan aktifnya arus budaya informasi dan perkembangan ekonomi. Bandar ini berusaha menjadi pusat dari perusahaan-perusahaan besar, serta pusat riset dan teknologi.