Apabila pihak Taliban memasuki arena politik pada tahun 90-an, Karzai adalah salah seorang penyokong mereka. Walau bagaimanapun, dia memutuskan hubungan dengan mereka selepas tidak mempercayai hubungan mereka dengan Pakistan. Selepas Taliban menghalau Rabbani keluar dari Kabul pada tahun 1996, Karzai enggan berkhimat sebagai duta PBB mereka. Pada tahun 1997, Karzai menyertai kebanyakan ahli keluarganya di Amerika Syarikat, yang mana dia berusaha untuk mengembalikan takhta Zahir Shah. Ayahnya kemudian mati dibunuh, barang kali oleh ejen Taliban dan Karzai bersumpah hendak memusnahkan mereka.