Kota Kinabalu terletak di pantai barat Sabah. Bandar ini terletak di dataran yang sempit di antara Banjaran Crocker ke timur dan Laut China Selatan ke barat. Terdapat enam pulau di luar pantai bandar. Yang terbesar ialah Pulau Gaya yang merupakan bekas tapak penempatan British yang pertama. Kira-kira 8,000 orang tinggal di sana.[45] Pulau-pulau kecil yang tidak berpenghuni, antaranya Pulau Manukan, Pulau Mamutik, Pulau Sapi, Pulau Suluk dan Pulau Sepanggar, terletak di utara bertentangan dengan Taman Negara Teluk Sepanggar.[46]

Tanah rata tertumpu di pusat bandar, dan terdapat had yang ketat untuk ketinggian bangunan: lapangan terbang terletak 7 km (4 mi) dari bandar dan kawasan bandar berada secara langsung dalam laluan penerbangan. Kebanyakan kawasan Daerah Pusat Perniagaan (Central Business District, (CBD)) hari ini dibina di atas tanah yang ditambak dari laut.[3] Kehidupan tumbuhan asal kebanyakannya sudah hilang, tetapi beberapa bukit di dalam bandar (terlalu curam untuk dibina bangunan) masih dilitupi dengan hutan hujan tropika. Salah satu daripadanya ialah Signal Hill, yang berbatasan dengan CBD arah ke pantai. Di kawasan Teluk Likas, saki-baki hutan bakau yang luas sudah hampir hilang.[47] Pada tahun 1996, kerajaan negeri telah mengisytiharkan 24 ekar (97,000 m2) hutan sebagai kawasan yang dilindungi. Hutan ini kini dikenali sebagai Kota Kinabalu Wetlands. Tempat perlindungan itu diberikan perlindungan tambahan sebagai Tapak Warisan Budaya Negeri pada tahun 1998.[47]

Lima pulau (Gaya, Sapi, Manukan, Sulug, Mamutik) yang berhadapan dengan bandar dipelihara sebagai Taman Negara Tunku Abdul Rahman. Taman ini dinamakan sempena nama Perdana Menteri Malaysia yang pertama, iaitu Tunku Abdul Rahman.[3] Ia merupakan tempat rekreasi popular bagi pelancong dan penduduk tempatan.[48] Pusat bandar Kota Kinabalu kebanyakannya merupakan kawasan perniagaan dan pentadbiran kerajaan yang termasuk Karamunsing, kawasan pelabuhan (Tanjung Lipat), Signal Hill, Kampung Air, Sinsuran, Segama, Asia City, Gaya Street (Bandar Lama), Bandaran Berjaya, Api-Api, Sutera Harbour dan Sembulan. Kawasan kejiranan dan pinggir bandar kediaman termasuk Kepayan Ridge, Tanjung Aru, Petagas, Kepayan, Lido, Lintas, Nosoob, Bukit Padang, Luyang, Damai, Likas dan Kolombong. Bandar ini semakin berkembang sehingga menjangkau ke pekan Inanam, Menggatal, Sepanggar, Telipok dan selatan sempadan daerah Penampang, Putatan, dan Lok Kawi.[49]

Kota Kinabalu umumnya berada jauh dari pusat pemerintahan utama negara, ia terletak kira-kira 1,624 kilometer (1,009 mi) dari Kuala Lumpur yang berada di Semenanjung Malaysia[50] dan juga 804 kilometer (500 mi) dari Kuching, ibu negeri jirannya iaitu Sarawak.[51]