Sejarah Tawau tidak diketahui dengan jelas terutamanya sebelum tahun 1890-an. Bagaimanapun Tawau telahpun berpenduduk dengan sebuah perkampungan kecil nelayan dengan 200 orang penduduk yang kebanyakannya terdiri daripada masyarakat keturunan Τidung dan Suluk sebelum tahun 1890 ( sebelum itu terdapat penempatan terawal masyarakat Islam Tidung di Kalabakan di bawah naungan Kesultanan Bolongan-Tarakan , penempatan masyarakat Tidung dan Suluk di Batu Tinagat serta penempatan masyarakat Bajau di Omadal, Semporna). Pada ketika itu Tawau berada di bawah kuasa Kesultanan Sulu. Dalam satu perjanjian yang termeterainya pada 22 Januari 1878, Kesultanan Sulu menyerahkan kawasan di persekitaran Tawau yang wujud masa kini kepada pihak Inggeris.

Tawau menjadi sebahagian daripada kawasan jajahan orang-orang Inggeris iaitu melalui Syarikat (Berpiagam) Borneo Utara British (SBUB). Mengikut catatan The North Borneo Annual Volume (1955-1965) menyatakan sistem pentadbiran bermula pada tahun 1898, iaitu berikutan langkah-langkah pihak SBUB membuka sebuah penempatan di Tawau dan seterusnya mengadakan asas-asas pentadbiran kerajaan tempatan di situ.

Untuk mengelak perselisihan faham dengan pihak Belanda yang memerintah Kalimantan pada masa tersebut ( Tawau berkongsi sempadan di antara tanah jajahan Belanda dengan tanah jajahan Inggeris ) , pihak pemerintahan Inggeris telah mengambil langkah-langkah untuk menetapkan sempadan. Ini disebabkan sempadan asal bagi kawasan yang telah diserahkan kepada pihak Inggeris oleh kedua-dua Sultan Brunei dan Sultan Sulu ialah di bawah Sungai Sibuco berdekatan dengan Tarakan (Indonesia) yang mana kawasan tersebut termasuk di bawah pemerintahan Belanda yang ketika itu telah sedia ada menghuni di kawasan tersebut. Berikutan itu satu suruhanjaya Sempadan telah ditubuhkan pada tahun 1912 yang terdiri daripada pegawai-pegawai dari United Kingdom dan Belanda. ( Sejarah Malaysia )

Sebuah Laporan Bersama telah disediakan beserta dengan peta dan ditandatangani oleh Pesuruhjaya masing-masing di Tawau pada 17 Februari 1913. Kemudian mengikut protokol di antara United Kingdom dan Belanda yang telah ditandatangani di London pada 28 September 1915, kedua-dua kerajaan mengesahkan laporan bersama dan peta tersebut.

Dengan wujudnya pemerintahan British di Tawau, pelbagai kemudahan telah disediakan seperti hospital, sekolah-sekolah, balai polis, rumah-rumah kedai, pelabuhan Tawau serta juga jalan raya dan jalan kampung yang dibina oleh PWD, sebuah jabatan kerajaan yang mana para pekerjanya adalah dari kalangan penduduk tempatan Tawau.

Hak dan keistimewaan masyarakat tempatan telah diiktiraf oleh Kerajaan British dengan perlantikan Ketua Anak Negeri sebagai mewakili penduduk tempatan di Tawau untuk menyatakan keperluan dan permasalahan rakyat kepada pihak Kerajaan British. Sebelum itu jawatan Ketua Masyarakat pernah diberikan kepada Habib Sheikh pada tahun 1912 manakala jawatan Imam diberikan kepada Imam Mustapa pada tahun 1916. Jawatan Ketua Anak Negeri dengan gelaran Orang Kaya Kaya (OKK) yang pertama dilantik Kerajaan British penghujung 1920-an ialah OKK Kee Abdullah, seorang Sino-Dusun Muslim.[2] Manakala pada tahun 1937 sehingga 1953, Penghulu Abu Bakar (anak OKK Kee Abdullah) telah dilantik menjadi Ketua Anak Negeri. Beliau dipertanggungjawabkan untuk memberi geran-geran tanah yang sah secara rasmi kepada masyarakat tempatan yang mendiami penempatan di sekitar daerah Tawau untuk menjamin hak keistimewaan penduduk tempatan sebagai masyarakat peribumi di daerah Tawau ini.

Penubuhan Persatuan Kebangsaan Melayu Tawau (PKMT) pada tahun 1938 yang diasaskan oleh Penghulu Abu Bakar dan diperkasakan bersama pemimpin Melayu yang lain ( Abu Bakar Titingan , Haji Abdul Karim Drahman, DSP Ahmad Ayid, , Kassim Kamidin & Imam Zainal ) untuk memperjuangkan hak dan kepentingan orang-orang Melayu ini, telah menyatukan masyarakat Melayu tempatan Tawau. Ahli-ahli persatuan inilah yang bersama-sama dengan Tun Datu Mustapa Datu Harun melalui USNO, menuntut kemerdekaan bagi negeri Sabah melalui Malaysia pada tahun 1963. Manakala penubuhan Persatuan Islam Tawau (PIT) yang dipengerusi oleh Imam Zainal dan kemudiannya oleh Haji Abdul Karim Drahman pada tahun 1955 telah mendorong penubuhan USIA pada tahun 1968 yang menjamin keutuhan syiar Islam di seluruh Sabah.( Rujuk : Maklumat dari Muzium Negeri Sabah )[3]