Pada April 1976, Dr James bertanding dan menang besar di kawasan Tamparuli atas tiket Berjaya. Oleh itu beliau dilantik serbagai Menteri Pertanian dan Perikanan Sabah pada 20 April 1976.

Dr James dilantik sebagai Timbalan Ketua Menteri Sabah merangkap Menteri Industri dan Pembangunan Desa pada 17 Julai 1976. Dianugerah Darjah Indera Mahkota Pahang yang membawa gelaran datuk oleh Sultan Pahang pada 23 Oktober 1976. Kemudian dilantik Timbalan Presiden Berjaya pada 18 Mac 1977.

Dalam Pilihan Raya Umum Malaysia 1978 Dr James bertanding di parlimen Tuaran. Beliau menang kerusi negeri Tamparuli dalam pilihan raya 1981 dengan majoriti 2,559 undi. Beliau terus menjadi Timbalan Ketua Menteri sehingga rombakan selepas pilihan raya pada April 1981.

Dr James dilantik oleh Perdana Menteri Malaysia, Tun Dr Mahathir Mohamad sebagai Menteri di Jabatan Perdana Menteri pada 2 Jun 1983. Selepas itu beliau tidak bertanding di DUN Tamparuli. Beliau dilantik sebagai Menteri Kehakiman dalam rombakan kabinet pada 14 Julai 1984.

Beliau bersara dari politik pada Julai 1986 dan tidak dicalonkan oleh parti Berjaya untuk parlimen Tuaran. Pada Mei 1988 beliau mengundurkan diri dari parti Berjaya. Pada Julai 1988 beliau mengasaskan Parti Rakyat Sabah (PRS) dan menjadi presiden pertama.

Pada Julai 1990 beliau kalah bertanding di kerusi DUN Tamparuli atas tiket PRS . Beliau dikalahkan oleh Datuk Wilfred Bumburing dari Parti Bersatu Sabah (PBS yang dipimpin oleh bapa saudaranya Tan Sri Datuk Joseph Pairin Kitingan. Pada 1 Ogos 1990 beliau mengumumkan berhenti menjadi presiden PRS dan arena politik tetapi menyertai Parti Bersatu Sabah pada Mac 1981 di kawasan Tamparuli .

Beliau menyumbang kepada penulisan prinsip Rukun Negara yang menjadi asas kepada pembentukan masyarakat majmuk di Malaysia dan Wawasan 2020. Beliau merupakan nasionalis sebenar dan berbangga menjadi rakyat Malaysia. Dr James mengkaji sejarah negara , pembinaan negara Malaysia dan hubungan etnik. Dia banyak berfikir sebagai ahli politik agar hubungan toleransi terjalin antara etnik.

Bekas Setiausaha akhbar beliau, Almain Ajirul yang kini menjadi Pengarah Penerangan Sabah menganggap Dr James sebagai seorang yang bekerja kuat.