Pada tahun 1911 telah menemui kewujudan proton iaitu zarah bercas positif. Beliau mengatakan nukleus mengandungi proton di dalamnya. Sebelum ini ahli sains berpendapat bahawa atom mesti mengandungi sejenis zarah kecil lain yang bercas positif untuk mengimbangi cas negatif pada elektron supaya keseluruhan atom adalah neutral. Beliau menjalankan satu eksperimen membedil sekeping logam nipis, iaitu kira-kira 4 × 10 -5 cm tebalnya dengan sinar alfa yang terdiri daripada zarah-zarah positif. Beliau mendapati bahawa kebanyakan zarah alfa menembusi logam itu tanpa memesong. Sebilangan zarah alfa dipesongkan, manakala sebahagian lagi dipantul balik.

Berdasarkan kepada keputusan eksperimen itu, beliau mengemukan model atomnya yang menyatakan bahawa:

• Hampir semua jisim atom tertumpu dalam satu kawasan yang sangat kecil, berat, dan bercas berpositif.Kawasan kecil ini dipanggil nukleus.
• Nukleus mengandungi proton sahaja.
• Bilangan proton sama dengan bilangan elektron dalam atom
• Kebanyakan bahagian dalam atom merupakan bahagian kosong.
• Elektron-elektron bergerak dengan cepat mengelilingi pusat nukleus pada jarak yang berlainan.

Walau bagaimanapun, terdapat kelemahan dalam model atom yang dikemukan oleh Ernest Rutherford kerana jisim atom yang dihitung daripada model Rutherford kurang daripada jisim atom yang sebenar. Masalah ini diselesaikan oleh James Chadwick.