Die Entdeckung des Elektrons durch J. J. Thomson war das erste Anzeichen dafür, dass das Atom eine innere Struktur hat. Jahrhunderts war das akzeptierte Modell des Atoms J. J. Thomsons "Plumpudding"-Modell, bei dem das Atom eine große positiv geladene Kugel mit kleinen negativ geladenen Elektronen war, die in ihr eingebettet waren. Bis zur Jahrhundertwende hatten die Physiker auch drei Arten von Strahlung entdeckt, die von Atomen ausgehen und die sie Alpha-, Beta- und Gammastrahlung nannten. Experimente von Lise Meitner und Otto Hahn im Jahr 1911 und von James Chadwick im Jahr 1914 entdeckten, dass das Beta-Zerfallsspektrum eher kontinuierlich als diskret war. Das heißt, dass Elektronen mit einer Reihe von Energien aus dem Atom herausgeschleudert wurden, und nicht mit den diskreten Energiemengen, die bei Gamma- und Alpha-Zerfällen beobachtet wurden. Dies war damals ein Problem für die Kernphysik, da es darauf hinwies, dass bei diesen Zerfällen keine Energie konserviert wurde. Das Problem würde später zur Entdeckung des Neutrinos führen (siehe unten).
1906 veröffentlichte Ernest Rutherford "Radiation of the α Particle from Radium in passing through Matter". Geiger vertiefte diese Arbeit in einer Mitteilung an die Royal Society mit Experimenten, die er und Rutherford beim Durchgang von α Teilchen durch Luft, Aluminiumfolie und Goldfolie durchgeführt hatten. Weitere Arbeiten wurden 1909 von Geiger und Marsden veröffentlicht und weitere stark erweiterte Arbeiten wurden 1910 von Geiger veröffentlicht. 1911-2 ging Rutherford vor die Royal Society, um die Experimente zu erklären und die neue Theorie des Atomkerns, wie wir sie jetzt verstehen, vorzustellen.
Etwa zur gleichen Zeit, als dies geschah (1909), führte Ernest Rutherford ein bemerkenswertes Experiment durch, bei dem Hans Geiger und Ernest Marsden unter seiner Aufsicht Alpha-Teilchen (Heliumkerne) auf eine dünne Goldfolie schossen. Das Pflaumenpuddingmodell sagte voraus, dass die Alphateilchen aus der Folie herauskommen sollten, wobei ihre Flugbahnen höchstens leicht gebogen sein durften. Er war schockiert, als er feststellte, dass einige wenige Teilchen in großen Winkeln gestreut wurden, in einigen Fällen sogar völlig rückwärts. Die Entdeckung, beginnend mit der Analyse der Daten durch Rutherford im Jahre 1911, führte schließlich zum Rutherford-Modell des Atoms, bei dem das Atom einen sehr kleinen, sehr dichten Kern aus schweren, positiv geladenen Teilchen mit eingebetteten Elektronen besitzt, um die Ladung auszugleichen. Als Beispiel: In diesem Modell bestand Stickstoff-14 aus einem Kern mit 14 Protonen und 7 Elektronen, und der Kern war von 7 weiteren kreisenden Elektronen umgeben.
Das Rutherford-Modell funktionierte recht gut, bis Franco Rasetti 1929 am CaliforniaInstitute of Technology Studien zum Kernspin durchführte. Bis 1925 war bekannt, dass Protonen und Elektronen einen Spin von 1/2 hatten, und im Rutherford-Modell von Stickstoff-14 sollten sich die 14 Protonen und sechs der Elektronen gepaart haben, um ihren gegenseitigen Spin aufzuheben, und das letzte Elektron sollte den Kern mit einem Spin von 1/2 verlassen haben. Rasetti entdeckte jedoch, dass Stickstoff-14 einen Spin von eins hat.
1930 konnte Wolfgang Pauli an einem Treffen in Tübingen nicht teilnehmen und schickte stattdessen einen berühmten Brief mit der klassischen Einleitung "Sehr geehrte radioaktive Damen und Herren". In seinem Brief schlug Pauli vor, dass es vielleicht ein drittes Teilchen im Kern gebe, das er "Neutron" nannte. Er schlug vor, dass es sehr leicht sei (leichter als ein Elektron), keine Ladung habe und dass es nicht leicht mit Materie wechselwirken könne (weshalb es auch noch nicht entdeckt worden sei). Dieser verzweifelte Ausweg löste sowohl das Problem der Energieerhaltung als auch des Spins von Stickstoff-14, erstens, weil Paulis "Neutron" die zusätzliche Energie wegtrug und zweitens, weil ein zusätzliches "Neutron" sich mit dem Elektron im Stickstoff-14-Kern paarte und ihm einen Spin gab. Paulis "Neutron" wurde 1931 von Enrico Fermi in Neutrino (italienisch für "kleines Neutrino") umbenannt, und nach etwa dreißig Jahren wurde schließlich nachgewiesen, dass beim Betazerfall tatsächlich ein Neutrino emittiert wird.
1932 erkannte Chadwick, dass die Strahlung, die von Walther Bothe, Herbert L. Becker, Irène und Frédéric Joliot-Curie beobachtet worden war, in Wirklichkeit auf ein massives Teilchen zurückzuführen war, das er das Neutron nannte. Im selben Jahr schlug Dmitri Iwanenko vor, dass Neutronen in Wirklichkeit Spin-1/2-Teilchen seien und dass der Kern Neutronen enthalte und dass sich keine Elektronen darin befänden, und Francis Perrin schlug vor, dass Neutrinos keine Kernteilchen seien, sondern beim Betazerfall entstehen. Um das Jahr abzuschließen, legte Fermi der Natur eine Theorie des Neutrinos vor (die von den Herausgebern als "zu realitätsfern" abgelehnt wurde). Fermi arbeitete weiter an seiner Theorie und veröffentlichte 1934 ein Papier, das das Neutrino auf eine solide theoretische Grundlage stellte. Im selben Jahr schlug Hideki Yukawa die erste bedeutende Theorie der starken Kraft vor, um zu erklären, wie der Kern zusammenhält.
Mit den Arbeiten von Fermi und Yukawa war das moderne Modell des Atoms vollständig. Im Zentrum des Atoms befindet sich eine enge Kugel aus Neutronen und Protonen, die durch die starke Kernkraft zusammengehalten wird. Instabile Kerne können einem Alpha-Zerfall unterliegen, bei dem sie einen energiereichen Heliumkern abgeben, oder einem Beta-Zerfall, bei dem sie ein Elektron (oder Positron) ausstoßen. Nach einem dieser Zerfälle kann der entstandene Kern in einem angeregten Zustand zurückbleiben, und in diesem Fall zerfällt er unter Aussendung hochenergetischer Photonen in seinen Grundzustand (Gammazerfall).
Die Untersuchung der starken und schwachen Kernkräfte veranlasste die Physiker dazu, Kerne und Elektronen bei immer höheren Energien zusammenprallen zu lassen. Diese Forschung wurde zur Wissenschaft der Teilchenphysik, deren wichtigstes das Standardmodell der Teilchenphysik ist, das die starken, schwachen und elektromagnetischen Kräfte vereint.