Auf dem Kongress an der Sorbonne 1894 wurde für das Programm in Athen eine umfangreiche Liste von Sportarten vorgeschlagen. Die ersten offiziellen Ankündigungen der Sportveranstaltungen betrafen Sportarten wie Fussball und Kricket, aber diese Pläne wurden nie vollendet, und diese Sportarten kamen nicht auf die endgültige Liste für die Spiele. Rudern und Segeln waren geplant, mussten aber wegen schlechten Wetters am geplanten Wettkampftag abgesagt werden.
Leichtathletik
Die Leichtathletikveranstaltungen hatten von allen Sportarten das internationalste Spielfeld. Der wichtigste Höhepunkt war der Marathon, der zum ersten Mal in einem internationalen Wettkampf ausgetragen wurde. Spyridon Louis war der einzige griechische Leichtathletik-Champion und ein Nationalheld. Obwohl Griechenland den Diskus- oder Kugelstoßen gewonnen hatte, kamen die besten griechischen Athleten in beiden Disziplinen knapp hinter dem Amerikaner Robert Garrett ins Ziel.
Es wurden keine Weltrekorde aufgestellt, da sich nur wenige internationale Top-Konkurrenten für den Wettbewerb entschieden hatten. Darüber hinaus waren die Kurven der Strecke sehr eng, was schnelle Zeiten bei den Laufwettbewerben erschwerte. Trotzdem gewann Thomas Burke aus den Vereinigten Staaten das 100-Meter-Rennen in 12,0 Sekunden und das 400-Meter-Rennen in 54,2 Sekunden. war der einzige, der den "Crouch Start" (das Knie auf den Boden legen) nutzte, was die Jury verwirrte. Schliesslich durfte er aus seiner "unbequemen Position" starten.
Radfahren
Für die Radsportwettbewerbe wurden die Regeln des Internationalen Radsportverbandes verwendet. Die Bahnradwettbewerbe wurden im neu erbauten Neo Phaliron Velodrom ausgetragen. Es wurde nur eine Straßenveranstaltung abgehalten, ein Rennen von Athen zum Marathon und zurück (87 Kilometer).
Bei den Bahnwettbewerben war der beste Radfahrer der Franzose Paul Masson, der das Ein-Runden-Zeitfahren, das Sprintrennen und die 10.000 Meter gewann. Bei den 100 Kilometern trat Masson als Schrittmacher für seinen Landsmann Léon Flameng an. Flameng gewann den Wettkampf nach einem Sturz und nachdem er angehalten hatte, um darauf zu warten, dass sein griechischer Gegner Georgios Kolettis ein mechanisches Problem behebt. Der österreichische Fechter Adolf Schmal gewann das 12-Stunden-Rennen, das von nur zwei Radfahrern absolviert wurde, während das Straßenrennen von Aristidis Konstantinidis gewonnen wurde.
Fechten
Die Fechtveranstaltungen fanden im Zappeion statt, das mit Geld, das Evangelis Zappas zur Wiederbelebung der antiken Olympischen Spiele gespendet hatte, erbaut worden war und vorher nicht genutzt wurde. Im Gegensatz zu anderen Sportarten (in denen nur Amateure an den Olympischen Spielen teilnehmen durften) war es den Profis erlaubt, sich im Fechten zu messen, wenn auch in einer separaten Veranstaltung. Diese Profis galten ebenso wie die Amateure als Gentlemen-Athleten.
Vier Veranstaltungen waren geplant, aber die Dépée-Veranstaltung wurde aus unbekannten Gründen abgesagt. Das Florett wurde von einem Franzosen, Eugène-Henri Gravelotte, gewonnen, der seinen Landsmann Henri Callot im Finale schlug. Die beiden anderen Disziplinen, den Säbel und das Master-Foil, gewannen die griechischen Fechter. Leonidas Pyrgos, der letztere Disziplin gewann, wurde der erste griechische Olympiasieger der Neuzeit.
Turnen
Das Turnen fand auf dem Innenfeld des Panathinaiko-Stadions statt. Deutschland entsandte eine 11-Mann-Mannschaft, die fünf der acht Wettbewerbe gewann, darunter beide Mannschaftswettbewerbe. Im Mannschaftswettbewerb am Reck war die deutsche Mannschaft ungeschlagen. Drei Deutsche steuerten einzelne Titel bei: Hermann Weingärtner gewann am Reck, Alfred Flatow am Barren und Carl Schuhmann, der auch erfolgreich im Ringen antrat, gewann den Sprung. Louis Zutter, ein Schweizer Turner, gewann das Pauschenpferd, während die Griechen Ioannis Mitropoulos und Nikolaos Andriakopoulos in den Ringen und im Seilklettern siegreich waren.
Dreharbeiten
Der Schießwettbewerb fand auf einem Schießstand in Kallithea statt und bestand aus fünf Veranstaltungen - zwei mit dem Gewehr und drei mit der Pistole. Den ersten Wettkampf, das Militärgewehr, gewann Pantelis Karasevdas, der als einziger Teilnehmer mit allen seinen Schüssen das Ziel traf. Der zweite Wettkampf, für Militärpistolen, wurde von zwei amerikanischen Brüdern dominiert: John und Sumner Paine waren die ersten Geschwister, die im selben Wettkampf als Erste und Zweite ins Ziel kamen. Um ihre Gastgeber nicht in Verlegenheit zu bringen, beschlossen die Brüder, dass nur einer von ihnen an der nächsten Veranstaltung für Pistolen, der freien Pistole, teilnehmen würde. Sumner Paine gewann diesen Wettkampf.
Die Brüder Paine nahmen nicht an der Veranstaltung mit 25-Meter-Pistolen teil, da die Veranstaltungsrichter feststellten, dass ihre Waffen nicht das erforderliche Kaliber hatten. In ihrer Abwesenheit gewann Ioannis Phrangoudis. Der letzte Wettkampf, das freie Gewehr, begann am selben Tag. Die Veranstaltung wurde jedoch wegen der Dunkelheit nicht zu Ende geführt und am nächsten Morgen beendet, als Georgios Orphanidis zum Sieger gekrönt wurde.
Schwimmen
Der Schwimmwettbewerb wurde im offenen Meer ausgetragen. Fast 20.000 Zuschauer säumten die Bucht von Zea vor der Küste von Piräus, um die Ereignisse zu verfolgen. Das Wasser in der Bucht war kalt, und die Wettkämpfer litten während ihrer Rennen. Es gab drei offene Veranstaltungen (100-Meter-Freistil der Männer, 500-Meter-Freistil der Männer und 1200-Meter-Freistil der Männer) sowie eine Sonderveranstaltung, die nur griechischen Seglern offenstand und die alle am selben Tag (11. April) stattfanden.
Für Alfréd Hajós aus Ungarn bedeutete der Umstand, dass er am selben Tag an nur zwei Veranstaltungen teilnehmen konnte. Er gewann die beiden Wettkämpfe, in denen er schwamm, die 100 und 1200 Meter Freistil. Hajós war später einer von nur zwei Olympioniken, die sowohl in den athletischen als auch in den künstlerischen Wettbewerben eine Medaille gewannen, als er 1924 eine Silbermedaille für Architektur gewann. Die 500-Meter-Freistil gewann der österreichische Schwimmer Paul Neumann, der seine Gegner um mehr als anderthalb Minuten besiegte.
Tennis
Obwohl Tennis bereits Ende des 19. Jahrhunderts eine wichtige Sportart war, erschien keiner der Spitzenspieler zum Turnier in Athen. Der Wettkampf fand auf den Plätzen des Athener Rasentennisclubs statt, und das Infield des Velodroms wurde für die Radsportveranstaltungen genutzt. John Pius Boland, der den Wettkampf gewann, wurde von einem Studienkollegen aus Oxford in den Wettbewerb aufgenommen. In der ersten Runde besiegte Boland Friedrich Traun, einen vielversprechenden Tennisspieler aus Hamburg, der im 100-Meter-Sprint-Wettbewerb ausgeschieden war. Boland und Traun entschieden sich für das Doppel, in dem sie das Finale erreichten und nach verlorenem ersten Satz ihre griechischen und ägyptischen Gegner besiegten.
Gewichtheben
Der Sport des Gewichthebens war 1896 noch jung, und die Regeln unterschieden sich von denen, die heute gelten. Die Wettkämpfe wurden im Freien, im Innenfeld des Hauptstadions, ausgetragen, und es gab keine Gewichtsbeschränkungen. Die erste Veranstaltung wurde in einem Stil ausgetragen, der heute als "Clean and Jerk" bekannt ist. Zwei Wettkämpfer stachen heraus: Der Schotte Launceston Elliot und der Däne Viggo Jensen. Beide hoben das gleiche Gewicht, aber die Jury, mit Prinz George als Vorsitzenden, entschied, dass Jensen dies in einem besseren Stil getan hatte. Die britische Delegation, die mit dieser Regel der Stimmengleichheit nicht vertraut war, legte Protest ein. Die Heber durften schließlich weitere Versuche unternehmen, aber keiner der beiden Heber verbesserte sich, und Jensen wurde zum Champion erklärt.
Elliot gewann in der Ein-Hand-Heber-Veranstaltung, die unmittelbar nach der Zwei-Hand-Heber-Veranstaltung stattfand. Jensen hatte sich bei seinem letzten Zweihandversuch leicht verletzt und war Elliot, der den Wettbewerb mit Leichtigkeit gewann, nicht gewachsen. Das griechische Publikum war begeistert von dem schottischen Sieger, den es für sehr attraktiv hielt. Während des Gewichthebens ereignete sich ein merkwürdiger Zwischenfall: Ein Diener wurde angewiesen, die Gewichte abzunehmen, was für ihn eine schwierige Aufgabe zu sein schien. Prinz George kam ihm zu Hilfe; er nahm das Gewicht auf und warf es zur Freude der Menge mit Leichtigkeit über eine beträchtliche Distanz.
Ringen
Für den Ringkampf, der im Panathinaiko-Stadion stattfand, gab es keine Gewichtsklassen, was bedeutete, dass es unter den Wettkämpfern aller Größen nur einen Sieger geben würde. Die angewandten Regeln ähnelten dem modernen griechisch-römischen Ringen, obwohl es kein Zeitlimit gab und nicht alle Beingriffe verboten waren (im Gegensatz zu den derzeitigen Regeln).
Abgesehen von den beiden griechischen Teilnehmern waren alle Konkurrenten zuvor in anderen Sportarten aktiv gewesen. Gewichtheber-Champion Launceston Elliot traf auf Gymnastik-Champion Carl Schuhmann. Dieser siegte und zog ins Finale ein, wo er auf Georgios Tsitas traf, der zuvor Stephanos Christopoulos besiegt hatte. Bei Dunkelheit musste das Endspiel nach 40 Minuten abgebrochen werden; es wurde am folgenden Tag fortgesetzt, als Schuhmann nur noch eine Viertelstunde brauchte, um den Kampf zu beenden.