Charles Ryder, der die Geschichte erzählt, ist Student an der Universität von Oxford. Er freundet sich mit Sebastian Flyte, dem jüngeren Sohn einer aristokratischen Familie, an. Sebastian, der aus einer sehr reichen Familie stammt, bringt Charles in das Haus seiner Familie, Brideshead Castle. Charles lernt seine Familie kennen, darunter Sebastians Schwester Julia.
Während der Ferien kehrt Charles in seine Heimat zurück, wo er mit seinem Vater lebt. Während des Urlaubs hat Sebastian eine kleine Verletzung, und Charles kehrt zu ihm zurück. Sebastian und Charles verbringen den Rest des Sommers zusammen.
Sebastians Familie ist katholisch. Sein Vater, Lord Marchmain, war Anglikaner gewesen, aber er war zum römischen Katholizismus, der Religion seiner Frau, konvertiert. Die Familie redet viel über Religion, was Charles überrascht, der das Christentum immer für kein wichtiges Thema gehalten hatte. Lady Marchmain, Sebastians Mutter, ist eine sehr strenge Katholikin. Sie versucht, andere zu kontrollieren, indem sie ihnen Schuldgefühle einredet. Sebastian findet Trost, indem er Alkohol trinkt. Er betrinkt sich oft, und über einen Zeitraum von zwei Jahren hat er immer weniger mit der Familie Flyte zu tun.
Charles wird jedoch dazu verdammt, die Flyte-Familie wieder zu treffen, und er verliebt sich in Julia, die zu diesem Zeitpunkt mit dem reichen Kanadier Rex Mottram verheiratet ist.
Charles' eigene Frau ist untreu gewesen, deshalb will er sich von ihr scheiden lassen, damit er und Julia heiraten können. Julia entscheidet jedoch aus religiösen Gründen, dass es für sie nicht richtig wäre, Charles zu heiraten. Als Lord Marchmain im Sterben lag, hatte er das Sakrament der Äußersten Ölung empfangen. Dieser Akt hatte auch Charles beeinflusst, der "in jenen Tagen auf der Suche nach Liebe war", als er Sebastian zum ersten Mal traf, "diese niedrige Tür in der Mauer..., die sich zu einem geschlossenen und verzauberten Garten hin öffnete", eine wichtige Metapher in dem Buch.
Charles wurde Architekt. Während des Zweiten Weltkriegs wird er Offizier der Armee. Zufällig wird er in Brideshead einquartiert. Es scheint ihm, dass Bauarbeiter eine nützliche Arbeit leisten, auch wenn es manchmal Probleme gibt.