FW de Klerk wurde 1936 in Johannesburg geboren. Er ist der Sohn von Johannes de Klerk (1903-1979) und Hendrina Cornelia de Klerk (1904-2001), der nur vier Monate vor dem Tod seiner ehemaligen Tochter Marike Willemse und seines Bruders von Wimpie de Klerk (1928-2009) starb. Seine Familie, deren Name vom französischen Familiennamen "Le Clerc", "Le Clercq" oder "de Clercq" abstammt, ist hugenottischen Ursprungs. Er ließ sich 1686, einige Monate nach der Aufhebung des Ediktes von Nantes, in dem Land nieder und nahm an verschiedenen Ereignissen in der Geschichte der Afrikaner teil. Ihre Vorfahren nahmen an dem von Piet Retief geleiteten Grand Trek im Zug teil, um die britische Herrschaft loszuwerden. Im Jahre 1838 wurden auch drei Mitglieder der Familie Klerk bei Retief in König Kraal von Zulu, Dingane, getötet. Später, während des Zweiten Burenkriegs (1899-1902), wurde der Großvater FW von Klerk zweimal von den Briten gefangen genommen, bevor er 1914 neben James Barry Hertzog Gründungsmitglied der National Party wurde. Laut dem Genealogen Keith Meintjies und von FW von Klerk bestätigt, stimmt letzteres auch mit Krotoa (Eva), einer weiblichen Khoi, überein, die bei der Gründung der Kolonie des Oberhauptes als Dolmetscherin für die niederländischen Kolonisten diente.
Mitglied der Reformierten Niederländischen Kirche, FW von Klerk, ist der jüngste Sohn, Jan Klerk, der Leiter der Schule und Minister mit verschiedenen Ressorts (1954-1969) und Senatsvorsitzender (1969-1976), der Neffe von JG Strijdom, dem Chef der südafrikanischen Regierung 1954 bis 1958. Sein älterer Bruder Wimpie de Klerk ist politischer Analyst und 1989 Mitbegründer der Demokratischen Partei.
Die High School in Krugersdorp, einem Vorort von Johannesburg, FW von Klerk hat 1958 an der Universität Potchefstroom mit Auszeichnung abgeschlossen. Im Jahr 1959 heiratete er Marike Willemse (1937-2001), mit der er drei adoptierte Kinder aufziehen wird). Das Ehepaar, F. W. und Marike de Klerk, wurde 1998 geschieden.
Während seines Universitätsstudiums trat er der Nationalpartei bei und wurde Mitglied von Broderbond.
Ein Anwalt in Vereeniging, südlich von Transvaal, verweigerte 1972 den öffentlich-rechtlichen Sitz an der Universität Potchefstroom, um für allgemeine Wahlen zu kandidieren.