John Brown wurde am 9. Mai 1800 in Torrington, Connecticut, geboren. Er war das vierte der acht Kinder von Owen Brown (1771-1856) und Ruth Mills (1772-1808) und Enkel von Capt. John Brown (1728-1776). Browns Vorfahren waren englische Puritaner aus dem 17. Jahrhundert.
Im Jahr 1805 zog die Familie nach Hudson, Ohio, um. Owen Brown eröffnete hier eine Gerberei. In Hudson gab es eine Menge Anti-Sklaverei-Aktivitäten. Owen war ein Teil davon. Owen bot Flüchtlingen der Underground Railroad einen sicheren Unterschlupf. Zu dieser Zeit gab es in Hudson keine Highschool, so dass John an der Schule der Abolitionistin Elizur Wright studierte. Elizur Wright war der Vater von Elizur Wright im nahe gelegenen Tallmadge. []
Der Vater von Ulysses S. Grant, Jesse R. Grant, war der Lehrling von Owen Brown.
Als er 16 Jahre alt war, verließ Brown seine Familie und ging nach Plainfield, Massachusetts. Er nahm an einem Vorbereitungsprogramm teil. Kurz darauf ging er an die Morris Academy in Litchfield, Connecticut.
Im Jahr 1820 heiratete Brown Dianthe Lusk. Ihr erstes Kind, John jr., wurde 13 Monate später geboren. Auf der Suche nach einem sichereren Ort (für flüchtige Sklaven) zog Brown 1825 mit seiner Familie nach New Richmond, Pennsylvania, um. Er kaufte 200 Acres (81 Hektar) Land. Er räumte ein Achtel davon und baute eine Hütte, eine Scheune und eine Gerberei. Die Gerberei verfügte über einen geheimen Raum, in dem sich fliehende Sklaven verstecken konnten. Die John-Brown-Gerberei wurde 1978 in das National Register of Historic Places aufgenommen. Sie "war eine wichtige Station der [unterirdischen] Eisenbahn, die ihren Platz in der Geschichte von 1825 bis 1835 markierte". Während dieser Zeit "verhalf Brown schätzungsweise 2.500 Sklaven zur Flucht".
1829 baten einige weiße Familien Brown um Hilfe bei der Vertreibung der amerikanischen Ureinwohner, die jährlich in diesem Gebiet jagten. Brown sagte ihnen: "Ich werde mit [einer solchen] gemeinen Tat nichts zu tun haben. Ich würde [lieber] mein Gewehr nehmen und Ihnen helfen, Sie aus dem Land zu bringen". Brown unterhielt sein ganzes Leben lang friedliche Beziehungen zu seinen indianischen Nachbarn. Manchmal begleitete er sie auf Jagdausflüge und lud sie zum Essen in sein Haus ein.
Im Jahr 1831 starb einer seiner Söhne. Brown wurde krank, und seine Geschäfte begannen schlecht zu laufen. Dies führte dazu, dass Brown viele Schulden hatte. Im Sommer 1832, kurz nach dem Tod eines neugeborenen Sohnes, starb seine Frau Dianthe. Die einzige Familie, die er noch hatte, waren seine Kinder John Jr., Jason, Owen und Ruth. (Weitere drei ihrer Kinder starben, bevor sie erwachsen wurden.) Am 14. Juni 1833 heiratete Brown die 16-jährige Mary Ann Day (15. April 1817 - 1. Mai 1884). Sie stammte aus Washington County, New York. Sie hatten 13 Kinder; die zum Zeitpunkt von John Browns Tod lebenden Kinder waren Salmon, Annie, Sarah und Ellen.
Im Jahr 1836 zog Brown mit seiner Familie nach Franklin Mills, Ohio (heute Kent). Dort lieh er sich Geld, um in der Gegend Land zu kaufen. Er baute und betrieb eine Gerberei entlang des Cuyahoga River. Sein Partner war Zenas Kent.
Als er 1837 erfuhr, dass Elijah P. Lovejoy ermordet worden war, versprach Brown dies: "Hier, vor Gott, [mit Zeugen um mich herum] widme ich von [jetzt an] mein Leben (der Zerstörung der Sklaverei!)"
Er glaubte fest an das Christentum. Er glaubte, dass Christen Menschen unabhängig von ihrer Hautfarbe gleich behandeln sollten. Viele weiße Christen in Amerika zu dieser Zeit waren damit nicht einverstanden.
