Obwohl es nicht viele archäologische Beweise gibt, lebten Menschen in den Gebieten entlang der Flüsse Hilo Bay, Wailuku und Wailoa, bevor die westliche Welt Kontakt aufnahm. Sie waren als die Hilo bekannt. Sie beherrschten die hohen Berggipfel bis in die Mitte des 18. Jahrhunderts. Hilo bedeutet in der Originalsprache der Ureinwohner, die auf den Berggipfeln lebten, hohe Berggipfel. König Kamehameha, der erste König von Hawaii, eroberte alle Inseln und verlegte dann nach der Ankunft von Außenstehenden die Hilo-Bergsiedlung an die Küste.
Ursprünglich galt der Name Hilo für den gesamten Distrikt Hilo, der heute in den South Hilo District und North Hilo District unterteilt ist. Als William Ellis 1823 zu Besuch kam, war die Hauptsiedlung im Distrikt Hilo Waiākea an der Hilo-Bucht. In den frühen bis mittleren 1800er Jahren kamen Missionare in den Distrikt und gründeten mehrere Kirchen, insbesondere die Haili-Kirche, im Gebiet des heutigen Hilo.
Hilo expandierte, als die Zuckerplantagen in der Umgebung neue Arbeitsplätze schufen und viele Arbeiter aus Asien anzogen, wodurch die Stadt zu einem Handelszentrum wurde.
Ein Wellenbrecher durch die Hilo-Bucht wurde in den 1900er Jahren begonnen und 1929 fertiggestellt. Am 1. April 1946 löste ein Erdbeben der Stärke 7,8 in der Nähe der Aleuten einen vierzehn Meter hohen Tsunami aus, der 4,9 Stunden später Hilo traf und 160 Menschen tötete. Als Reaktion darauf wurde 1949 ein Frühwarnsystem, das Tsunami-Warnzentrum für den Pazifik, eingerichtet, um diese tödlichen Wellen zu verfolgen und zu warnen. Dieser Tsunami bedeutete auch das Ende der Hawaii Consolidated Railway, und stattdessen wurde die Hawaii Belt Road nördlich von Hilo unter Verwendung eines Teils des Gleisbettes gebaut.
Am 23. Mai 1960 forderte ein weiterer Tsunami, der am Vortag durch ein Erdbeben der Stärke 9,5 vor der Küste Chiles verursacht wurde, 61 Menschenleben, angeblich weil die Menschen die Warnsirenen nicht beachtet hatten. Tiefliegende Buchten der Stadt auf der Halbinsel Waiākea und entlang der Hilo-Bucht, die zuvor bewohnt waren, wurden in Parks und Gedenkstätten umgewidmet.