Hopetouns erste Aufgabe bestand darin, einen Premierminister für die Bildung einer Regierung zu wählen, die am 1. Januar 1901 beginnen sollte. Die ersten Wahlen sollten erst im März stattfinden, so dass er den Führer der größten politischen Partei im Repräsentantenhaus nicht wählen konnte. Stattdessen bat er Sir William Lyne, den Premierminister des größten Bundesstaates New South Wales, Premierminister zu werden.
Obwohl dies eine vernünftige Wahl war, hatte Lyne sich gegen die Föderation ausgesprochen und war bei den führenden föderalistischen Politikern unbeliebt. Alfred Deakin und andere wichtige Politiker sagten Hopetoun, dass sie nicht mit Lyne zusammenarbeiten würden. Hopetoun fragte dann Edmund Barton, den Führer der föderalistischen Bewegung und den Mann, von dem alle dachten, er solle Premierminister werden. Dies wurde als der "Hopetoun-Fehler" bekannt.
Bald gab es weitere Probleme. Hopetoun hatte seinen eigenen offiziellen Sekretär, Hauptmann Edward William Wallington, mitgebracht. Die Australier wollten keinen Engländer, der für offizielle Angelegenheiten zuständig war. Sie mochten auch nicht den königlichen Prunk und die Zeremonie, die Hopetoun in seiner Position benutzte, und das Geld, das dies kostete. Er verhielt sich so, als würde er Australien mit dem Premierminister regieren. Das war nicht das, was die Verfassungsschreiber gewollt hatten.
Hopetoun freundete sich mit dem Melbourner Anarchisten und Gewerkschaftspionier John "Chummy" Fleming an. Im Mai 1901 protestierte Fleming gegen die Arbeitslosigkeit in Melbourne, indem er auf die Prince's Bridge eilte, um die Kutsche des Generalgouverneurs anzuhalten. Hopetoun hörte Fleming zu, als er über die Probleme der Arbeitslosen sprach. Einigen Berichten zufolge veranlasste Hopetoun die Regierung, Arbeitsprojekte zu beschleunigen.
Schließlich gab es ein Problem damit, wie viel der Generalgouverneur für ein Haus sowohl in Sydney, der größten Stadt, als auch in Melbourne, dem Sitz der australischen Regierung, bezahlt werden sollte. Das Commonwealth-Parlament und das viktorianische Parlament würden Hopetoun nicht mehr Geld zahlen. Hopetoun trat im Mai 1902 zurück. Er und seine Familie verließen Australien (aus Brisbane) am 17. Juli 1902. Er wusste, dass er in einer historischen Rolle versagt hatte. Er wurde am 27. Oktober 1902 zum 1. Marquis von Linlithgow ernannt, als er noch Generalgouverneur war. Seine Amtszeit endete offiziell am 9. Januar 1903. Im Jahr 1905 wurde er zum Sekretär für Schottland ernannt.
Er starb plötzlich am 29. Februar 1908 in Pau, Pyrénées-Atlantiques, Frankreich.