Als er sich politisch engagierte, wurde er Liberaler und beteiligte sich an der Midlothian-Kampagne von Gladstone, die die Liberalen 1880 wieder an die Macht brachte. In der darauf folgenden liberalen Regierung bekleidete Rosebery unter anderem das Amt des Unterstaatssekretärs für das Innenministerium, bevor er im März 1885 als Lord Privy Seal ins Kabinett eintrat.
Rosebery wurde ein Führer der liberal-imperialistischen Fraktion der Liberalen Partei, und in der dritten (1886) und vierten (1892-1894) Regierung von Gladstone war Rosebery Außenminister. Als Gladstone 1894 in den Ruhestand trat, wurde Rosebery sein Nachfolger als Premierminister, sehr zum Ekel der eher linksgerichteten Liberalen. Roseberys Regierung war weitgehend erfolglos - seine außenpolitischen Pläne, wie z.B. die Erweiterung der Flotte, wurden durch Meinungsverschiedenheiten innerhalb der Liberalen Partei zunichte gemacht, während das von den Tories dominierte Oberhaus die gesamte innerstaatliche Gesetzgebung der Liberalen stoppte. 1895 trat Rosebery zurück, und an seine Stelle trat eine konservative Regierung unter Lord Salisbury.
Rosebery trat 1896 als Vorsitzender der Liberalen Partei zurück und entfernte sich nach und nach immer weiter von der Hauptströmung der Partei, unterstützte den Burenkrieg und lehnte die irische Selbstverwaltung ab, eine Position, die ihn daran hinderte, sich an der liberalen Regierung zu beteiligen, die 1905 an die Macht zurückkehrte. In seinen späteren Jahren wandte sich Rosebery dem Schreiben zu, darunter Biographien von Lord Chatham, Pitt the Younger, Napoleon und Lord Randolph Churchill. Er war auch für seine Champion-Rennpferde berühmt.