Der erste Vorgänger der GRU im post-zaristischen Russland wurde am 21. Oktober 1918 unter der Schirmherrschaft von Leo Trotzki gegründet, der damals ziviler Aufseher der Roten Armee war. Sie war ursprünglich als Registrierungsdirektorat (Registrupravlenie, oder RU) bekannt. In seiner Geschichte der frühen Jahre der GRU schreibt Raymond W. Leonard:
"Wie ursprünglich eingerichtet, war die Registrierungsabteilung nicht direkt dem Generalstab [der] Roten Armee unterstellt... Im Jahre 1921... wurde sie zur Zweiten (Geheimdienst-)Direktion des Stabes der Roten Armee erhoben.
Ihr wurde die Aufgabe übertragen, den gesamten militärischen Nachrichtendienst zu verwalten, insbesondere die Sammlung von Nachrichten von militärischer oder politischer Bedeutung aus Quellen außerhalb der Sowjetunion. Die GRU unterhielt Residenzen auf der ganzen Welt. In Kuba und in den Ländern des ehemaligen Sowjetblocks, insbesondere in Litauen, Lettland und Estland, wurden sie mit dem SIGINT (Signals Intelligence) betrieben.
Die GRU war in der sowjetischen Regierung für ihre grimmige Unabhängigkeit von den rivalisierenden "internen Geheimdienstorganisationen" wie dem NKWD und dem KGB bekannt. Zur Zeit der Gründung der GRU verärgerte Lenin die Tscheka (Vorgängerin des KGB), indem er ihr befahl, sich nicht in die Operationen der GRU einzumischen. Nichtsdestotrotz infiltrierte die Tscheka 1919 die GRU. Dies legte den Keim für eine erbitterte Rivalität zwischen den beiden Agenturen, die beide Spionage betrieben. Die Rivalität war noch intensiver als die zwischen dem FBI und der CIA.
Die Existenz der GRU wurde während der Sowjetzeit nicht publik gemacht. Ende der 1920er Jahre wurden im Westen Dokumente über sie verfügbar, und sie wurde 1931 in den Memoiren des ersten Überläufers der OGPU, Georges Agabekow, erwähnt. Walter Krivitsky, der ranghöchste Geheimdienstoffizier der Roten Armee, der jemals übergelaufen ist, beschrieb sie ausführlich in seiner Autobiografie von 1939 (ich war Stalins Agent).
Sie wurde in Russland und im Westen während der Perestroika weithin bekannt. "Viktor Suworow" (Wladimir Rezun), ein GRU-Agent, der 1978 nach Großbritannien überlief, schrieb über seine Erfahrungen im sowjetischen Militär und Geheimdienst. Laut Suvorov konnte selbst der Generalsekretär der KPdSU das Hauptquartier der GRU nicht betreten, ohne sich einer Sicherheitsüberprüfung zu unterziehen.
Die GRU ist nach wie vor ein sehr wichtiger Teil der Geheimdienste der Russischen Föderation, zumal sie nie wie der KGB aufgeteilt wurde. Der KGB wurde aufgelöst, nachdem er 1991 einen gescheiterten Putsch gegen den damaligen sowjetischen Präsidenten Michail Gorbatschow unterstützt hatte. Seither wurde er in den Auslandsnachrichtendienst (SVR) und den Föderalen Sicherheitsdienst (FSB) aufgeteilt.
Die GRU wurde am 7. Mai 1992 offiziell aufgelöst. Sie ist weiterhin das Hauptintelligenzdirektorat der russischen Streitkräfte.
