Die Stadt ist nach dem Fluss benannt (altrussisch: гра́д Моско́в, was "die Stadt an der Moskwa" bedeutet). Der Anfang des Namens ist nicht bekannt, aber einige Leute haben ein paar Ideen. Eine davon ist, dass der Name aus einer sehr alten finnischen Sprache stammen könnte, in der er "dunkel" und "wolkig" bedeutet. Die erste russische Erwähnung Moskaus stammt aus dem Jahr 1147, als Jurij Dolgoruki den Fürsten von Nowgorod-Sewerski (Nord-Nowgorod) aufforderte, "zu mir, Bruder, nach Moskau zu kommen".
Neun Jahre später, 1156, befahl Fürst Jurij Dolgoruki den Bau einer Holzwand, die mehrmals erneuert werden musste, um die wachsende Stadt zu umrunden. Nach dem Angriff von 1237-1238, als die Mongolen die Stadt bis auf die Grundmauern niederbrannten und die dort lebenden Menschen töteten, wuchs Moskau wieder an und wurde 1327 Hauptstadt des Fürstentums Wladimir-Suzdal (eine von einem Fürsten regierte Landmenge). Seine gute Lage am Anfang der Wolga half der Stadt, langsam immer größer zu werden. Moskau verwandelte sich für viele Jahre in ein friedliches und reiches Fürstentum, bekannt als Großherzogtum Moskau, und eine große Zahl von Menschen aus ganz Russland zog dorthin.
Unter Iwan I. löste die Stadt Twer als politisches Zentrum von Wladimir-Suzdal ab und wurde zum einzigen Steuereinnehmer der mongolisch-tatarischen Herrscher. Indem er hohe Steuern zahlte, schloss Iwan ein wichtiges Abkommen mit dem Khan. Im Gegensatz zu anderen Fürstentümern wurde Moskau nicht unter seinen Söhnen aufgeteilt, sondern ging ganz an seinen Ältesten über. Allerdings gefiel Moskau die mongolische Herrschaft nicht. Im Jahr 1380 führte Fürst Dmitrij Donskoj von Moskau eine russische Armee zu einem wichtigen Sieg über die Tataren in der Schlacht von Kulikowo. Nur zwei Jahre später wurde Moskau von dem Khan Tokhtamysch überfallen. Im Jahr 1480 befreite Iwan III. schließlich die Russen von der tatarischen Kontrolle und ermöglichte es Moskau, zum Machtzentrum in Russland zu werden. Unter Iwan III. wurde die Stadt zur Hauptstadt eines Reiches, das schließlich ganz Russland und andere Länder umfassen sollte.
1571 überfielen die Krimtataren Moskau und verbrannten alles bis auf den Kreml.
Im Jahr 1609 marschierte die schwedische Armee unter der Führung von Graf Jacob De la Gardie und Evert Horn von Weliki Nowgorod in Richtung Moskau, um Zar Wasili Shuiski zu helfen. Sie marschierten 1610 in Moskau ein und stoppten die Revolution gegen den Zaren, verließen das Land jedoch Anfang 1611. Danach drangen die Polen ein. Während des polnisch-muskowitischen Krieges (1605-1618) drang Hetman (Heeresführer) Stanisław Żółkiewski in Moskau ein, nachdem er die Russen in der Schlacht von Klushino besiegt hatte. Im 17. Jahrhundert gab es viele Revolutionen, wie den Salzaufstand (1648), den Kupferaufstand (1662) und den Moskauer Aufstand von 1682.
Die Pest von 1654-1656 tötete die Hälfte der Bevölkerung Moskaus. Die Stadt hörte 1712 auf, Russlands Hauptstadt zu sein, nachdem Peter der Große 1703 in der Nähe der Ostseeküste Sankt Petersburg erbaut hatte. Die Pest von 1771 war die letzte große Seuche in Zentralrussland, die allein in Moskau 100.000 Menschen tötete. Während des französischen Einmarsches in Russland 1812 brannten die Moskauer die Stadt nieder und flohen, als sich Napoleons Armee am 14. September der Stadt näherte. Napoleons Armee, die sehr hungrig und kalt war, musste die Stadt verlassen und wurde durch den eisigen russischen Winter und einige Angriffe der Armee fast zerstört.
Im Januar 1905 wurde Alexander Adrianow Moskaus erster Bürgermeister. Nach der russischen Revolution von 1917 wurde Moskau am 12. März 1918 zur Hauptstadt der Sowjetunion. Während des Zweiten Weltkriegs (in Russland als "Großer Vaterländischer Krieg" bekannt), nach dem deutschen Einmarsch in die UdSSR, wurden die sowjetische Staatsverteidigungsgruppe und die Kommandeure der Roten Armee in Moskau stationiert.
Im Jahr 1941 wurden unter den Moskauern 16 Gruppen nationaler Freiwilliger (mehr als 160.000 Personen), fünfundzwanzig Bataillone (18.500 Personen) und vier Ingenieurregimenter gebildet. Im November desselben Jahres wurde die deutsche Armee am Rande der Stadt angehalten und dann in der Schlacht bei Moskau vertrieben. Viele Fabriken wurden verlagert, auch ein Großteil der Regierung, und ab 20. Oktober wurde die Stadt zur Belagerung erklärt. Die Menschen, die blieben, bauten und benutzten Panzerabwehrsysteme, während die Stadt aus der Luft bombardiert wurde. Joseph Stalin (der Führer Russlands) verließ die Stadt nicht, so dass auch der Generalstab in der Stadt blieb. Auch während der Belagerung wurde der Bau der Moskauer U-Bahn während des Krieges fortgesetzt, und gegen Ende des Krieges wurden einige neue U-Bahnlinien eröffnet.
Am 1. Mai 1944 wurde Moskau eine Medaille für die Verteidigung Moskaus und 1947 eine weitere Medaille zur Erinnerung an das 800-jährige Bestehen Moskaus verliehen. Jahrestages des Sieges über Nazi-Deutschland wurde Moskau am 8. Mai 1965 als eine von zwölf sowjetischen Städten mit dem Titel "Heldenstadt" ausgezeichnet.
1980 war Moskau Gastgeber der Olympischen Sommerspiele, die die Vereinigten Staaten und einige andere westliche Länder wegen des Krieges der Sowjetunion in Afghanistan Ende 1979 nicht besuchten. 1991 war Moskau Schauplatz des gescheiterten Umsturzversuchs der Regierungsmitglieder, die gegen die Regeln von Michail Gorbatschow opponierten. Als die UdSSR im selben Jahr endete, war Moskau weiterhin die Hauptstadt Russlands.
Seitdem hat der Beginn der Marktwirtschaft in Moskau zu einer Explosion von Geschäften, Dienstleistungen, Architektur und Lebensstilen westlichen Stils geführt. 1998 fanden hier die ersten Weltjugendspiele statt.