Cache

Ein Cache ist ein Speicherblock zum Speichern von Daten, der wahrscheinlich wieder verwendet wird. Die CPU und die Festplatte verwenden häufig einen Cache, ebenso wie Web-Browser und Web-Server.

Ein Cache besteht aus vielen Einträgen, die als Pool bezeichnet werden. Jeder Eintrag enthält ein Datum (ein Datenbit), das eine Kopie eines Datums an einer anderen Stelle ist. Caches verwenden normalerweise einen so genannten Backing Store. Backing-Stores sind im Vergleich zum Cache langsam oder teuer im Zugriff. Ein Platten-Cache verwendet z. B. eine Festplatte als Backup-Speicher. An jeden Eintrag ist auch eine kleine Information angehängt, die als Tag bezeichnet wird. Dieses Tag wird verwendet, um den Ort zu finden, an dem die Originaldaten gespeichert sind.

Caches zum Lesen

Wenn ein Client (eine CPU, ein Web-Browser, ein Betriebssystem) auf ein Datenelement zugreifen möchte, von dem er glaubt, dass es sich im Backing Store befindet, prüft er zunächst, ob das Datenelement im Cache gefunden werden kann. Wenn die Daten im Cache gefunden werden können, kann der Client sie verwenden und muss nicht den Hauptspeicher verwenden. Dies wird als Cache-Treffer bezeichnet. So könnte z. B. ein Web-Browser-Programm seinen lokalen Cache auf der Festplatte daraufhin überprüfen, ob es eine lokale Kopie des Inhalts einer Webseite unter einer bestimmten URL hat. In diesem Beispiel ist die URL das Tag, und der Inhalt der Webseite ist das Datum.

Die andere Situation, die auftreten kann, ist, dass das Datum mit dem Tag nicht im Cache gefunden werden kann. Dies wird als Cache-Miss bezeichnet. Das Datum muss aus dem Sicherungsspeicher geholt werden. Normalerweise wird es in den Cache kopiert, so dass es beim nächsten Mal nicht mehr aus dem Sicherungsspeicher geholt werden muss.

Der Cache hat nur eine begrenzte Größe. Um Platz für den zuvor nicht gecachten Eintrag zu schaffen, muss eventuell ein weiterer gecachter Eintrag aus dem Cache gelöscht werden. Spezielle Regeln werden verwendet, um den Eintrag zu finden, der am besten gelöscht werden sollte. Diese Regeln werden üblicherweise Heuristik genannt. Heuristiken, die verwendet werden, um den Eintrag zu finden, werden Ersetzungsregeln genannt. Eine sehr einfache Regel, die verwendet wird, heißt Least recently used (oder LRU). Sie nimmt einfach den Eintrag, der vor langer Zeit am längsten verwendet wurde. Andere Heuristiken sind unter Cache-Algorithmus aufgeführt...

Caches zum Schreiben

Caches können auch zum Schreiben von Daten verwendet werden; dies hat den Vorteil, dass der Client seinen Betrieb fortsetzen kann, nachdem der Eintrag in den Cache geschrieben wurde; er muss nicht warten, bis der Eintrag in den Sicherungsspeicher geschrieben wurde.

Der Eintrag muss jedoch zu einem bestimmten Zeitpunkt in den Sicherungsspeicher geschrieben werden. Der Zeitpunkt, zu dem dies geschieht, wird durch die Schreibrichtlinie gesteuert.

Bei einem Write-Through-Cache wird jeder Eintrag sofort in den Backing-Store geschrieben und zusätzlich im Cache gespeichert.

Die andere Möglichkeit besteht darin, nur in den Cache zu schreiben und später in den Sicherungsspeicher zu schreiben. Dies wird als Rückschreib-Cache (oder Rückschreib-Cache) bezeichnet. Der Cache markiert die Einträge, die noch nicht in den Sicherungsspeicher geschrieben wurden; die verwendete Markierung wird oft als Dirty-Flag bezeichnet. Bevor die Einträge aus dem Cache gelöscht werden, werden sie in den Backing-Store geschrieben. Dies wird als Lazy-Write bezeichnet. Ein Fehlschlag in einem Rückschreib-Cache (bei dem ein Block durch einen anderen ersetzt werden muss) erfordert oft zwei Speicherzugriffe: einen, um das benötigte Datum zu erhalten, und einen weiteren, um die ersetzten Daten aus dem Cache in den Speicher zu schreiben.

Die Caching-Richtlinie kann auch besagen, dass ein bestimmtes Datum in den Cache geschrieben werden muss. Der Client kann viele Änderungen an dem Datum im Cache vorgenommen haben. Nachdem er dies getan hat, kann er den Cache explizit anweisen, das Datum zurückzuschreiben.

Die schreibfreie Zuweisung ist eine Cache-Richtlinie, bei der nur Lesezugriffe zwischengespeichert werden. Dadurch wird die Notwendigkeit des Zurück- oder Durchschreibens des Caches vermieden. Es wird ständig in den Backing-Store geschrieben.

Der Client ist nicht die Anwendung, die Daten im Backing Store ändert. Wenn die Daten im Backup-Store geändert wurden, ist die Kopie im Cache veraltet oder veraltet. Wenn der Client die Daten im Cache aktualisiert, sind alternativ Kopien dieser Daten in anderen Caches veraltet. Es gibt spezielle Kommunikationsprotokolle, die es Cache-Managern ermöglichen, miteinander zu kommunizieren, um die Daten aussagekräftig zu halten. Diese sind als Kohärenzprotokolle bekannt.

Ein Cache ist klein, und er wird die meiste Zeit über voll oder fast voll sein. Wenn also ein neuer Wert hinzugefügt wird, muss ein alter entfernt werden. Es gibt verschiedene Möglichkeiten, wie diese Auswahl vorgenommen werden kann:

• First in First out: Ersetzen Sie einfach den Eintrag, der vor längerer Zeit in den Cache aufgenommen wurde
• Am wenigsten kürzlich benutzt: Diese Idee ähnelt dem obigen FIFO, aber wenn ein Eintrag verwendet wird, wird sein Zeitstempel/Alter aktualisiert.
• Am wenigsten häufig verwendet: Wieder ähnlich wie im FIFO-Fall, verwenden Sie statt eines Zeitstempels einen Zähler, der bei jeder Verwendung eines Eintrags erhöht wird.
• Wählen Sie einen Eintrag nach dem Zufallsprinzip aus

Das Wort Cache wurde erstmals 1967 in der Informatik verwendet, als ein wissenschaftlicher Artikel für die Veröffentlichung im IBM Systems Journal vorbereitet wurde. Der Artikel handelte von einer neuen Verbesserung des Speichers in Modell 85. Modell 85 war ein Computer der IBM System/360-Produktlinie. Der Herausgeber des Journals wollte ein besseres Wort für Hochgeschwindigkeitspuffer, das in dem Artikel verwendet wurde. Er erhielt keinen Input und schlug Cache vom französischen Cacher vor, was "verstecken" bedeutet. Der Artikel wurde Anfang 1968 veröffentlicht, und die Autoren wurden von IBM geehrt. Ihre Arbeit wurde allgemein begrüßt und verbessert. Cache wurde bald zum Standard in der Computerliteratur.

CPU-Caches

Kleine Speicher auf oder nahe dem CPU-Chip können schneller gemacht werden als der viel größere Hauptspeicher. Die meisten CPUs seit den 1980er Jahren verwenden einen oder mehrere Cachespeicher. Moderne Allzweck-CPUs in Personalcomputern können bis zu einem halben Dutzend haben. Jeder Cache kann auf einen anderen Teil der Aufgabe, Programme auszuführen, spezialisiert sein.

Platten-Caches

CPU-Caches werden im Allgemeinen vollständig durch Hardware verwaltet, andere Caches werden durch eine andere Art von Software verwaltet. Das Betriebssystem verwaltet normalerweise einen Seiten-Cache im Hauptspeicher. Benutzer außerhalb der Informatik nennen diesen Cache gewöhnlich virtuellen Speicher. Er wird vom Kernel des Betriebssystems verwaltet.

Moderne Festplatten haben Plattenpuffer. Diese werden manchmal "Plattencache" genannt, aber das ist falsch. Die Hauptfunktion dieser Puffer besteht darin, Schreibvorgänge auf der Festplatte anzuordnen und Lesevorgänge zu verwalten. Wiederholte Cache-Treffer sind selten, da der Puffer im Vergleich zur Größe der Festplatte sehr klein ist.

Lokale Festplatten sind im Vergleich zu anderen Speichergeräten, wie z. B. Remote-Servern, lokalen Bandlaufwerken oder optischen Jukeboxen, schnell. Die Verwendung lokaler Festplatten als Caches ist das Hauptkonzept der hierarchischen Speicherverwaltung.

Web-Caches

Web-Browser und Web-Proxy-Server verwenden Caches, um frühere Antworten von Web-Servern, wie z.B. Webseiten, zu speichern. Web-Caches reduzieren die Menge der Informationen, die über das Netzwerk übertragen werden müssen. Informationen, die zuvor im Cache gespeichert wurden, können oft wiederverwendet werden. Dies reduziert die Bandbreiten- und Verarbeitungsanforderungen des Webservers und trägt dazu bei, die Reaktionsfähigkeit für die Benutzer des Webs zu verbessern.

Moderne Web-Browser verwenden einen eingebauten Web-Cache, aber einige Internet-Service-Provider oder Organisationen verwenden auch einen Caching-Proxy-Server. Dabei handelt es sich um einen Web-Cache, der von allen Benutzern dieses Netzwerks gemeinsam genutzt wird.

Suchmaschinen stellen oft auch Webseiten, die sie indiziert haben, aus ihrem Cache zur Verfügung. Beispielsweise stellt Google neben jedem Suchergebnis einen "Cached"-Link zur Verfügung. Dies ist nützlich, wenn Webseiten von einem Webserver aus vorübergehend nicht zugänglich sind.

Caching mit unzuverlässigen Netzwerken

Der Write-Through-Betrieb ist in unzuverlässigen Netzwerken (wie einem Ethernet-LAN) üblich. Das Protokoll, mit dem sichergestellt wird, dass die Daten im Schreib-Cache sinnvoll sind, wenn mehrere Schreib-Caches verwendet werden, ist in einem solchen Fall sehr komplex.

Zum Beispiel sind Webseiten-Caches und Client-seitige Netzwerk-Dateisystem-Caches (wie die in NFS oder SMB) normalerweise schreibgeschützt oder schreibgeschützt, um das Netzwerkprotokoll einfach und zuverlässig zu halten.

Puffer und Cache schließen sich nicht gegenseitig aus; sie werden auch oft zusammen verwendet. Der Grund, warum sie verwendet werden, ist jedoch ein anderer. Ein Puffer ist eine Speicherstelle im Speicher, die traditionell verwendet wird, weil CPU-Befehle nicht direkt auf in Peripheriegeräten gespeicherte Daten zugreifen können. Der Computerspeicher wird als Zwischenspeicher verwendet.

Darüber hinaus kann ein solcher Puffer möglich sein, wenn ein großer Datenblock zusammengesetzt oder zerlegt wird (wie es ein Speichergerät erfordert), oder wenn die Daten in einer anderen Reihenfolge als der, in der sie produziert werden, geliefert werden. Außerdem wird normalerweise ein ganzer Puffer von Daten sequentiell übertragen (z.B. auf die Festplatte), so dass das Puffern selbst manchmal die Übertragungsleistung erhöht. Diese Vorteile sind selbst dann vorhanden, wenn die gepufferten Daten einmal in den Puffer geschrieben und einmal aus dem Puffer gelesen werden.

Ein Cache erhöht auch die Übertragungsleistung. Ein Teil des Anstiegs ist ebenfalls auf die Möglichkeit zurückzuführen, dass mehrere kleine Übertragungen zu einem großen Block zusammengefasst werden. Der Hauptleistungsgewinn ergibt sich jedoch daraus, dass eine gute Chance besteht, dass dasselbe Datum mehrmals aus dem Cache gelesen wird oder dass geschriebene Daten bald gelesen werden. Der einzige Zweck von Caches besteht darin, die Zugriffe auf den zugrunde liegenden langsameren Speicher zu reduzieren. Der Cache ist in der Regel auch eine Abstraktionsschicht, die so konzipiert ist, dass sie aus der Perspektive benachbarter Schichten unsichtbar ist. Auf diese Weise sind sich die Anwendungen oder Clients möglicherweise nicht bewusst, dass ein Cache vorhanden ist.