Ein kryptographisches Protokoll (auch als Verschlüsselungsprotokoll oder Sicherheitsprotokoll bekannt) ist ein abstraktes oder ein vorhandenes Protokoll, das eine sicherheitsbezogene Funktion ausführt und kryptographische Methoden anwendet.

Ein Protokoll beschreibt, wie die kryptographischen Algorithmen zur Sicherung von Informationen verwendet werden sollen. Die Beschreibung eines Protokolls muss Details über alle Datenstrukturen und Darstellungen sowie alle Details darüber enthalten, wie das Protokoll von Programmen genutzt werden soll.

Kryptographische Protokolle werden häufig für den sicheren Datentransport auf Anwendungsebene verwendet, um übertragene Nachrichten zu sichern. Ein kryptographisches Protokoll weist in der Regel zumindest einige dieser Merkmale auf:

  • Schlüsselerzeugung.
  • Authentifizierung der Entität.
  • Schlüsselvereinbarung.
  • Symmetrische Verschlüsselung der übertragenen Nachrichten mit dem vereinbarten generierten Schlüssel.

Der Begriff kryptographisches Protokoll wird auf unterschiedliche Weise verwendet. Beispielsweise verwenden kryptographische Anwendungsprotokolle häufig ein oder mehrere zugrunde liegende Schlüsselvereinbarungsprotokolle, die manchmal auch selbst als "kryptographische Protokolle" bezeichnet werden, wie z.B. die Secure Sockets Layer (SSL), die den sogenannten Diffie-Hellman-Schlüsselaustausch verwendet, wobei Diffie-Hellman für andere Anwendungen als vollständiges kryptographisches Protokoll an sich betrachtet werden kann.