Der Hauptunterschied zwischen beiden Systemen ist die Unterstützung von Verschlüsselungsalgorithmen. Während S/MIME beim Verschlüsseln und Signieren von Nachrichten nur RSA als Verschlüsselungsalgorithmus unterstützt (benannt mit den ersten Buchstaben der Gründernamen), kennt OpenPGP für die Verschlüsselung unter anderem noch ElGamal, welches logarithmus-basiert ist; beim Signieren wird zusätzlich DSA unterstützt (Digital Signature Algorithm). Auch die Schlüssel und Keyring-Formate unterscheiden sich. Ein Keyring ist eine Sammlung von öffentlichen und privaten Schlüsseln in einer Datei. Während man bei OpenPGP von Keyring spricht, wird bei S/MIME der öffentliche Schlüssel als Zertifikat bezeichnet. S/MIME und OpenPGP sind somit nicht zueinander kompatibel.

Für den öffentlichen S/MIME-Schlüssel wird ein X.509-Zertifikat verwendet, das nur eine einzige Unterschrift unter dem Schlüssel erlaubt. Somit kann ein X.509-Zertifikat nur einen Schlüssel, eine Unterschrift und eine User-ID enthalten. Das X.509-Zertifikat wird von einer zentralen Zertifizierungsstelle, der Certificate Authority (CA), ausgestellt und enthält neben der Unterschrift noch eine Seriennummer und einen "Distinguished Name", sowie optional die E-Mail-Adresse des Anwenders.

Im Gegensatz zum S/MIME X.509-Zertifikat spricht man bei OpenPGP von öffentlichen Schlüsseln. Diese können mehrere Benutzer-IDs und Zertifikate enthalten, womit sie als flexibler gelten.

S/MIME setzt auf eine streng hierarchische Zertifikatsverteilung, an deren Spitze die sogenannte Certificate Authority (CA) steht, die auch die Echtheit des Zertifikats bestätigt. Der anarchische Ansatz des "Web of trust" spielt im klassischen Modell der OpenPGP-Schlüssel-Zertifizierung eine zentrale Rolle. Hierbei bestätigen OpenPGP-Nutzer selbst die öffentlichen Schlüssel von anderen OpenPGP-Nutzern, denen sie vertrauen, ohne Vorhandensein einer übergeordneten, zentralen Stelle. Die öffentlichen Schlüssel werden über im Internet verfügbare Keyserver bereitgestellt, auf welche jeder Benutzer seinen öffentlichen Schlüssel überträgt und öffentliche Schlüssel anderer Benutzer suchen und anfordern kann.

Beide Systeme verschlüsseln nach dem Public-Key/Private-Key-Prinzip. Man besitzt dabei einen Schlüssel, den jeder kennen darf, ja sogar muss, und einen Schlüssel, der nur einem selbst bekannt ist. Wenn nun der Empfänger einer E-Mail eine verschlüsselte Nachricht erhalten möchte, muss dem Absender das Zertifikat oder der öffentliche Schlüssel bekannt sein, da mit diesem die Nachrichten verschlüsselt werden. So ist gewährleistet, dass nur Personen mit passendem privatem Schlüssel die Nachricht wieder entschlüsseln können, was einen ungeheuren Vorteil gegenüber der eingangs erwähnten Verschlüsselung mit symmetrischen Verfahren darstellt.