Невозможно расшифровать SMIME-сообщение, зашифрованное AES, с помощью OpenSSL

Я знаю, что это с опозданием на годы, но это может быть полезно для других...

Я очень успешно и счастливо использовал EnvelopedCms в течение нескольких лет, обмениваясь сообщениями со многими другими реализациями. Когда в этом году кто-то решил потребовать использования AES, я обнаружил, что по крайней мере одна система на основе Java не работает с моими сообщениями. (Их ошибка была «Невозможно создать содержимое MIME PKCS # 7»)

Я использовал информационную утилиту ASN, чтобы разбить то, что я отправлял, и обнаружил, что EnvelopedCms заставляла KeyEncryptionAlgorithm использовать RSA-OAEP, когда шифрование контента было установлено на AES. (Если содержимое было зашифровано чем-то еще, KeyEncryptionAlgorithm был просто RSA.)

Я не смог найти документацию или RFC, объясняющие это поведение, и, похоже, нет никакого способа его изменить.

Моим решением проблемы было использование класса BouncyCastle CmsEnvelopedDataGenerator. На данный момент он работает, по крайней мере, так же хорошо, как EnvelopedCms, и позволяет избежать проблемы с шифрованием ключа RSA-OAEP. Почти полная замена (кроме используемого класса сертификата).

Хотя мне не удалось найти какой-либо документации, в которой конкретно говорилось бы, что Java-библиотеки моего получателя не могут использовать алгоритм RSA-OAEP, как только я его устранил, их ошибка исчезла, и сообщения были успешно отправлены.

Пример кода с использованием BouncyCastle:

private byte[] CmsEncrypt(byte[] message, string contentEncryptionOid, Org.BouncyCastle.X509.X509Certificate recipCertificate)
{
    var cmsGenerator = new CmsEnvelopedDataGenerator();
    var cmsData = new CmsProcessableByteArray(message);

    cmsGenerator.AddKeyTransRecipient(recipCertificate);

    var cmsEnvelope = cmsGenerator.Generate(cmsData, contentEncryptionOid);

    return cmsEnvelope.GetEncoded();
}