uencrypt: split common and library-specific code
[openwrt/staging/dedeckeh.git] / package / utils / uencrypt / src / uencrypt-mbedtls.c
index 731beaad0f66a8bdf92f65fc4888851d3ee8fe99..34851261b79d0dcdf9de7be01235f9f180144517 100644 (file)
  */
 
 #include <ctype.h>
-#include <errno.h>
 #include <stdio.h>
 #include <stdlib.h>
 #include <string.h>
 #include <unistd.h>
-#include <mbedtls/cipher.h>
+#include "uencrypt.h"
 
-int do_crypt(FILE *infile, FILE *outfile, const mbedtls_cipher_info_t *cipher_info,
-            const unsigned char *key, const unsigned char *iv, int enc, int padding)
+unsigned char *hexstr2buf(const char *str, long *len)
 {
-    mbedtls_cipher_context_t ctx;
-    unsigned char inbuf[1024], outbuf[1024 + MBEDTLS_MAX_BLOCK_LENGTH];
-    size_t inlen, outlen;
-    int ret = 0;
-    int step;
-
-    mbedtls_cipher_init(&ctx);
-    if ((ret = mbedtls_cipher_setup(&ctx, cipher_info))) {
-       fprintf(stderr, "Error: mbedtls_cipher_setup: %d\n", ret);
-       goto out;
-    }
-    step = iv ? 1024 : mbedtls_cipher_get_block_size(&ctx);
-    if ((ret = mbedtls_cipher_setkey(&ctx, key, (int) mbedtls_cipher_get_key_bitlen(&ctx),
-                             enc ? MBEDTLS_ENCRYPT : MBEDTLS_DECRYPT))) {
-       fprintf(stderr, "Error: mbedtls_cipher_setkey: %d\n", ret);
-       goto out;
-    }
-    if (iv && (ret = mbedtls_cipher_set_iv(&ctx, iv, cipher_info->iv_size))) {
-       fprintf(stderr, "Error: mbedtls_cipher_set_iv: %d\n", ret);
-       goto out;
-    }
+    unsigned char *buf;
+    long inlen = strlen(str);
 
-    if (cipher_info->block_size > 1) {
-       if (cipher_info->mode == MBEDTLS_MODE_CBC) {
-           if ((ret = mbedtls_cipher_set_padding_mode(&ctx,
-                                                      padding ? MBEDTLS_PADDING_PKCS7
-                                                              : MBEDTLS_PADDING_NONE))) {
-               fprintf(stderr, "Error: mbedtls_cipher_set_padding_mode: %d\n", ret);
-               goto out;
-           }
-       } else {
-           if (cipher_info->mode != MBEDTLS_MODE_CBC && padding) {
-               fprintf(stderr, "Error: mbedTLS only supports padding with CBC ciphers.\n");
-               goto out;
-           }
-       }
-    }
+    *len = 0;
+    if (inlen % 2)
+       return NULL;
 
-    if ((ret = mbedtls_cipher_reset(&ctx))) {
-       fprintf(stderr, "Error: mbedtls_cipher_reset: %d\n", ret);
-       goto out;
-    }
+    *len = inlen >> 1;
+    buf = malloc(*len);
+    for  (long x = 0; x < *len; x++)
+       sscanf(str + x * 2, "%2hhx", buf + x);
+    return buf;
+}
 
-    for (;;) {
-       inlen = fread(inbuf, 1, step, infile);
-       if (inlen <= 0)
-           break;
-       if ((ret = mbedtls_cipher_update(&ctx, inbuf, inlen, outbuf, &outlen))) {
-           fprintf(stderr, "Error: mbedtls_cipher_update: %d\n", ret);
-           goto out;
-       }
-       fwrite(outbuf, 1, outlen, outfile);
-    }
-    if ((ret = mbedtls_cipher_finish(&ctx, outbuf, &outlen))) {
-       fprintf(stderr, "Error: mbedtls_cipher_finish: %d\n", ret);
-       goto out;
-    }
-    fwrite(outbuf, 1, outlen, outfile);
+const cipher_t *get_default_cipher(void)
+{
+    return mbedtls_cipher_info_from_type (MBEDTLS_CIPHER_AES_128_CBC);
+}
 
-out:
-    mbedtls_cipher_free(&ctx);
-    return ret;
+static char* upperstr(char *str) {
+    for (char *s = str; *s; s++)
+       *s = toupper((unsigned char) *s);
+    return str;
 }
 
-static void check_enc_dec(const int enc)
+const cipher_t *get_cipher_or_print_error(char *name)
 {
-    if (enc == -1)
-       return;
-    fprintf(stderr, "Error: both -d and -e were specified.\n");
-    exit(EXIT_FAILURE);
+    const mbedtls_cipher_info_t *cipher;
+
+    cipher = mbedtls_cipher_info_from_string(upperstr(name));
+    if (cipher)
+       return cipher;
+
+    fprintf(stderr, "Error: invalid cipher: %s.\n", name);
+    fprintf(stderr, "Supported ciphers: \n");
+    for (const int *list = mbedtls_cipher_list(); *list; list++) {
+       cipher = mbedtls_cipher_info_from_type(*list);
+       if (!cipher)
+           continue;
+       fprintf(stderr, "\t%s\n", cipher->name);
+    }
+    return NULL;
 }
 
-static void check_cipher(const mbedtls_cipher_info_t *cipher_info)
+int get_cipher_ivsize(const cipher_t *cipher)
 {
-    const int *list;
-
-    if (cipher_info == NULL) {
-       fprintf(stderr, "Error: invalid cipher: %s.\n", optarg);
-       fprintf(stderr, "Supported ciphers: \n");
-       for (list = mbedtls_cipher_list(); *list; list++) {
-           cipher_info = mbedtls_cipher_info_from_type(*list);
-           if (!cipher_info)
-               continue;
-           fprintf(stderr, "\t%s\n", cipher_info->name);
-       }
-       exit(EXIT_FAILURE);
-    }
+    const mbedtls_cipher_info_t *c = cipher;
+
+    return c->iv_size;
 }
 
-static void show_usage(const char* name)
+int get_cipher_keysize(const cipher_t *cipher)
 {
-    fprintf(stderr, "Usage: %s: [-d | -e] [-n] -k key [-i iv] [-c cipher]\n"
-                   "-d = decrypt; -e = encrypt; -n = no padding\n", name);
+    const mbedtls_cipher_info_t *c = cipher;
+
+    return c->key_bitlen >> 3;
 }
 
-char *hexstr2buf(const char *str, size_t *len)
+ctx_t *create_ctx(const cipher_t *cipher, const unsigned char *key,
+                 const unsigned char *iv, int enc, int padding)
 {
-    char *buf;
-    size_t inlen = strlen(str);
+    mbedtls_cipher_context_t *ctx;
+    const mbedtls_cipher_info_t *cipher_info=cipher;
+    int ret;
 
-    *len = 0;
-    if (inlen % 2)
+    ctx = malloc(sizeof (mbedtls_cipher_context_t));
+    if (!ctx) {
+       fprintf (stderr, "Error: create_ctx: out of memory.\n");
        return NULL;
+    }
 
-    *len = inlen >> 1;
-    buf = malloc(*len);
-    for  (size_t x = 0; x < *len; x++)
-       sscanf(str + x * 2, "%2hhx", buf + x);
-    return buf;
-}
+    mbedtls_cipher_init(ctx);
+    ret = mbedtls_cipher_setup(ctx, cipher_info);
+    if (ret) {
+       fprintf(stderr, "Error: mbedtls_cipher_setup: %d\n", ret);
+       goto abort;
+    }
+    ret = mbedtls_cipher_setkey(ctx, key,
+                               (int) mbedtls_cipher_get_key_bitlen(ctx),
+                               enc ? MBEDTLS_ENCRYPT : MBEDTLS_DECRYPT);
+    if (ret) {
+       fprintf(stderr, "Error: mbedtls_cipher_setkey: %d\n", ret);
+       goto abort;
+    }
+    if (iv) {
+        ret = mbedtls_cipher_set_iv(ctx, iv, mbedtls_cipher_get_iv_size(ctx));
+       if (ret) {
+           fprintf(stderr, "Error: mbedtls_cipher_set_iv: %d\n", ret);
+           goto abort;
+       }
+    }
 
-static char* upperstr(char *str) {
-    for (char *s = str; *s; s++)
-       *s = toupper((unsigned char) *s);
-    return str;
+    if (cipher_info->mode == MBEDTLS_MODE_CBC) {
+       ret = mbedtls_cipher_set_padding_mode(ctx, padding ?
+                                                  MBEDTLS_PADDING_PKCS7 :
+                                                  MBEDTLS_PADDING_NONE);
+       if (ret) {
+           fprintf(stderr, "Error: mbedtls_cipher_set_padding_mode: %d\n",
+                   ret);
+           goto abort;
+       }
+    } else {
+       if (cipher_info->block_size > 1 && padding) {
+           fprintf(stderr,
+                   "Error: mbedTLS only allows padding with CBC ciphers.\n");
+           goto abort;
+       }
+    }
+
+    ret = mbedtls_cipher_reset(ctx);
+    if (ret) {
+       fprintf(stderr, "Error: mbedtls_cipher_reset: %d\n", ret);
+       goto abort;
+    }
+    return ctx;
+
+abort:
+    free_ctx(ctx);
+    return NULL;
 }
 
-int main(int argc, char *argv[])
+int do_crypt(FILE *infile, FILE *outfile, ctx_t *ctx)
 {
-    int enc = -1;
-    unsigned char *iv = NULL;
-    unsigned char *key = NULL;
-    size_t keylen = 0, ivlen = 0;
-    int opt;
-    int padding = 1;
-    const mbedtls_cipher_info_t *cipher_info =
-                       mbedtls_cipher_info_from_type (MBEDTLS_CIPHER_AES_128_CBC);
+    unsigned char inbuf[CRYPT_BUF_SIZE];
+    unsigned char outbuf[CRYPT_BUF_SIZE + MBEDTLS_MAX_BLOCK_LENGTH];
+    size_t inlen, outlen, step;
     int ret;
 
-    while ((opt = getopt(argc, argv, "c:dei:k:n")) != -1) {
-       switch (opt) {
-       case 'c':
-           cipher_info = mbedtls_cipher_info_from_string(upperstr(optarg));
-           check_cipher(cipher_info);
-           break;
-       case 'd':
-           check_enc_dec(enc);
-           enc = 0;
-           break;
-       case 'e':
-           check_enc_dec(enc);
-           enc = 1;
-           break;
-       case 'i':
-           iv = (unsigned char *) hexstr2buf((const char *)optarg, &ivlen);
-           if (iv == NULL) {
-               fprintf(stderr, "Error setting IV to %s. The IV should be encoded in hex.\n",
-                       optarg);
-               exit(EINVAL);
-           }
-           break;
-       case 'k':
-           key = (unsigned char *) hexstr2buf((const char *)optarg, &keylen);
-           if (key == NULL) {
-               fprintf(stderr, "Error setting key to %s. The key should be encoded in hex.\n",
-                       optarg);
-               exit(EINVAL);
-           }
-           break;
-       case 'n':
-           padding = 0;
-           break;
-       default:
-           show_usage(argv[0]);
-           exit(EINVAL);
+    if (mbedtls_cipher_get_cipher_mode(ctx) == MBEDTLS_MODE_ECB) {
+       step = mbedtls_cipher_get_block_size(ctx);
+       if (step > CRYPT_BUF_SIZE) {
+           step = CRYPT_BUF_SIZE;
        }
+    } else {
+       step = CRYPT_BUF_SIZE;
     }
-    if (cipher_info->iv_size) {
-       if (iv == NULL) {
-           fprintf(stderr, "Error: iv not set.\n");
-           show_usage(argv[0]);
-           exit(EXIT_FAILURE);
+
+    for (;;) {
+       inlen = fread(inbuf, 1, step, infile);
+       if (inlen <= 0)
+           break;
+       ret = mbedtls_cipher_update(ctx, inbuf, inlen, outbuf, &outlen);
+       if (ret) {
+           fprintf(stderr, "Error: mbedtls_cipher_update: %d\n", ret);
+           return ret;
        }
-       if (ivlen != cipher_info->iv_size) {
-           fprintf(stderr, "Error: IV must be %d bytes; given IV is %zd bytes.\n",
-                   cipher_info->iv_size, ivlen);
-           exit(EXIT_FAILURE);
+       ret = fwrite(outbuf, 1, outlen, outfile);
+       if (ret != outlen) {
+           fprintf(stderr, "Error: cipher_update short write.\n");
+           return ret - outlen;
        }
     }
-    if (key == NULL) {
-       fprintf(stderr, "Error: key not set.\n");
-       show_usage(argv[0]);
-       exit(EXIT_FAILURE);
+    ret = mbedtls_cipher_finish(ctx, outbuf, &outlen);
+    if (ret) {
+       fprintf(stderr, "Error: mbedtls_cipher_finish: %d\n", ret);
+       return ret;
+    }
+    ret = fwrite(outbuf, 1, outlen, outfile);
+    if (ret != outlen) {
+       fprintf(stderr, "Error: cipher_finish short write.\n");
+       return ret - outlen;
     }
-    if (keylen != cipher_info->key_bitlen >> 3) {
-       fprintf(stderr, "Error: key must be %d bytes; given key is %zd bytes.\n",
-               cipher_info->key_bitlen >> 3, keylen);
-       exit(EXIT_FAILURE);
+
+    return 0;
+}
+
+void free_ctx(ctx_t *ctx)
+{
+    if (ctx) {
+       mbedtls_cipher_free(ctx);
+       free(ctx);
     }
-    ret = do_crypt(stdin, stdout, cipher_info, key, iv, !!enc, padding);
-    if (iv)
-       memset(iv, 0, ivlen);
-    memset(key, 0, keylen);
-    free(iv);
-    free(key);
-    return ret;
 }