[BACK]Return to enc.c CVS log [TXT][DIR] Up to [local] / src / usr.bin / openssl

Annotation of src/usr.bin/openssl/enc.c, Revision 1.20

1.20    ! jsing       1: /* $OpenBSD: enc.c,v 1.19 2019/04/01 16:05:14 jsing Exp $ */
1.1       jsing       2: /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
                      3:  * All rights reserved.
                      4:  *
                      5:  * This package is an SSL implementation written
                      6:  * by Eric Young (eay@cryptsoft.com).
                      7:  * The implementation was written so as to conform with Netscapes SSL.
                      8:  *
                      9:  * This library is free for commercial and non-commercial use as long as
                     10:  * the following conditions are aheared to.  The following conditions
                     11:  * apply to all code found in this distribution, be it the RC4, RSA,
                     12:  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
                     13:  * included with this distribution is covered by the same copyright terms
                     14:  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
                     15:  *
                     16:  * Copyright remains Eric Young's, and as such any Copyright notices in
                     17:  * the code are not to be removed.
                     18:  * If this package is used in a product, Eric Young should be given attribution
                     19:  * as the author of the parts of the library used.
                     20:  * This can be in the form of a textual message at program startup or
                     21:  * in documentation (online or textual) provided with the package.
                     22:  *
                     23:  * Redistribution and use in source and binary forms, with or without
                     24:  * modification, are permitted provided that the following conditions
                     25:  * are met:
                     26:  * 1. Redistributions of source code must retain the copyright
                     27:  *    notice, this list of conditions and the following disclaimer.
                     28:  * 2. Redistributions in binary form must reproduce the above copyright
                     29:  *    notice, this list of conditions and the following disclaimer in the
                     30:  *    documentation and/or other materials provided with the distribution.
                     31:  * 3. All advertising materials mentioning features or use of this software
                     32:  *    must display the following acknowledgement:
                     33:  *    "This product includes cryptographic software written by
                     34:  *     Eric Young (eay@cryptsoft.com)"
                     35:  *    The word 'cryptographic' can be left out if the rouines from the library
                     36:  *    being used are not cryptographic related :-).
                     37:  * 4. If you include any Windows specific code (or a derivative thereof) from
                     38:  *    the apps directory (application code) you must include an acknowledgement:
                     39:  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
                     40:  *
                     41:  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
                     42:  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
                     43:  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
                     44:  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
                     45:  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
                     46:  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
                     47:  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
                     48:  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
                     49:  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
                     50:  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
                     51:  * SUCH DAMAGE.
                     52:  *
                     53:  * The licence and distribution terms for any publically available version or
                     54:  * derivative of this code cannot be changed.  i.e. this code cannot simply be
                     55:  * copied and put under another distribution licence
                     56:  * [including the GNU Public Licence.]
                     57:  */
                     58:
                     59: #include <stdio.h>
                     60: #include <stdlib.h>
                     61: #include <string.h>
                     62:
                     63: #include "apps.h"
                     64:
                     65: #include <openssl/bio.h>
                     66: #include <openssl/comp.h>
                     67: #include <openssl/err.h>
                     68: #include <openssl/evp.h>
                     69: #include <openssl/objects.h>
                     70: #include <openssl/pem.h>
                     71: #include <openssl/x509.h>
                     72:
                     73: int set_hex(char *in, unsigned char *out, int size);
                     74:
                     75: #define SIZE   (512)
                     76: #define BSIZE  (8*1024)
1.4       jsing      77:
                     78: static struct {
                     79:        int base64;
                     80:        char *bufsize;
                     81:        const EVP_CIPHER *cipher;
                     82:        int debug;
                     83: #ifdef ZLIB
                     84:        int do_zlib;
                     85: #endif
                     86:        int enc;
                     87:        char *hiv;
                     88:        char *hkey;
                     89:        char *hsalt;
                     90:        char *inf;
1.20    ! jsing      91:        int iter;
1.4       jsing      92:        char *keyfile;
                     93:        char *keystr;
                     94:        char *md;
                     95:        int nopad;
                     96:        int nosalt;
                     97:        int olb64;
                     98:        char *outf;
                     99:        char *passarg;
1.20    ! jsing     100:        int pbkdf2;
1.4       jsing     101:        int printkey;
                    102:        int verbose;
                    103: } enc_config;
                    104:
                    105: static int
                    106: enc_opt_cipher(int argc, char **argv, int *argsused)
                    107: {
                    108:        char *name = argv[0];
                    109:
                    110:        if (*name++ != '-')
                    111:                return (1);
                    112:
                    113:        if (strcmp(name, "none") == 0) {
                    114:                enc_config.cipher = NULL;
                    115:                *argsused = 1;
                    116:                return (0);
                    117:        }
                    118:
                    119:        if ((enc_config.cipher = EVP_get_cipherbyname(name)) != NULL) {
                    120:                *argsused = 1;
                    121:                return (0);
                    122:        }
                    123:
                    124:        return (1);
                    125: }
                    126:
                    127: static struct option enc_options[] = {
                    128:        {
                    129:                .name = "A",
                    130:                .desc = "Process base64 data on one line (requires -a)",
                    131:                .type = OPTION_FLAG,
                    132:                .opt.flag = &enc_config.olb64,
                    133:        },
                    134:        {
                    135:                .name = "a",
                    136:                .desc = "Perform base64 encoding/decoding (alias -base64)",
                    137:                .type = OPTION_FLAG,
                    138:                .opt.flag = &enc_config.base64,
                    139:        },
                    140:        {
                    141:                .name = "base64",
                    142:                .type = OPTION_FLAG,
                    143:                .opt.flag = &enc_config.base64,
                    144:        },
                    145:        {
                    146:                .name = "bufsize",
                    147:                .argname = "size",
                    148:                .desc = "Specify the buffer size to use for I/O",
                    149:                .type = OPTION_ARG,
                    150:                .opt.arg = &enc_config.bufsize,
                    151:        },
                    152:        {
                    153:                .name = "d",
                    154:                .desc = "Decrypt the input data",
                    155:                .type = OPTION_VALUE,
                    156:                .opt.value = &enc_config.enc,
                    157:                .value = 0,
                    158:        },
                    159:        {
                    160:                .name = "debug",
                    161:                .desc = "Print debugging information",
                    162:                .type = OPTION_FLAG,
                    163:                .opt.flag = &enc_config.debug,
                    164:        },
                    165:        {
                    166:                .name = "e",
                    167:                .desc = "Encrypt the input data (default)",
                    168:                .type = OPTION_VALUE,
                    169:                .opt.value = &enc_config.enc,
                    170:                .value = 1,
                    171:        },
                    172:        {
                    173:                .name = "in",
                    174:                .argname = "file",
                    175:                .desc = "Input file to read from (default stdin)",
                    176:                .type = OPTION_ARG,
                    177:                .opt.arg = &enc_config.inf,
                    178:        },
                    179:        {
1.16      naddy     180:                .name = "iter",
                    181:                .argname = "iterations",
                    182:                .desc = "Specify iteration count and force use of PBKDF2",
1.19      jsing     183:                .type = OPTION_ARG_INT,
1.16      naddy     184:                .opt.value = &enc_config.iter,
                    185:        },
                    186:        {
1.4       jsing     187:                .name = "iv",
                    188:                .argname = "IV",
1.11      jmc       189:                .desc = "IV to use, specified as a hexadecimal string",
1.4       jsing     190:                .type = OPTION_ARG,
                    191:                .opt.arg = &enc_config.hiv,
                    192:        },
                    193:        {
                    194:                .name = "K",
                    195:                .argname = "key",
1.11      jmc       196:                .desc = "Key to use, specified as a hexadecimal string",
1.4       jsing     197:                .type = OPTION_ARG,
                    198:                .opt.arg = &enc_config.hkey,
                    199:        },
                    200:        {
                    201:                .name = "k",            /* Superseded by -pass. */
                    202:                .type = OPTION_ARG,
                    203:                .opt.arg = &enc_config.keystr,
                    204:        },
                    205:        {
                    206:                .name = "kfile",        /* Superseded by -pass. */
                    207:                .type = OPTION_ARG,
                    208:                .opt.arg = &enc_config.keyfile,
                    209:        },
                    210:        {
                    211:                .name = "md",
                    212:                .argname = "digest",
                    213:                .desc = "Digest to use to create a key from the passphrase",
                    214:                .type = OPTION_ARG,
                    215:                .opt.arg = &enc_config.md,
                    216:        },
                    217:        {
                    218:                .name = "none",
                    219:                .desc = "Use NULL cipher (no encryption or decryption)",
                    220:                .type = OPTION_ARGV_FUNC,
                    221:                .opt.argvfunc = enc_opt_cipher,
                    222:        },
                    223:        {
                    224:                .name = "nopad",
                    225:                .desc = "Disable standard block padding",
                    226:                .type = OPTION_FLAG,
                    227:                .opt.flag = &enc_config.nopad,
                    228:        },
                    229:        {
                    230:                .name = "nosalt",
                    231:                .type = OPTION_VALUE,
                    232:                .opt.value = &enc_config.nosalt,
                    233:                .value = 1,
                    234:        },
                    235:        {
                    236:                .name = "out",
                    237:                .argname = "file",
                    238:                .desc = "Output file to write to (default stdout)",
                    239:                .type = OPTION_ARG,
                    240:                .opt.arg = &enc_config.outf,
                    241:        },
                    242:        {
                    243:                .name = "P",
                    244:                .desc = "Print out the salt, key and IV used, then exit\n"
                    245:                    "  (no encryption or decryption is performed)",
                    246:                .type = OPTION_VALUE,
                    247:                .opt.value = &enc_config.printkey,
                    248:                .value = 2,
                    249:        },
                    250:        {
                    251:                .name = "p",
                    252:                .desc = "Print out the salt, key and IV used",
                    253:                .type = OPTION_VALUE,
                    254:                .opt.value = &enc_config.printkey,
                    255:                .value = 1,
                    256:        },
                    257:        {
                    258:                .name = "pass",
                    259:                .argname = "source",
                    260:                .desc = "Password source",
                    261:                .type = OPTION_ARG,
                    262:                .opt.arg = &enc_config.passarg,
                    263:        },
                    264:        {
1.16      naddy     265:                .name = "pbkdf2",
                    266:                .desc = "Use the pbkdf2 key derivation function",
                    267:                .type = OPTION_FLAG,
                    268:                .opt.flag = &enc_config.pbkdf2,
                    269:        },
                    270:        {
1.4       jsing     271:                .name = "S",
                    272:                .argname = "salt",
1.11      jmc       273:                .desc = "Salt to use, specified as a hexadecimal string",
1.4       jsing     274:                .type = OPTION_ARG,
                    275:                .opt.arg = &enc_config.hsalt,
                    276:        },
                    277:        {
                    278:                .name = "salt",
                    279:                .desc = "Use a salt in the key derivation routines (default)",
                    280:                .type = OPTION_VALUE,
                    281:                .opt.value = &enc_config.nosalt,
                    282:                .value = 0,
                    283:        },
                    284:        {
                    285:                .name = "v",
                    286:                .desc = "Verbose",
                    287:                .type = OPTION_FLAG,
                    288:                .opt.flag = &enc_config.verbose,
                    289:        },
                    290: #ifdef ZLIB
                    291:        {
                    292:                .name = "z",
                    293:                .desc = "Perform zlib compression/decompression",
                    294:                .type = OPTION_FLAG,
                    295:                .opt.flag = &enc_config.do_zlib,
                    296:        },
                    297: #endif
                    298:        {
                    299:                .name = NULL,
                    300:                .type = OPTION_ARGV_FUNC,
                    301:                .opt.argvfunc = enc_opt_cipher,
                    302:        },
                    303:        { NULL },
                    304: };
1.1       jsing     305:
                    306: static void
1.4       jsing     307: enc_usage(void)
                    308: {
1.18      inoguchi  309:        int n = 0;
                    310:
1.4       jsing     311:        fprintf(stderr, "usage: enc -ciphername [-AadePp] [-base64] "
                    312:            "[-bufsize number] [-debug]\n"
1.16      naddy     313:            "    [-in file] [-iter iterations] [-iv IV] [-K key] "
                    314:             "[-k password]\n"
1.4       jsing     315:            "    [-kfile file] [-md digest] [-none] [-nopad] [-nosalt]\n"
1.16      naddy     316:            "    [-out file] [-pass source] [-pbkdf2] [-S salt] [-salt]\n\n");
1.4       jsing     317:        options_usage(enc_options);
                    318:        fprintf(stderr, "\n");
                    319:
                    320:        fprintf(stderr, "Valid ciphername values:\n\n");
1.18      inoguchi  321:        OBJ_NAME_do_all_sorted(OBJ_NAME_TYPE_CIPHER_METH, show_cipher, &n);
1.4       jsing     322:        fprintf(stderr, "\n");
1.1       jsing     323: }
                    324:
                    325: int
                    326: enc_main(int argc, char **argv)
                    327: {
                    328:        static const char magic[] = "Salted__";
                    329:        char mbuf[sizeof magic - 1];
1.4       jsing     330:        char *strbuf = NULL, *pass = NULL;
                    331:        unsigned char *buff = NULL;
                    332:        int bsize = BSIZE;
1.1       jsing     333:        int ret = 1, inl;
                    334:        unsigned char key[EVP_MAX_KEY_LENGTH], iv[EVP_MAX_IV_LENGTH];
                    335:        unsigned char salt[PKCS5_SALT_LEN];
                    336: #ifdef ZLIB
                    337:        BIO *bzl = NULL;
                    338: #endif
                    339:        EVP_CIPHER_CTX *ctx = NULL;
1.4       jsing     340:        const EVP_MD *dgst = NULL;
                    341:        BIO *in = NULL, *out = NULL, *b64 = NULL, *benc = NULL;
                    342:        BIO *rbio = NULL, *wbio = NULL;
1.1       jsing     343: #define PROG_NAME_SIZE  39
                    344:        char pname[PROG_NAME_SIZE + 1];
1.4       jsing     345:        int i;
1.8       doug      346:
                    347:        if (single_execution) {
1.12      deraadt   348:                if (pledge("stdio cpath wpath rpath tty", NULL) == -1) {
1.8       doug      349:                        perror("pledge");
1.10      doug      350:                        exit(1);
                    351:                }
1.8       doug      352:        }
1.4       jsing     353:
                    354:        memset(&enc_config, 0, sizeof(enc_config));
                    355:        enc_config.enc = 1;
1.1       jsing     356:
                    357:        /* first check the program name */
1.4       jsing     358:        program_name(argv[0], pname, sizeof(pname));
                    359:
1.1       jsing     360:        if (strcmp(pname, "base64") == 0)
1.4       jsing     361:                enc_config.base64 = 1;
                    362:
1.1       jsing     363: #ifdef ZLIB
                    364:        if (strcmp(pname, "zlib") == 0)
1.4       jsing     365:                enc_config.do_zlib = 1;
1.1       jsing     366: #endif
                    367:
1.4       jsing     368:        enc_config.cipher = EVP_get_cipherbyname(pname);
                    369:
1.1       jsing     370: #ifdef ZLIB
1.4       jsing     371:        if (!enc_config.do_zlib && !enc_config.base64 &&
                    372:            enc_config.cipher == NULL && strcmp(pname, "enc") != 0)
1.1       jsing     373: #else
1.4       jsing     374:        if (!enc_config.base64 && enc_config.cipher == NULL &&
                    375:            strcmp(pname, "enc") != 0)
1.1       jsing     376: #endif
                    377:        {
                    378:                BIO_printf(bio_err, "%s is an unknown cipher\n", pname);
1.4       jsing     379:                goto end;
                    380:        }
                    381:
                    382:        if (options_parse(argc, argv, enc_options, NULL, NULL) != 0) {
                    383:                enc_usage();
                    384:                goto end;
1.1       jsing     385:        }
1.4       jsing     386:
                    387:        if (enc_config.keyfile != NULL) {
                    388:                static char buf[128];
                    389:                FILE *infile;
                    390:
                    391:                infile = fopen(enc_config.keyfile, "r");
                    392:                if (infile == NULL) {
                    393:                        BIO_printf(bio_err, "unable to read key from '%s'\n",
                    394:                            enc_config.keyfile);
                    395:                        goto end;
1.1       jsing     396:                }
1.4       jsing     397:                buf[0] = '\0';
                    398:                if (!fgets(buf, sizeof buf, infile)) {
                    399:                        BIO_printf(bio_err, "unable to read key from '%s'\n",
                    400:                            enc_config.keyfile);
                    401:                        fclose(infile);
                    402:                        goto end;
1.1       jsing     403:                }
1.4       jsing     404:                fclose(infile);
                    405:                i = strlen(buf);
                    406:                if ((i > 0) && ((buf[i - 1] == '\n') || (buf[i - 1] == '\r')))
                    407:                        buf[--i] = '\0';
                    408:                if ((i > 0) && ((buf[i - 1] == '\n') || (buf[i - 1] == '\r')))
                    409:                        buf[--i] = '\0';
                    410:                if (i < 1) {
                    411:                        BIO_printf(bio_err, "zero length password\n");
1.1       jsing     412:                        goto end;
                    413:                }
1.4       jsing     414:                enc_config.keystr = buf;
1.1       jsing     415:        }
                    416:
1.4       jsing     417:        if (enc_config.md != NULL &&
                    418:            (dgst = EVP_get_digestbyname(enc_config.md)) == NULL) {
                    419:                BIO_printf(bio_err,
                    420:                    "%s is an unsupported message digest type\n",
                    421:                    enc_config.md);
1.1       jsing     422:                goto end;
                    423:        }
                    424:        if (dgst == NULL) {
1.15      beck      425:                dgst = EVP_sha256();
1.1       jsing     426:        }
1.4       jsing     427:
                    428:        if (enc_config.bufsize != NULL) {
                    429:                char *p = enc_config.bufsize;
1.1       jsing     430:                unsigned long n;
                    431:
1.4       jsing     432:                /* XXX - provide an OPTION_ARG_DISKUNIT. */
                    433:                for (n = 0; *p != '\0'; p++) {
                    434:                        i = *p;
1.1       jsing     435:                        if ((i <= '9') && (i >= '0'))
                    436:                                n = n * 10 + i - '0';
                    437:                        else if (i == 'k') {
                    438:                                n *= 1024;
1.4       jsing     439:                                p++;
1.1       jsing     440:                                break;
                    441:                        }
                    442:                }
1.4       jsing     443:                if (*p != '\0') {
1.1       jsing     444:                        BIO_printf(bio_err, "invalid 'bufsize' specified.\n");
                    445:                        goto end;
                    446:                }
1.4       jsing     447:                /* It must be large enough for a base64 encoded line. */
                    448:                if (enc_config.base64 && n < 80)
1.1       jsing     449:                        n = 80;
                    450:
1.4       jsing     451:                bsize = (int)n;
                    452:                if (enc_config.verbose)
1.1       jsing     453:                        BIO_printf(bio_err, "bufsize=%d\n", bsize);
                    454:        }
                    455:        strbuf = malloc(SIZE);
                    456:        buff = malloc(EVP_ENCODE_LENGTH(bsize));
                    457:        if ((buff == NULL) || (strbuf == NULL)) {
                    458:                BIO_printf(bio_err, "malloc failure %ld\n", (long) EVP_ENCODE_LENGTH(bsize));
                    459:                goto end;
                    460:        }
                    461:        in = BIO_new(BIO_s_file());
                    462:        out = BIO_new(BIO_s_file());
                    463:        if ((in == NULL) || (out == NULL)) {
                    464:                ERR_print_errors(bio_err);
                    465:                goto end;
                    466:        }
1.4       jsing     467:        if (enc_config.debug) {
1.1       jsing     468:                BIO_set_callback(in, BIO_debug_callback);
                    469:                BIO_set_callback(out, BIO_debug_callback);
                    470:                BIO_set_callback_arg(in, (char *) bio_err);
                    471:                BIO_set_callback_arg(out, (char *) bio_err);
                    472:        }
1.4       jsing     473:        if (enc_config.inf == NULL) {
                    474:                if (enc_config.bufsize != NULL)
1.1       jsing     475:                        setvbuf(stdin, (char *) NULL, _IONBF, 0);
                    476:                BIO_set_fp(in, stdin, BIO_NOCLOSE);
                    477:        } else {
1.4       jsing     478:                if (BIO_read_filename(in, enc_config.inf) <= 0) {
                    479:                        perror(enc_config.inf);
1.1       jsing     480:                        goto end;
                    481:                }
                    482:        }
                    483:
1.4       jsing     484:        if (!enc_config.keystr && enc_config.passarg) {
                    485:                if (!app_passwd(bio_err, enc_config.passarg, NULL,
                    486:                    &pass, NULL)) {
1.1       jsing     487:                        BIO_printf(bio_err, "Error getting password\n");
                    488:                        goto end;
                    489:                }
1.4       jsing     490:                enc_config.keystr = pass;
1.1       jsing     491:        }
1.4       jsing     492:        if (enc_config.keystr == NULL && enc_config.cipher != NULL &&
                    493:            enc_config.hkey == NULL) {
1.1       jsing     494:                for (;;) {
                    495:                        char buf[200];
1.2       doug      496:                        int retval;
1.1       jsing     497:
1.4       jsing     498:                        retval = snprintf(buf, sizeof buf,
                    499:                            "enter %s %s password:",
                    500:                            OBJ_nid2ln(EVP_CIPHER_nid(enc_config.cipher)),
                    501:                            enc_config.enc ? "encryption" : "decryption");
1.2       doug      502:                        if ((size_t)retval >= sizeof buf) {
1.4       jsing     503:                                BIO_printf(bio_err,
                    504:                                    "Password prompt too long\n");
1.1       jsing     505:                                goto end;
                    506:                        }
                    507:                        strbuf[0] = '\0';
1.4       jsing     508:                        i = EVP_read_pw_string((char *)strbuf, SIZE, buf,
                    509:                            enc_config.enc);
1.1       jsing     510:                        if (i == 0) {
                    511:                                if (strbuf[0] == '\0') {
                    512:                                        ret = 1;
                    513:                                        goto end;
                    514:                                }
1.4       jsing     515:                                enc_config.keystr = strbuf;
1.1       jsing     516:                                break;
                    517:                        }
                    518:                        if (i < 0) {
                    519:                                BIO_printf(bio_err, "bad password read\n");
                    520:                                goto end;
                    521:                        }
                    522:                }
                    523:        }
1.4       jsing     524:        if (enc_config.outf == NULL) {
1.1       jsing     525:                BIO_set_fp(out, stdout, BIO_NOCLOSE);
1.4       jsing     526:                if (enc_config.bufsize != NULL)
                    527:                        setvbuf(stdout, (char *)NULL, _IONBF, 0);
1.1       jsing     528:        } else {
1.4       jsing     529:                if (BIO_write_filename(out, enc_config.outf) <= 0) {
                    530:                        perror(enc_config.outf);
1.1       jsing     531:                        goto end;
                    532:                }
                    533:        }
                    534:
                    535:        rbio = in;
                    536:        wbio = out;
                    537:
                    538: #ifdef ZLIB
                    539:        if (do_zlib) {
                    540:                if ((bzl = BIO_new(BIO_f_zlib())) == NULL)
                    541:                        goto end;
                    542:                if (enc)
                    543:                        wbio = BIO_push(bzl, wbio);
                    544:                else
                    545:                        rbio = BIO_push(bzl, rbio);
                    546:        }
                    547: #endif
                    548:
1.4       jsing     549:        if (enc_config.base64) {
1.1       jsing     550:                if ((b64 = BIO_new(BIO_f_base64())) == NULL)
                    551:                        goto end;
1.4       jsing     552:                if (enc_config.debug) {
1.1       jsing     553:                        BIO_set_callback(b64, BIO_debug_callback);
                    554:                        BIO_set_callback_arg(b64, (char *) bio_err);
                    555:                }
1.4       jsing     556:                if (enc_config.olb64)
1.1       jsing     557:                        BIO_set_flags(b64, BIO_FLAGS_BASE64_NO_NL);
1.4       jsing     558:                if (enc_config.enc)
1.1       jsing     559:                        wbio = BIO_push(b64, wbio);
                    560:                else
                    561:                        rbio = BIO_push(b64, rbio);
                    562:        }
1.4       jsing     563:        if (enc_config.cipher != NULL) {
1.1       jsing     564:                /*
1.4       jsing     565:                 * Note that keystr is NULL if a key was passed on the command
1.1       jsing     566:                 * line, so we get no salt in that case. Is this a bug?
                    567:                 */
1.4       jsing     568:                if (enc_config.keystr != NULL) {
1.1       jsing     569:                        /*
                    570:                         * Salt handling: if encrypting generate a salt and
                    571:                         * write to output BIO. If decrypting read salt from
                    572:                         * input BIO.
                    573:                         */
                    574:                        unsigned char *sptr;
1.4       jsing     575:                        if (enc_config.nosalt)
1.1       jsing     576:                                sptr = NULL;
                    577:                        else {
1.4       jsing     578:                                if (enc_config.enc) {
                    579:                                        if (enc_config.hsalt) {
                    580:                                                if (!set_hex(enc_config.hsalt, salt, sizeof salt)) {
1.1       jsing     581:                                                        BIO_printf(bio_err,
                    582:                                                            "invalid hex salt value\n");
                    583:                                                        goto end;
                    584:                                                }
1.3       jsing     585:                                        } else
                    586:                                                arc4random_buf(salt,
                    587:                                                    sizeof(salt));
1.1       jsing     588:                                        /*
                    589:                                         * If -P option then don't bother
                    590:                                         * writing
                    591:                                         */
1.4       jsing     592:                                        if ((enc_config.printkey != 2)
1.1       jsing     593:                                            && (BIO_write(wbio, magic,
                    594:                                                    sizeof magic - 1) != sizeof magic - 1
                    595:                                                || BIO_write(wbio,
                    596:                                                    (char *) salt,
                    597:                                                    sizeof salt) != sizeof salt)) {
                    598:                                                BIO_printf(bio_err, "error writing output file\n");
                    599:                                                goto end;
                    600:                                        }
                    601:                                } else if (BIO_read(rbio, mbuf, sizeof mbuf) != sizeof mbuf
                    602:                                            || BIO_read(rbio,
                    603:                                                (unsigned char *) salt,
                    604:                                        sizeof salt) != sizeof salt) {
                    605:                                        BIO_printf(bio_err, "error reading input file\n");
                    606:                                        goto end;
                    607:                                } else if (memcmp(mbuf, magic, sizeof magic - 1)) {
                    608:                                        BIO_printf(bio_err, "bad magic number\n");
                    609:                                        goto end;
                    610:                                }
                    611:                                sptr = salt;
                    612:                        }
1.15      beck      613:                        if (enc_config.pbkdf2 == 1 || enc_config.iter > 0) {
                    614:                                /*
                    615:                                 * derive key and default iv
                    616:                                 * concatenated into a temporary buffer
                    617:                                 */
                    618:                                unsigned char tmpkeyiv[EVP_MAX_KEY_LENGTH + EVP_MAX_IV_LENGTH];
                    619:                                int iklen = EVP_CIPHER_key_length(enc_config.cipher);
                    620:                                int ivlen = EVP_CIPHER_iv_length(enc_config.cipher);
                    621:                                /* not needed if HASH_UPDATE() is fixed : */
                    622:                                int islen = (sptr != NULL ? sizeof(salt) : 0);
                    623:
                    624:                                if (enc_config.iter == 0)
                    625:                                        enc_config.iter = 10000;
                    626:
                    627:                                if (!PKCS5_PBKDF2_HMAC(enc_config.keystr,
                    628:                                        strlen(enc_config.keystr), sptr, islen,
                    629:                                        enc_config.iter, dgst, iklen+ivlen, tmpkeyiv)) {
                    630:                                        BIO_printf(bio_err, "PKCS5_PBKDF2_HMAC failed\n");
                    631:                                        goto end;
                    632:                                }
                    633:                                /* split and move data back to global buffer */
                    634:                                memcpy(key, tmpkeyiv, iklen);
                    635:                                memcpy(iv, tmpkeyiv+iklen, ivlen);
                    636:                        } else {
                    637:                                EVP_BytesToKey(enc_config.cipher, dgst, sptr,
                    638:                                    (unsigned char *)enc_config.keystr,
                    639:                                    strlen(enc_config.keystr), 1, key, iv);
                    640:                        }
1.1       jsing     641:
                    642:                        /*
                    643:                         * zero the complete buffer or the string passed from
                    644:                         * the command line bug picked up by Larry J. Hughes
                    645:                         * Jr. <hughes@indiana.edu>
                    646:                         */
1.4       jsing     647:                        if (enc_config.keystr == strbuf)
1.6       jsing     648:                                explicit_bzero(enc_config.keystr, SIZE);
1.1       jsing     649:                        else
1.6       jsing     650:                                explicit_bzero(enc_config.keystr,
1.4       jsing     651:                                    strlen(enc_config.keystr));
1.1       jsing     652:                }
1.4       jsing     653:                if (enc_config.hiv != NULL &&
                    654:                    !set_hex(enc_config.hiv, iv, sizeof iv)) {
1.1       jsing     655:                        BIO_printf(bio_err, "invalid hex iv value\n");
                    656:                        goto end;
                    657:                }
1.4       jsing     658:                if (enc_config.hiv == NULL && enc_config.keystr == NULL &&
                    659:                    EVP_CIPHER_iv_length(enc_config.cipher) != 0) {
1.1       jsing     660:                        /*
                    661:                         * No IV was explicitly set and no IV was generated
                    662:                         * during EVP_BytesToKey. Hence the IV is undefined,
                    663:                         * making correct decryption impossible.
                    664:                         */
                    665:                        BIO_printf(bio_err, "iv undefined\n");
                    666:                        goto end;
                    667:                }
1.4       jsing     668:                if (enc_config.hkey != NULL &&
                    669:                    !set_hex(enc_config.hkey, key, sizeof key)) {
1.1       jsing     670:                        BIO_printf(bio_err, "invalid hex key value\n");
                    671:                        goto end;
                    672:                }
                    673:                if ((benc = BIO_new(BIO_f_cipher())) == NULL)
                    674:                        goto end;
                    675:
                    676:                /*
                    677:                 * Since we may be changing parameters work on the encryption
                    678:                 * context rather than calling BIO_set_cipher().
                    679:                 */
                    680:
                    681:                BIO_get_cipher_ctx(benc, &ctx);
                    682:
1.4       jsing     683:                if (!EVP_CipherInit_ex(ctx, enc_config.cipher, NULL, NULL,
                    684:                    NULL, enc_config.enc)) {
1.1       jsing     685:                        BIO_printf(bio_err, "Error setting cipher %s\n",
1.4       jsing     686:                            EVP_CIPHER_name(enc_config.cipher));
1.1       jsing     687:                        ERR_print_errors(bio_err);
                    688:                        goto end;
                    689:                }
1.4       jsing     690:                if (enc_config.nopad)
1.1       jsing     691:                        EVP_CIPHER_CTX_set_padding(ctx, 0);
                    692:
1.4       jsing     693:                if (!EVP_CipherInit_ex(ctx, NULL, NULL, key, iv,
                    694:                    enc_config.enc)) {
1.1       jsing     695:                        BIO_printf(bio_err, "Error setting cipher %s\n",
1.4       jsing     696:                            EVP_CIPHER_name(enc_config.cipher));
1.1       jsing     697:                        ERR_print_errors(bio_err);
                    698:                        goto end;
                    699:                }
1.4       jsing     700:                if (enc_config.debug) {
1.1       jsing     701:                        BIO_set_callback(benc, BIO_debug_callback);
                    702:                        BIO_set_callback_arg(benc, (char *) bio_err);
                    703:                }
1.4       jsing     704:                if (enc_config.printkey) {
                    705:                        if (!enc_config.nosalt) {
1.1       jsing     706:                                printf("salt=");
                    707:                                for (i = 0; i < (int) sizeof(salt); i++)
                    708:                                        printf("%02X", salt[i]);
                    709:                                printf("\n");
                    710:                        }
1.4       jsing     711:                        if (enc_config.cipher->key_len > 0) {
1.1       jsing     712:                                printf("key=");
1.4       jsing     713:                                for (i = 0; i < enc_config.cipher->key_len; i++)
1.1       jsing     714:                                        printf("%02X", key[i]);
                    715:                                printf("\n");
                    716:                        }
1.4       jsing     717:                        if (enc_config.cipher->iv_len > 0) {
1.1       jsing     718:                                printf("iv =");
1.4       jsing     719:                                for (i = 0; i < enc_config.cipher->iv_len; i++)
1.1       jsing     720:                                        printf("%02X", iv[i]);
                    721:                                printf("\n");
                    722:                        }
1.4       jsing     723:                        if (enc_config.printkey == 2) {
1.1       jsing     724:                                ret = 0;
                    725:                                goto end;
                    726:                        }
                    727:                }
                    728:        }
                    729:        /* Only encrypt/decrypt as we write the file */
                    730:        if (benc != NULL)
                    731:                wbio = BIO_push(benc, wbio);
                    732:
                    733:        for (;;) {
                    734:                inl = BIO_read(rbio, (char *) buff, bsize);
                    735:                if (inl <= 0)
                    736:                        break;
                    737:                if (BIO_write(wbio, (char *) buff, inl) != inl) {
                    738:                        BIO_printf(bio_err, "error writing output file\n");
                    739:                        goto end;
                    740:                }
                    741:        }
                    742:        if (!BIO_flush(wbio)) {
                    743:                BIO_printf(bio_err, "bad decrypt\n");
                    744:                goto end;
                    745:        }
                    746:        ret = 0;
1.4       jsing     747:        if (enc_config.verbose) {
1.1       jsing     748:                BIO_printf(bio_err, "bytes read   :%8ld\n", BIO_number_read(in));
                    749:                BIO_printf(bio_err, "bytes written:%8ld\n", BIO_number_written(out));
                    750:        }
1.14      jsing     751:  end:
1.1       jsing     752:        ERR_print_errors(bio_err);
                    753:        free(strbuf);
                    754:        free(buff);
                    755:        BIO_free(in);
1.13      jsing     756:        BIO_free_all(out);
1.1       jsing     757:        BIO_free(benc);
                    758:        BIO_free(b64);
                    759: #ifdef ZLIB
                    760:        BIO_free(bzl);
                    761: #endif
                    762:        free(pass);
                    763:
                    764:        return (ret);
                    765: }
                    766:
                    767: int
                    768: set_hex(char *in, unsigned char *out, int size)
                    769: {
                    770:        int i, n;
                    771:        unsigned char j;
                    772:
                    773:        n = strlen(in);
                    774:        if (n > (size * 2)) {
                    775:                BIO_printf(bio_err, "hex string is too long\n");
                    776:                return (0);
                    777:        }
                    778:        memset(out, 0, size);
                    779:        for (i = 0; i < n; i++) {
                    780:                j = (unsigned char) *in;
                    781:                *(in++) = '\0';
                    782:                if (j == 0)
                    783:                        break;
                    784:                if ((j >= '0') && (j <= '9'))
                    785:                        j -= '0';
                    786:                else if ((j >= 'A') && (j <= 'F'))
                    787:                        j = j - 'A' + 10;
                    788:                else if ((j >= 'a') && (j <= 'f'))
                    789:                        j = j - 'a' + 10;
                    790:                else {
                    791:                        BIO_printf(bio_err, "non-hex digit\n");
                    792:                        return (0);
                    793:                }
                    794:                if (i & 1)
                    795:                        out[i / 2] |= j;
                    796:                else
                    797:                        out[i / 2] = (j << 4);
                    798:        }
                    799:        return (1);
                    800: }