[BACK]Return to cipher.c CVS log [TXT][DIR] Up to [local] / src / usr.bin / ssh

Diff for /src/usr.bin/ssh/cipher.c between version 1.62.2.2 and 1.63

version 1.62.2.2, 2004/03/04 18:18:15 version 1.63, 2003/04/12 10:13:57
Line 44 
Line 44 
 #include <openssl/md5.h>  #include <openssl/md5.h>
   
 #if OPENSSL_VERSION_NUMBER < 0x00907000L  #if OPENSSL_VERSION_NUMBER < 0x00907000L
 extern const EVP_CIPHER *evp_rijndael(void);  #include "rijndael.h"
 extern void ssh_rijndael_iv(EVP_CIPHER_CTX *, int, u_char *, u_int);  static const EVP_CIPHER *evp_rijndael(void);
 #endif  #endif
 extern const EVP_CIPHER *evp_ssh1_bf(void);  static const EVP_CIPHER *evp_ssh1_3des(void);
 extern const EVP_CIPHER *evp_ssh1_3des(void);  static const EVP_CIPHER *evp_ssh1_bf(void);
 extern void ssh1_3des_iv(EVP_CIPHER_CTX *, int, u_char *, int);  
 extern const EVP_CIPHER *evp_aes_128_ctr(void);  
 extern void ssh_aes_ctr_iv(EVP_CIPHER_CTX *, int, u_char *, u_int);  
 #define EVP_acss NULL  
   
 struct Cipher {  struct Cipher {
         char    *name;          char    *name;
Line 83 
Line 79 
         { "rijndael-cbc@lysator.liu.se",          { "rijndael-cbc@lysator.liu.se",
                                 SSH_CIPHER_SSH2, 16, 32, EVP_aes_256_cbc },                                  SSH_CIPHER_SSH2, 16, 32, EVP_aes_256_cbc },
 #endif  #endif
         { "aes128-ctr",         SSH_CIPHER_SSH2, 16, 16, evp_aes_128_ctr },  
         { "aes192-ctr",         SSH_CIPHER_SSH2, 16, 24, evp_aes_128_ctr },  
         { "aes256-ctr",         SSH_CIPHER_SSH2, 16, 32, evp_aes_128_ctr },  
         { "acss@openssh.org",   SSH_CIPHER_SSH2, 16, 5, EVP_acss },  
   
         { NULL,                 SSH_CIPHER_ILLEGAL, 0, 0, NULL }          { NULL,                 SSH_CIPHER_ILLEGAL, 0, 0, NULL }
 };  };
Line 94 
Line 86 
 /*--*/  /*--*/
   
 u_int  u_int
 cipher_blocksize(const Cipher *c)  cipher_blocksize(Cipher *c)
 {  {
         return (c->block_size);          return (c->block_size);
 }  }
   
 u_int  u_int
 cipher_keylen(const Cipher *c)  cipher_keylen(Cipher *c)
 {  {
         return (c->key_len);          return (c->key_len);
 }  }
   
 u_int  u_int
 cipher_get_number(const Cipher *c)  cipher_get_number(Cipher *c)
 {  {
         return (c->number);          return (c->number);
 }  }
Line 277 
Line 269 
         memset(&md, 0, sizeof(md));          memset(&md, 0, sizeof(md));
 }  }
   
   /* Implementations for other non-EVP ciphers */
   
 /*  /*
    * This is used by SSH1:
    *
    * What kind of triple DES are these 2 routines?
    *
    * Why is there a redundant initialization vector?
    *
    * If only iv3 was used, then, this would till effect have been
    * outer-cbc. However, there is also a private iv1 == iv2 which
    * perhaps makes differential analysis easier. On the other hand, the
    * private iv1 probably makes the CRC-32 attack ineffective. This is a
    * result of that there is no longer any known iv1 to use when
    * choosing the X block.
    */
   struct ssh1_3des_ctx
   {
           EVP_CIPHER_CTX  k1, k2, k3;
   };
   
   static int
   ssh1_3des_init(EVP_CIPHER_CTX *ctx, const u_char *key, const u_char *iv,
       int enc)
   {
           struct ssh1_3des_ctx *c;
           u_char *k1, *k2, *k3;
   
           if ((c = EVP_CIPHER_CTX_get_app_data(ctx)) == NULL) {
                   c = xmalloc(sizeof(*c));
                   EVP_CIPHER_CTX_set_app_data(ctx, c);
           }
           if (key == NULL)
                   return (1);
           if (enc == -1)
                   enc = ctx->encrypt;
           k1 = k2 = k3 = (u_char *) key;
           k2 += 8;
           if (EVP_CIPHER_CTX_key_length(ctx) >= 16+8) {
                   if (enc)
                           k3 += 16;
                   else
                           k1 += 16;
           }
           EVP_CIPHER_CTX_init(&c->k1);
           EVP_CIPHER_CTX_init(&c->k2);
           EVP_CIPHER_CTX_init(&c->k3);
           if (EVP_CipherInit(&c->k1, EVP_des_cbc(), k1, NULL, enc) == 0 ||
               EVP_CipherInit(&c->k2, EVP_des_cbc(), k2, NULL, !enc) == 0 ||
               EVP_CipherInit(&c->k3, EVP_des_cbc(), k3, NULL, enc) == 0) {
                   memset(c, 0, sizeof(*c));
                   xfree(c);
                   EVP_CIPHER_CTX_set_app_data(ctx, NULL);
                   return (0);
           }
           return (1);
   }
   
   static int
   ssh1_3des_cbc(EVP_CIPHER_CTX *ctx, u_char *dest, const u_char *src, u_int len)
   {
           struct ssh1_3des_ctx *c;
   
           if ((c = EVP_CIPHER_CTX_get_app_data(ctx)) == NULL) {
                   error("ssh1_3des_cbc: no context");
                   return (0);
           }
           if (EVP_Cipher(&c->k1, dest, (u_char *)src, len) == 0 ||
               EVP_Cipher(&c->k2, dest, dest, len) == 0 ||
               EVP_Cipher(&c->k3, dest, dest, len) == 0)
                   return (0);
           return (1);
   }
   
   static int
   ssh1_3des_cleanup(EVP_CIPHER_CTX *ctx)
   {
           struct ssh1_3des_ctx *c;
   
           if ((c = EVP_CIPHER_CTX_get_app_data(ctx)) != NULL) {
                   memset(c, 0, sizeof(*c));
                   xfree(c);
                   EVP_CIPHER_CTX_set_app_data(ctx, NULL);
           }
           return (1);
   }
   
   static void
   ssh1_3des_iv(EVP_CIPHER_CTX *evp, int doset, u_char *iv, int len)
   {
           struct ssh1_3des_ctx *c;
   
           if (len != 24)
                   fatal("%s: bad 3des iv length: %d", __func__, len);
           if ((c = EVP_CIPHER_CTX_get_app_data(evp)) == NULL)
                   fatal("%s: no 3des context", __func__);
           if (doset) {
                   debug3("%s: Installed 3DES IV", __func__);
                   memcpy(c->k1.iv, iv, 8);
                   memcpy(c->k2.iv, iv + 8, 8);
                   memcpy(c->k3.iv, iv + 16, 8);
           } else {
                   debug3("%s: Copying 3DES IV", __func__);
                   memcpy(iv, c->k1.iv, 8);
                   memcpy(iv + 8, c->k2.iv, 8);
                   memcpy(iv + 16, c->k3.iv, 8);
           }
   }
   
   static const EVP_CIPHER *
   evp_ssh1_3des(void)
   {
           static EVP_CIPHER ssh1_3des;
   
           memset(&ssh1_3des, 0, sizeof(EVP_CIPHER));
           ssh1_3des.nid = NID_undef;
           ssh1_3des.block_size = 8;
           ssh1_3des.iv_len = 0;
           ssh1_3des.key_len = 16;
           ssh1_3des.init = ssh1_3des_init;
           ssh1_3des.cleanup = ssh1_3des_cleanup;
           ssh1_3des.do_cipher = ssh1_3des_cbc;
           ssh1_3des.flags = EVP_CIPH_CBC_MODE | EVP_CIPH_VARIABLE_LENGTH;
           return (&ssh1_3des);
   }
   
   /*
    * SSH1 uses a variation on Blowfish, all bytes must be swapped before
    * and after encryption/decryption. Thus the swap_bytes stuff (yuk).
    */
   static void
   swap_bytes(const u_char *src, u_char *dst, int n)
   {
           u_char c[4];
   
           /* Process 4 bytes every lap. */
           for (n = n / 4; n > 0; n--) {
                   c[3] = *src++;
                   c[2] = *src++;
                   c[1] = *src++;
                   c[0] = *src++;
   
                   *dst++ = c[0];
                   *dst++ = c[1];
                   *dst++ = c[2];
                   *dst++ = c[3];
           }
   }
   
   static int (*orig_bf)(EVP_CIPHER_CTX *, u_char *, const u_char *, u_int) = NULL;
   
   static int
   bf_ssh1_cipher(EVP_CIPHER_CTX *ctx, u_char *out, const u_char *in, u_int len)
   {
           int ret;
   
           swap_bytes(in, out, len);
           ret = (*orig_bf)(ctx, out, out, len);
           swap_bytes(out, out, len);
           return (ret);
   }
   
   static const EVP_CIPHER *
   evp_ssh1_bf(void)
   {
           static EVP_CIPHER ssh1_bf;
   
           memcpy(&ssh1_bf, EVP_bf_cbc(), sizeof(EVP_CIPHER));
           orig_bf = ssh1_bf.do_cipher;
           ssh1_bf.nid = NID_undef;
           ssh1_bf.do_cipher = bf_ssh1_cipher;
           ssh1_bf.key_len = 32;
           return (&ssh1_bf);
   }
   
   #if OPENSSL_VERSION_NUMBER < 0x00907000L
   /* RIJNDAEL */
   #define RIJNDAEL_BLOCKSIZE 16
   struct ssh_rijndael_ctx
   {
           rijndael_ctx    r_ctx;
           u_char          r_iv[RIJNDAEL_BLOCKSIZE];
   };
   
   static int
   ssh_rijndael_init(EVP_CIPHER_CTX *ctx, const u_char *key, const u_char *iv,
       int enc)
   {
           struct ssh_rijndael_ctx *c;
   
           if ((c = EVP_CIPHER_CTX_get_app_data(ctx)) == NULL) {
                   c = xmalloc(sizeof(*c));
                   EVP_CIPHER_CTX_set_app_data(ctx, c);
           }
           if (key != NULL) {
                   if (enc == -1)
                           enc = ctx->encrypt;
                   rijndael_set_key(&c->r_ctx, (u_char *)key,
                       8*EVP_CIPHER_CTX_key_length(ctx), enc);
           }
           if (iv != NULL)
                   memcpy(c->r_iv, iv, RIJNDAEL_BLOCKSIZE);
           return (1);
   }
   
   static int
   ssh_rijndael_cbc(EVP_CIPHER_CTX *ctx, u_char *dest, const u_char *src,
       u_int len)
   {
           struct ssh_rijndael_ctx *c;
           u_char buf[RIJNDAEL_BLOCKSIZE];
           u_char *cprev, *cnow, *plain, *ivp;
           int i, j, blocks = len / RIJNDAEL_BLOCKSIZE;
   
           if (len == 0)
                   return (1);
           if (len % RIJNDAEL_BLOCKSIZE)
                   fatal("ssh_rijndael_cbc: bad len %d", len);
           if ((c = EVP_CIPHER_CTX_get_app_data(ctx)) == NULL) {
                   error("ssh_rijndael_cbc: no context");
                   return (0);
           }
           if (ctx->encrypt) {
                   cnow  = dest;
                   plain = (u_char *)src;
                   cprev = c->r_iv;
                   for (i = 0; i < blocks; i++, plain+=RIJNDAEL_BLOCKSIZE,
                       cnow+=RIJNDAEL_BLOCKSIZE) {
                           for (j = 0; j < RIJNDAEL_BLOCKSIZE; j++)
                                   buf[j] = plain[j] ^ cprev[j];
                           rijndael_encrypt(&c->r_ctx, buf, cnow);
                           cprev = cnow;
                   }
                   memcpy(c->r_iv, cprev, RIJNDAEL_BLOCKSIZE);
           } else {
                   cnow  = (u_char *) (src+len-RIJNDAEL_BLOCKSIZE);
                   plain = dest+len-RIJNDAEL_BLOCKSIZE;
   
                   memcpy(buf, cnow, RIJNDAEL_BLOCKSIZE);
                   for (i = blocks; i > 0; i--, cnow-=RIJNDAEL_BLOCKSIZE,
                       plain-=RIJNDAEL_BLOCKSIZE) {
                           rijndael_decrypt(&c->r_ctx, cnow, plain);
                           ivp = (i == 1) ? c->r_iv : cnow-RIJNDAEL_BLOCKSIZE;
                           for (j = 0; j < RIJNDAEL_BLOCKSIZE; j++)
                                   plain[j] ^= ivp[j];
                   }
                   memcpy(c->r_iv, buf, RIJNDAEL_BLOCKSIZE);
           }
           return (1);
   }
   
   static int
   ssh_rijndael_cleanup(EVP_CIPHER_CTX *ctx)
   {
           struct ssh_rijndael_ctx *c;
   
           if ((c = EVP_CIPHER_CTX_get_app_data(ctx)) != NULL) {
                   memset(c, 0, sizeof(*c));
                   xfree(c);
                   EVP_CIPHER_CTX_set_app_data(ctx, NULL);
           }
           return (1);
   }
   
   static void
   ssh_rijndael_iv(EVP_CIPHER_CTX *evp, int doset, u_char * iv, u_int len)
   {
           struct ssh_rijndael_ctx *c;
   
           if ((c = EVP_CIPHER_CTX_get_app_data(evp)) == NULL)
                   fatal("ssh_rijndael_iv: no context");
           if (doset)
                   memcpy(c->r_iv, iv, len);
           else
                   memcpy(iv, c->r_iv, len);
   }
   
   static const EVP_CIPHER *
   evp_rijndael(void)
   {
           static EVP_CIPHER rijndal_cbc;
   
           memset(&rijndal_cbc, 0, sizeof(EVP_CIPHER));
           rijndal_cbc.nid = NID_undef;
           rijndal_cbc.block_size = RIJNDAEL_BLOCKSIZE;
           rijndal_cbc.iv_len = RIJNDAEL_BLOCKSIZE;
           rijndal_cbc.key_len = 16;
           rijndal_cbc.init = ssh_rijndael_init;
           rijndal_cbc.cleanup = ssh_rijndael_cleanup;
           rijndal_cbc.do_cipher = ssh_rijndael_cbc;
           rijndal_cbc.flags = EVP_CIPH_CBC_MODE | EVP_CIPH_VARIABLE_LENGTH |
               EVP_CIPH_ALWAYS_CALL_INIT | EVP_CIPH_CUSTOM_IV;
           return (&rijndal_cbc);
   }
   #endif
   
   /*
  * Exports an IV from the CipherContext required to export the key   * Exports an IV from the CipherContext required to export the key
  * state back from the unprivileged child to the privileged parent   * state back from the unprivileged child to the privileged parent
  * process.   * process.
  */   */
   
 int  int
 cipher_get_keyiv_len(const CipherContext *cc)  cipher_get_keyiv_len(CipherContext *cc)
 {  {
         Cipher *c = cc->cipher;          Cipher *c = cc->cipher;
         int ivlen;          int ivlen;
Line 317 
Line 605 
                         ssh_rijndael_iv(&cc->evp, 0, iv, len);                          ssh_rijndael_iv(&cc->evp, 0, iv, len);
                 else                  else
 #endif  #endif
                 if (c->evptype == evp_aes_128_ctr)  
                         ssh_aes_ctr_iv(&cc->evp, 0, iv, len);  
                 else  
                         memcpy(iv, cc->evp.iv, len);                          memcpy(iv, cc->evp.iv, len);
                 break;                  break;
         case SSH_CIPHER_3DES:          case SSH_CIPHER_3DES:
Line 348 
Line 633 
                         ssh_rijndael_iv(&cc->evp, 1, iv, evplen);                          ssh_rijndael_iv(&cc->evp, 1, iv, evplen);
                 else                  else
 #endif  #endif
                 if (c->evptype == evp_aes_128_ctr)  
                         ssh_aes_ctr_iv(&cc->evp, 1, iv, evplen);  
                 else  
                         memcpy(cc->evp.iv, iv, evplen);                          memcpy(cc->evp.iv, iv, evplen);
                 break;                  break;
         case SSH_CIPHER_3DES:          case SSH_CIPHER_3DES:
Line 370 
Line 652 
 #endif  #endif
   
 int  int
 cipher_get_keycontext(const CipherContext *cc, u_char *dat)  cipher_get_keycontext(CipherContext *cc, u_char *dat)
 {  {
         Cipher *c = cc->cipher;          Cipher *c = cc->cipher;
         int plen = 0;          int plen = 0;
   
         if (c->evptype == EVP_rc4 || c->evptype == EVP_acss) {          if (c->evptype == EVP_rc4) {
                 plen = EVP_X_STATE_LEN(cc->evp);                  plen = EVP_X_STATE_LEN(cc->evp);
                 if (dat == NULL)                  if (dat == NULL)
                         return (plen);                          return (plen);
Line 390 
Line 672 
         Cipher *c = cc->cipher;          Cipher *c = cc->cipher;
         int plen;          int plen;
   
         if (c->evptype == EVP_rc4 || c->evptype == EVP_acss) {          if (c->evptype == EVP_rc4) {
                 plen = EVP_X_STATE_LEN(cc->evp);                  plen = EVP_X_STATE_LEN(cc->evp);
                 memcpy(EVP_X_STATE(cc->evp), dat, plen);                  memcpy(EVP_X_STATE(cc->evp), dat, plen);
         }          }
Legend:
Removed from v.1.62.2.2  
changed lines
  Added in v.1.63