f9ca70284c5e1e898c396e01ad264e8dd201edc9
[claws.git] / src / common / pkcs5_pbkdf2.c
1 /* pkcs5_pbkdf2.c - Password-Based Key Derivation Function 2
2  * Copyright (c) 2008 Damien Bergamini <damien.bergamini@free.fr>
3  *
4  * Modifications for Claws Mail are:
5  * Copyright (c) 2016 the Claws Mail team
6  *
7  * Permission to use, copy, modify, and distribute this software for any
8  * purpose with or without fee is hereby granted, provided that the above
9  * copyright notice and this permission notice appear in all copies.
10  *
11  * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL WARRANTIES
12  * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF
13  * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR
14  * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES
15  * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN
16  * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
17  * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
18  */
19
20 #include <glib.h>
21 #include <sys/types.h>
22
23 #include <string.h>
24 #include <stdint.h>
25 #include <stdlib.h>
26 #include <stdio.h>
27
28 #define CHECKSUM_BLOCKLEN 64
29 /*
30  * HMAC-SHA-1 (from RFC 2202).
31  */
32 static void
33 hmac_sha1(const guchar *text, size_t text_len, const guchar *key,
34     size_t key_len, guchar *digest)
35 {
36         GChecksum *cksum;
37         gssize digestlen = g_checksum_type_get_length(G_CHECKSUM_SHA1);
38         gsize outlen;
39         guchar k_pad[CHECKSUM_BLOCKLEN];
40         guchar tk[digestlen];
41         gint i;
42
43         if (key_len > CHECKSUM_BLOCKLEN) {
44                 cksum = g_checksum_new(G_CHECKSUM_SHA1);
45                 g_checksum_update(cksum, key, key_len);
46                 outlen = digestlen;
47                 g_checksum_get_digest(cksum, tk, &outlen);
48                 g_checksum_free(cksum);
49
50                 key = tk;
51                 key_len = digestlen;
52         }
53
54         bzero(k_pad, sizeof k_pad);
55         bcopy(key, k_pad, key_len);
56         for (i = 0; i < CHECKSUM_BLOCKLEN; i++)
57                 k_pad[i] ^= 0x36;
58
59         cksum = g_checksum_new(G_CHECKSUM_SHA1);
60         g_checksum_update(cksum, k_pad, CHECKSUM_BLOCKLEN);
61         g_checksum_update(cksum, text, text_len);
62         outlen = digestlen;
63         g_checksum_get_digest(cksum, digest, &outlen);
64         g_checksum_free(cksum);
65
66         bzero(k_pad, sizeof k_pad);
67         bcopy(key, k_pad, key_len);
68         for (i = 0; i < CHECKSUM_BLOCKLEN; i++)
69                 k_pad[i] ^= 0x5c;
70
71         cksum = g_checksum_new(G_CHECKSUM_SHA1);
72         g_checksum_update(cksum, k_pad, CHECKSUM_BLOCKLEN);
73         g_checksum_update(cksum, digest, digestlen);
74         outlen = digestlen;
75         g_checksum_get_digest(cksum, digest, &outlen);
76         g_checksum_free(cksum);
77 }
78
79 #undef CHECKSUM_BLOCKLEN
80
81 /*
82  * Password-Based Key Derivation Function 2 (PKCS #5 v2.0).
83  * Code based on IEEE Std 802.11-2007, Annex H.4.2.
84  */
85 gint
86 pkcs5_pbkdf2(const gchar *pass, size_t pass_len, const guchar *salt,
87     size_t salt_len, guchar *key, size_t key_len, guint rounds)
88 {
89         gssize digestlen = g_checksum_type_get_length(G_CHECKSUM_SHA1);
90         guchar *asalt, obuf[digestlen];
91         guchar d1[digestlen], d2[digestlen];
92         guint i, j;
93         guint count;
94         size_t r;
95
96         if (rounds < 1 || key_len == 0)
97                 return -1;
98         if (salt_len == 0 || salt_len > SIZE_MAX - 4)
99                 return -1;
100         if ((asalt = malloc(salt_len + 4)) == NULL)
101                 return -1;
102
103         memcpy(asalt, salt, salt_len);
104
105         for (count = 1; key_len > 0; count++) {
106                 asalt[salt_len + 0] = (count >> 24) & 0xff;
107                 asalt[salt_len + 1] = (count >> 16) & 0xff;
108                 asalt[salt_len + 2] = (count >> 8) & 0xff;
109                 asalt[salt_len + 3] = count & 0xff;
110                 hmac_sha1(asalt, salt_len + 4, pass, pass_len, d1);
111                 memcpy(obuf, d1, sizeof(obuf));
112
113                 for (i = 1; i < rounds; i++) {
114                         hmac_sha1(d1, sizeof(d1), pass, pass_len, d2);
115                         memcpy(d1, d2, sizeof(d1));
116                         for (j = 0; j < sizeof(obuf); j++)
117                                 obuf[j] ^= d1[j];
118                 }
119
120                 r = MIN(key_len, digestlen);
121                 memcpy(key, obuf, r);
122                 key += r;
123                 key_len -= r;
124         };
125         bzero(asalt, salt_len + 4);
126         free(asalt);
127         bzero(d1, sizeof(d1));
128         bzero(d2, sizeof(d2));
129         bzero(obuf, sizeof(obuf));
130
131         return 0;
132 }