Clean mailmbox plugin warnings
[claws.git] / src / plugins / mailmbox / mailmbox.c
1 /*
2  * libEtPan! -- a mail stuff library
3  *
4  * Copyright (C) 2001, 2002 - DINH Viet Hoa
5  * All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  * 3. Neither the name of the libEtPan! project nor the names of its
16  *    contributors may be used to endorse or promote products derived
17  *    from this software without specific prior written permission.
18  *
19  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
20  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
21  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
22  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
23  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
24  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
25  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
26  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
27  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
28  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
29  * SUCH DAMAGE.
30  */
31
32 /*
33  * $Id$
34  */
35
36 #include "mailmbox.h"
37
38 #include <sys/file.h>
39 #include <sys/stat.h>
40 #include <unistd.h>
41 #include <sys/mman.h>
42 #include <fcntl.h>
43 #include <time.h>
44 #include <sys/types.h>
45 #include <unistd.h>
46
47 #include <string.h>
48 #include <ctype.h>
49 #include <stdlib.h>
50 #include <stdio.h>
51 #include <limits.h>
52
53 #include "mmapstring.h"
54 #include "mailmbox_parse.h"
55 #include "maillock.h"
56 #include "utils.h"
57
58 /*
59   http://www.qmail.org/qmail-manual-html/man5/mbox.html
60   RFC 2076
61 */
62
63 #define TMPDIR "/tmp"
64
65 /* mbox is a file with a corresponding filename */
66
67 #define UID_HEADER "X-LibEtPan-UID:"
68
69 #ifndef TRUE
70 #define TRUE 1
71 #endif
72
73 #ifndef FALSE
74 #define FALSE 0
75 #endif
76
77 int claws_mailmbox_write_lock(struct claws_mailmbox_folder * folder)
78 {
79   int r;
80
81   if (folder->mb_read_only)
82     return MAILMBOX_ERROR_READONLY;
83
84   r = maillock_write_lock(folder->mb_filename, folder->mb_fd);
85   if (r == 0)
86     return MAILMBOX_NO_ERROR;
87   else
88     return MAILMBOX_ERROR_FILE;
89 }
90
91 int claws_mailmbox_write_unlock(struct claws_mailmbox_folder * folder)
92 {
93   int r;
94
95   r = maillock_write_unlock(folder->mb_filename, folder->mb_fd);
96   if (r == 0)
97     return MAILMBOX_NO_ERROR;
98   else
99     return MAILMBOX_ERROR_FILE;
100 }
101
102 int claws_mailmbox_read_lock(struct claws_mailmbox_folder * folder)
103 {
104   int r;
105
106   r = maillock_read_lock(folder->mb_filename, folder->mb_fd);
107   if (r == 0)
108     return MAILMBOX_NO_ERROR;
109   else
110     return MAILMBOX_ERROR_FILE;
111 }
112
113 int claws_mailmbox_read_unlock(struct claws_mailmbox_folder * folder)
114 {
115   int r;
116
117   r = maillock_read_unlock(folder->mb_filename, folder->mb_fd);
118   if (r == 0)
119     return MAILMBOX_NO_ERROR;
120   else
121     return MAILMBOX_ERROR_FILE;
122 }
123
124
125 /*
126   map the file into memory.
127   the file must be locked.
128 */
129
130 int claws_mailmbox_map(struct claws_mailmbox_folder * folder)
131 {
132   char * str;
133   struct stat buf;
134   int res;
135   int r;
136
137   r = stat(folder->mb_filename, &buf);
138   if (r < 0) {
139     debug_print("stat failed %d\n", r);
140     res = MAILMBOX_ERROR_FILE;
141     goto err;
142   }
143
144   if (buf.st_size == 0) {
145     folder->mb_mapping = NULL;
146     folder->mb_mapping_size = 0;
147     return MAILMBOX_NO_ERROR;
148   }
149   if (folder->mb_read_only)
150     str = (char *) mmap(NULL, buf.st_size, PROT_READ,
151                         MAP_PRIVATE, folder->mb_fd, 0);
152   else
153     str = (char *) mmap(NULL, buf.st_size, PROT_READ | PROT_WRITE,
154                         MAP_SHARED, folder->mb_fd, 0);
155   if (str == MAP_FAILED) {
156     perror("mmap");
157     debug_print("map of %lu bytes failed\n", buf.st_size);
158     res = MAILMBOX_ERROR_FILE;
159     goto err;
160   }
161   
162   folder->mb_mapping = str;
163   folder->mb_mapping_size = buf.st_size;
164
165   return MAILMBOX_NO_ERROR;
166
167  err:
168   return res;
169 }
170
171 /*
172   unmap the file
173 */
174
175 void claws_mailmbox_unmap(struct claws_mailmbox_folder * folder)
176 {
177   munmap(folder->mb_mapping, folder->mb_mapping_size);
178   folder->mb_mapping = NULL;
179   folder->mb_mapping_size = 0;
180 }
181
182 void claws_mailmbox_sync(struct claws_mailmbox_folder * folder)
183 {
184   msync(folder->mb_mapping, folder->mb_mapping_size, MS_SYNC);
185 }
186
187 void claws_mailmbox_timestamp(struct claws_mailmbox_folder * folder)
188 {
189   int r;
190   struct stat buf;
191
192   r = stat(folder->mb_filename, &buf);
193   if (r < 0)
194     folder->mb_mtime = (time_t) -1;
195   else
196     folder->mb_mtime = buf.st_mtime;
197 }
198
199 /*
200   open the file
201 */
202
203 int claws_mailmbox_open(struct claws_mailmbox_folder * folder)
204 {
205   int fd = -1;
206   int read_only;
207
208   if (!folder->mb_read_only) {
209     read_only = FALSE;
210     fd = open(folder->mb_filename, O_RDWR | O_CREAT, S_IRUSR | S_IWUSR);
211   }
212
213   if (folder->mb_read_only || (fd < 0)) {
214     read_only = TRUE;
215     fd = open(folder->mb_filename, O_RDONLY);
216     if (fd < 0)
217       return MAILMBOX_ERROR_FILE_NOT_FOUND;
218   }
219
220   folder->mb_fd = fd;
221   folder->mb_read_only = read_only;
222
223   return MAILMBOX_NO_ERROR;
224 }
225
226 /*
227   close the file
228 */
229
230 void claws_mailmbox_close(struct claws_mailmbox_folder * folder)
231 {
232   close(folder->mb_fd);
233   folder->mb_fd = -1;
234 }
235
236
237 static int claws_mailmbox_validate_lock(struct claws_mailmbox_folder * folder,
238     int (* custom_lock)(struct claws_mailmbox_folder *),
239     int (* custom_unlock)(struct claws_mailmbox_folder *))
240 {
241   struct stat buf;
242   int res;
243   int r;
244
245   r = stat(folder->mb_filename, &buf);
246   if (r < 0) {
247     buf.st_mtime = (time_t) -1;
248   }
249
250   if ((buf.st_mtime != folder->mb_mtime) ||
251       ((size_t) buf.st_size != folder->mb_mapping_size)) {
252     int r;
253
254     claws_mailmbox_unmap(folder);
255     claws_mailmbox_close(folder);
256
257     r = claws_mailmbox_open(folder);
258     if (r != MAILMBOX_NO_ERROR) {
259       res = r;
260       goto err;
261     }
262
263     r = custom_lock(folder);
264     if (r != MAILMBOX_NO_ERROR) {
265       res = r;
266       goto err;
267     }
268
269     r = claws_mailmbox_map(folder);
270     if (r != MAILMBOX_NO_ERROR) {
271       res = r;
272       goto err_unlock;
273     }
274
275     r = claws_mailmbox_parse(folder);
276     if (r != MAILMBOX_NO_ERROR) {
277       res = r;
278       goto err_unlock;
279     }
280
281     folder->mb_mtime = buf.st_mtime;
282
283     return MAILMBOX_NO_ERROR;
284   }
285   else {
286     r = custom_lock(folder);
287     if (r != MAILMBOX_NO_ERROR) {
288       res = r;
289       goto err;
290     }
291   }
292
293   return MAILMBOX_NO_ERROR;
294
295  err_unlock:
296   custom_unlock(folder);
297  err:
298   return res;
299 }
300
301
302 int claws_mailmbox_validate_write_lock(struct claws_mailmbox_folder * folder)
303 {
304   return claws_mailmbox_validate_lock(folder,
305                                 claws_mailmbox_write_lock,
306                                 claws_mailmbox_write_unlock);
307 }
308
309
310 int claws_mailmbox_validate_read_lock(struct claws_mailmbox_folder * folder)
311 {
312   return claws_mailmbox_validate_lock(folder,
313                                 claws_mailmbox_read_lock,
314                                 claws_mailmbox_read_unlock);
315 }
316
317
318 /* ********************************************************************** */
319 /* append messages */
320
321 #define MAX_FROM_LINE_SIZE 256
322
323 static inline size_t get_line(const char * line, size_t length,
324                               const char ** pnext_line, size_t * pcount)
325 {
326   size_t count;
327
328   count = 0;
329
330   while (1) {
331     if (length == 0)
332       break;
333
334     if (* line == '\r') {
335       line ++;
336
337       count ++;
338       length --;
339
340       if (length > 0) {
341         if (* line == '\n') {
342           line ++;
343           
344           count ++;
345           length --;
346           
347           break;
348         }
349       }
350     }
351     else if (* line == '\n') {
352       line ++;
353
354       count ++;
355       length --;
356
357       break;
358     }
359     else {
360       line ++;
361       length --;
362       count ++;
363     }
364   }
365
366   * pnext_line = line;
367   * pcount = count;
368
369   return count;
370 }
371
372 /*
373   TODO : should strip \r\n if any
374   see also in write_fixed_line
375 */
376
377 static inline size_t get_fixed_line_size(const char * line, size_t length,
378     const char ** pnext_line, size_t * pcount,
379     size_t * pfixed_count)
380 {
381   size_t count;
382   const char * next_line;
383   size_t fixed_count;
384   
385   if (!get_line(line, length, &next_line, &count))
386     return 0;
387
388   fixed_count = count;
389   if (count >= 5) {
390     if (line[0] == 'F') {
391       if (strncmp(line, "From ", 5) == 0)
392         fixed_count ++;
393     }
394   }
395
396   * pnext_line = next_line;
397   * pcount = count;
398   * pfixed_count = fixed_count;
399
400   return count;
401 }
402
403 static size_t get_fixed_message_size(const char * message, size_t size,
404                                      uint32_t uid, int force_no_uid)
405 {
406   size_t fixed_size;
407   size_t cur_token;
408   size_t left;
409   const char * next;
410   const char * cur;
411   int end;
412   int r;
413   uint32_t tmp_uid;
414
415   cur_token = 0;
416
417   fixed_size = 0;
418
419   /* headers */
420
421   end = FALSE;
422   while (!end) {
423     size_t begin;
424     int ignore;
425
426     ignore = FALSE;
427     begin = cur_token;
428     if (cur_token + strlen(UID_HEADER) <= size) {
429       if (message[cur_token] == 'X') {
430         if (strncasecmp(message + cur_token, UID_HEADER,
431                         strlen(UID_HEADER)) == 0) {
432           ignore = TRUE;
433         }
434       }
435     }
436
437     r = mailimf_ignore_field_parse(message, size, &cur_token);
438     switch (r) {
439     case MAILIMF_NO_ERROR:
440       if (!ignore)
441         fixed_size += cur_token - begin;
442       break;
443     case MAILIMF_ERROR_PARSE:
444     default:
445       end = TRUE;
446       break;
447     }
448   }
449
450   if (!force_no_uid) {
451     /* UID header */
452
453 #if CRLF_BADNESS    
454     fixed_size += strlen(UID_HEADER " \r\n");
455 #else
456     fixed_size += strlen(UID_HEADER " \n");
457 #endif
458     
459     tmp_uid = uid;
460     while (tmp_uid >= 10) {
461       tmp_uid /= 10;
462       fixed_size ++;
463     }
464     fixed_size ++;
465   }
466
467   /* body */
468
469   left = size - cur_token;
470   next = message + cur_token;
471   while (left > 0) {
472     size_t count;
473     size_t fixed_count;
474
475     cur = next;
476
477     if (!get_fixed_line_size(cur, left, &next, &count, &fixed_count))
478       break;
479
480     fixed_size += fixed_count;
481     left -= count;
482   }
483
484   return fixed_size;
485 }
486
487 static inline char * write_fixed_line(char * str,
488     const char * line, size_t length,
489     const char ** pnext_line, size_t * pcount)
490 {
491   size_t count;
492   const char * next_line;
493   
494   if (!get_line(line, length, &next_line, &count))
495     return str;
496
497   if (count >= 5) {
498     if (line[0] == 'F') {
499       if (strncmp(line, "From ", 5) == 0) {
500         * str = '>';
501         str ++;
502       }
503     }
504   }
505
506   memcpy(str, line, count);
507   
508   * pnext_line = next_line;
509   * pcount = count;
510   str += count;
511
512   return str;
513 }
514
515 static char * write_fixed_message(char * str,
516                                   const char * message, size_t size,
517                                   uint32_t uid, int force_no_uid)
518 {
519   size_t cur_token;
520   size_t left;
521   int end;
522   int r;
523   const char * cur_src;
524   size_t numlen;
525
526   cur_token = 0;
527
528   /* headers */
529
530   end = FALSE;
531   while (!end) {
532     size_t begin;
533     int ignore;
534
535     ignore = FALSE;
536     begin = cur_token;
537     if (cur_token + strlen(UID_HEADER) <= size) {
538       if (message[cur_token] == 'X') {
539         if (strncasecmp(message + cur_token, UID_HEADER,
540                         strlen(UID_HEADER)) == 0) {
541           ignore = TRUE;
542         }
543       }
544     }
545
546     r = mailimf_ignore_field_parse(message, size, &cur_token);
547     switch (r) {
548     case MAILIMF_NO_ERROR:
549       if (!ignore) {
550         memcpy(str, message + begin, cur_token - begin);
551         str += cur_token - begin;
552       }
553       break;
554     case MAILIMF_ERROR_PARSE:
555     default:
556       end = TRUE;
557       break;
558     }
559   }
560
561   if (!force_no_uid) {
562     /* UID header */
563     
564     memcpy(str, UID_HEADER " ", strlen(UID_HEADER " "));
565     str += strlen(UID_HEADER " ");
566 #if CRLF_BADNESS    
567     numlen = snprintf(str, 20, "%i\r\n", uid);
568 #else
569     numlen = snprintf(str, 20, "%i\n", uid);
570 #endif
571     str += numlen;
572   }
573
574   /* body */
575
576   cur_src = message + cur_token;
577   left = size - cur_token;
578   while (left > 0) {
579     size_t count = 0;
580     const char * next = NULL;
581
582     str = write_fixed_line(str, cur_src, left, &next, &count);
583     
584     cur_src = next;
585     left -= count;
586   }
587
588   return str;
589 }
590
591 #define DEFAULT_FROM_LINE "From - Wed Jun 30 21:49:08 1993\n"
592
593 int
594 claws_mailmbox_append_message_list_no_lock(struct claws_mailmbox_folder * folder,
595                                      carray * append_tab)
596 {
597   size_t extra_size;
598   int r;
599   char from_line[MAX_FROM_LINE_SIZE] = DEFAULT_FROM_LINE;
600   struct tm time_info;
601   time_t date;
602   int res;
603   size_t old_size;
604   char * str;
605   unsigned int i;
606   size_t from_size;
607   size_t left;
608   size_t crlf_count;
609
610   if (folder->mb_read_only) {
611     res = MAILMBOX_ERROR_READONLY;
612     goto err;
613   }
614
615   date = time(NULL);
616   from_size = strlen(DEFAULT_FROM_LINE);
617   if (localtime_r(&date, &time_info) != NULL)
618     from_size = strftime(from_line, MAX_FROM_LINE_SIZE, "From - %c\n", &time_info);
619
620   extra_size = 0;
621   for(i = 0 ; i < carray_count(append_tab) ; i ++) {
622     struct claws_mailmbox_append_info * info;
623
624     info = carray_get(append_tab, i);
625     extra_size += from_size;
626     extra_size += get_fixed_message_size(info->ai_message, info->ai_size,
627         folder->mb_max_uid + i + 1,
628         folder->mb_no_uid);
629 #if CRLF_BADNESS
630     extra_size += 2; /* CR LF */
631 #else
632     extra_size += 1; /* CR LF */
633 #endif    
634   }
635
636   left = folder->mb_mapping_size;
637   crlf_count = 0;
638   while (left >= 1) {
639     if (folder->mb_mapping[left - 1] == '\n') {
640       crlf_count ++;
641       left --;
642     }
643 #if CRLF_BADNESS    
644     else if (folder->mb_mapping[left - 1] == '\r') {
645       left --;
646     }
647 #endif
648     else
649       break;
650
651     if (crlf_count == 2)
652       break;
653   }
654
655   old_size = folder->mb_mapping_size;
656   claws_mailmbox_unmap(folder);
657
658   if (old_size != 0) {
659     if (crlf_count != 2)
660 #if CRLF_BADNESS
661       extra_size += (2 - crlf_count) * 2;
662 #else
663       /* Need the number of LFs, not CRLFs */
664       extra_size += (2 - crlf_count) * 1; /* 2 */
665 #endif      
666   }
667
668   r = ftruncate(folder->mb_fd, extra_size + old_size);
669   if (r < 0) {
670     debug_print("ftruncate failed with %d\n", r);
671     claws_mailmbox_map(folder);
672     res = MAILMBOX_ERROR_FILE;
673     goto err;
674   }
675
676   r = claws_mailmbox_map(folder);
677   if (r < 0) {
678     debug_print("claws_mailmbox_map failed with %d\n", r);
679     ftruncate(folder->mb_fd, old_size);
680     return MAILMBOX_ERROR_FILE;
681   }
682
683   str = folder->mb_mapping + old_size;
684
685   if (old_size != 0) {
686     for(i = 0 ; i < 2 - crlf_count ; i ++) {
687 #if CRLF_BADNESS    
688       * str = '\r';
689       str ++;
690 #endif      
691       * str = '\n';
692       str ++;
693     }
694   }
695
696   for(i = 0 ; i < carray_count(append_tab) ; i ++) {
697     struct claws_mailmbox_append_info * info;
698
699     info = carray_get(append_tab, i);
700
701     memcpy(str, from_line, from_size);
702
703     str += strlen(from_line);
704
705     str = write_fixed_message(str, info->ai_message, info->ai_size,
706         folder->mb_max_uid + i + 1,
707         folder->mb_no_uid);
708
709 #if CRLF_BADNESS
710     * str = '\r';
711     str ++;
712 #endif    
713     * str = '\n';
714     str ++;
715   }
716
717   folder->mb_max_uid += carray_count(append_tab);
718
719   return MAILMBOX_NO_ERROR;
720
721  err:
722   return res;
723 }
724
725 int
726 claws_mailmbox_append_message_list(struct claws_mailmbox_folder * folder,
727                              carray * append_tab)
728 {
729   int r;
730   int res;
731   size_t cur_token;
732
733   r = claws_mailmbox_validate_write_lock(folder);
734   if (r != MAILMBOX_NO_ERROR) {
735     res = r;
736     goto err;
737   }
738
739   r = claws_mailmbox_expunge_no_lock(folder);
740   if (r != MAILMBOX_NO_ERROR) {
741     res = r;
742     goto unlock;
743   }
744
745   cur_token = folder->mb_mapping_size;
746
747   r = claws_mailmbox_append_message_list_no_lock(folder, append_tab);
748   if (r != MAILMBOX_NO_ERROR) {
749     res = r;
750     goto unlock;
751   }
752
753   claws_mailmbox_sync(folder);
754
755   r = claws_mailmbox_parse_additionnal(folder, &cur_token);
756   if (r != MAILMBOX_NO_ERROR) {
757     res = r;
758     goto unlock;
759   }
760
761   claws_mailmbox_timestamp(folder);
762
763   claws_mailmbox_write_unlock(folder);
764
765   return MAILMBOX_NO_ERROR;
766
767  unlock:
768   claws_mailmbox_write_unlock(folder);
769  err:
770   return res;
771 }
772
773 int
774 claws_mailmbox_append_message(struct claws_mailmbox_folder * folder,
775                         const char * data, size_t len)
776 {
777   carray * tab;
778   struct claws_mailmbox_append_info * append_info;
779   int res;
780   int r;
781
782   tab = carray_new(1);
783   if (tab == NULL) {
784     res = MAILMBOX_ERROR_MEMORY;
785     goto err;
786   }
787
788   append_info = claws_mailmbox_append_info_new(data, len);
789   if (append_info == NULL) {
790     res = MAILMBOX_ERROR_MEMORY;
791     goto free_list;
792   }
793
794   r = carray_add(tab, append_info, NULL);
795   if (r < 0) {
796     res = MAILMBOX_ERROR_MEMORY;
797     goto free_append_info;
798   }
799
800   r = claws_mailmbox_append_message_list(folder, tab);
801
802   claws_mailmbox_append_info_free(append_info);
803   carray_free(tab);
804
805   return r;
806
807  free_append_info:
808   claws_mailmbox_append_info_free(append_info);
809  free_list:
810   carray_free(tab);
811  err:
812   return res;
813 }
814
815 /* ********************************************************************** */
816
817 int claws_mailmbox_fetch_msg_no_lock(struct claws_mailmbox_folder * folder,
818                                uint32_t num, const char ** result,
819                                size_t * result_len)
820 {
821   struct claws_mailmbox_msg_info * info;
822   int res;
823   chashdatum key;
824   chashdatum data;
825   int r;
826   
827   key.data = &num;
828   key.len = sizeof(num);
829   
830   r = chash_get(folder->mb_hash, &key, &data);
831   if (r < 0) {
832     res = MAILMBOX_ERROR_MSG_NOT_FOUND;
833     goto err;
834   }
835   
836   info = data.data;
837   
838   if (info->msg_deleted) {
839     res = MAILMBOX_ERROR_MSG_NOT_FOUND;
840     goto err;
841   }
842
843   * result = folder->mb_mapping + info->msg_headers;
844   * result_len = info->msg_size - info->msg_start_len;
845
846   return MAILMBOX_NO_ERROR;
847
848  err:
849   return res;
850 }
851
852 int claws_mailmbox_fetch_msg_headers_no_lock(struct claws_mailmbox_folder * folder,
853                                        uint32_t num, const char ** result,
854                                        size_t * result_len)
855 {
856   struct claws_mailmbox_msg_info * info;
857   int res;
858   chashdatum key;
859   chashdatum data;
860   int r;
861   
862   key.data = &num;
863   key.len = sizeof(num);
864   
865   r = chash_get(folder->mb_hash, &key, &data);
866   if (r < 0) {
867     res = MAILMBOX_ERROR_MSG_NOT_FOUND;
868     goto err;
869   }
870
871   info = data.data;
872
873   if (info->msg_deleted) {
874     res = MAILMBOX_ERROR_MSG_NOT_FOUND;
875     goto err;
876   }
877
878   * result = folder->mb_mapping + info->msg_headers;
879   * result_len = info->msg_headers_len;
880
881   return MAILMBOX_NO_ERROR;
882
883  err:
884   return res;
885 }
886
887 int claws_mailmbox_fetch_msg(struct claws_mailmbox_folder * folder,
888                        uint32_t num, const char ** result,
889                        size_t * result_len)
890 {
891   MMAPString * mmapstr;
892   int res;
893   const char * data;
894   size_t len;
895   int r;
896   size_t fixed_size;
897   char * end;
898   
899   r = claws_mailmbox_validate_read_lock(folder);
900   if (r != MAILMBOX_NO_ERROR) {
901     res = r;
902     goto err;
903   }
904
905   r = claws_mailmbox_fetch_msg_no_lock(folder, num, &data, &len);
906   if (r != MAILMBOX_NO_ERROR) {
907     res = r;
908     goto unlock;
909   }
910   
911   /* size with no uid */
912   fixed_size = get_fixed_message_size(data, len, 0, 1 /* force no uid */);
913   
914 #if 0
915   mmapstr = mmap_string_new_len(data, fixed_size);
916   if (mmapstr == NULL) {
917     res = MAILMBOX_ERROR_MEMORY;
918     goto unlock;
919   }
920 #endif
921   mmapstr = mmap_string_sized_new(fixed_size);
922   if (mmapstr == NULL) {
923     res = MAILMBOX_ERROR_MEMORY;
924     goto unlock;
925   }
926   
927   end = write_fixed_message(mmapstr->str, data, len, 0, 1 /* force no uid */);
928   * end = '\0';
929   mmapstr->len = fixed_size;
930   
931   r = mmap_string_ref(mmapstr);
932   if (r < 0) {
933     mmap_string_free(mmapstr);
934     res = MAILMBOX_ERROR_MEMORY;
935     goto unlock;
936   }
937
938   * result = mmapstr->str;
939   * result_len = mmapstr->len;
940
941   claws_mailmbox_read_unlock(folder);
942
943   return MAILMBOX_NO_ERROR;
944
945  unlock:
946   claws_mailmbox_read_unlock(folder);
947  err:
948   return res;
949 }
950
951 int claws_mailmbox_fetch_msg_headers(struct claws_mailmbox_folder * folder,
952                                uint32_t num, const char ** result,
953                                size_t * result_len)
954 {
955   MMAPString * mmapstr;
956   int res;
957   const char * data;
958   size_t len;
959   int r;
960   size_t fixed_size;
961   char * end;
962
963   r = claws_mailmbox_validate_read_lock(folder);
964   if (r != MAILMBOX_NO_ERROR) {
965     res = r;
966     goto err;
967   }
968
969   r = claws_mailmbox_fetch_msg_headers_no_lock(folder, num, &data, &len);
970   if (r != MAILMBOX_NO_ERROR) {
971     res = r;
972     goto unlock;
973   }
974
975 #if 0
976   mmapstr = mmap_string_new_len(data, len);
977   if (mmapstr == NULL) {
978     res = MAILMBOX_ERROR_MEMORY;
979     goto unlock;
980   }
981 #endif
982   /* size with no uid */
983   fixed_size = get_fixed_message_size(data, len, 0, 1 /* force no uid */);
984   
985   mmapstr = mmap_string_sized_new(fixed_size);
986   if (mmapstr == NULL) {
987     res = MAILMBOX_ERROR_MEMORY;
988     goto unlock;
989   }
990   
991   end = write_fixed_message(mmapstr->str, data, len, 0, 1 /* force no uid */);
992   * end = '\0';
993   mmapstr->len = fixed_size;
994
995   r = mmap_string_ref(mmapstr);
996   if (r < 0) {
997     mmap_string_free(mmapstr);
998     res = MAILMBOX_ERROR_MEMORY;
999     goto unlock;
1000   }
1001
1002   * result = mmapstr->str;
1003   * result_len = mmapstr->len;
1004
1005   claws_mailmbox_read_unlock(folder);
1006
1007   return MAILMBOX_NO_ERROR;
1008
1009  unlock:
1010   claws_mailmbox_read_unlock(folder);
1011  err:
1012   return res;
1013 }
1014
1015 void claws_mailmbox_fetch_result_free(char * msg)
1016 {
1017   mmap_string_unref(msg);
1018 }
1019
1020
1021 int claws_mailmbox_copy_msg_list(struct claws_mailmbox_folder * dest_folder,
1022                            struct claws_mailmbox_folder * src_folder,
1023                            carray * tab)
1024 {
1025   int r;
1026   int res;
1027   carray * append_tab;
1028   unsigned int i;
1029
1030   r = claws_mailmbox_validate_read_lock(src_folder);
1031   if (r != MAILMBOX_NO_ERROR) {
1032     res = r;
1033     goto err;
1034   }
1035
1036   append_tab = carray_new(carray_count(tab));
1037   if (append_tab == NULL) {
1038     res = MAILMBOX_ERROR_MEMORY;
1039     goto src_unlock;
1040   }
1041
1042   for(i = 0 ; i < carray_count(tab) ; i ++) {
1043     struct claws_mailmbox_append_info * append_info;
1044     const char * data;
1045     size_t len;
1046     uint32_t uid;
1047
1048     uid = * ((uint32_t *) carray_get(tab, i));
1049
1050     r = claws_mailmbox_fetch_msg_no_lock(src_folder, uid, &data, &len);
1051     if (r != MAILMBOX_NO_ERROR) {
1052       res = r;
1053       goto free_list;
1054     }
1055     
1056     append_info = claws_mailmbox_append_info_new(data, len);
1057     if (append_info == NULL) {
1058       res = MAILMBOX_ERROR_MEMORY;
1059       goto free_list;
1060     }
1061     
1062     r = carray_add(append_tab, append_info, NULL);
1063     if (r < 0) {
1064       claws_mailmbox_append_info_free(append_info);
1065       res = MAILMBOX_ERROR_MEMORY;
1066       goto free_list;
1067     }
1068   }    
1069
1070   r = claws_mailmbox_append_message_list(dest_folder, append_tab);
1071   if (r != MAILMBOX_NO_ERROR) {
1072     res = r;
1073     goto src_unlock;
1074   }
1075
1076   for(i = 0 ; i < carray_count(append_tab) ; i ++) {
1077     struct claws_mailmbox_append_info * append_info;
1078
1079     append_info = carray_get(append_tab, i);
1080     claws_mailmbox_append_info_free(append_info);
1081   }
1082   carray_free(append_tab);
1083
1084   claws_mailmbox_read_unlock(src_folder);
1085
1086   return MAILMBOX_NO_ERROR;
1087
1088  free_list:
1089   for(i = 0 ; i < carray_count(append_tab) ; i ++) {
1090     struct claws_mailmbox_append_info * append_info;
1091
1092     append_info = carray_get(append_tab, i);
1093     claws_mailmbox_append_info_free(append_info);
1094   }
1095   carray_free(append_tab);
1096  src_unlock:
1097   claws_mailmbox_read_unlock(src_folder);
1098  err:
1099   return res;
1100 }
1101
1102 int claws_mailmbox_copy_msg(struct claws_mailmbox_folder * dest_folder,
1103                       struct claws_mailmbox_folder * src_folder,
1104                       uint32_t uid)
1105 {
1106   carray * tab;
1107   int res;
1108   uint32_t * puid;
1109   int r;
1110
1111   tab = carray_new(1);
1112   if (tab == NULL) {
1113     res = MAILMBOX_ERROR_MEMORY;
1114     goto err;
1115   }
1116
1117   puid = malloc(sizeof(* puid));
1118   if (puid == NULL) {
1119     res = MAILMBOX_ERROR_MEMORY;
1120     goto free_array;
1121   }
1122   * puid = uid;
1123   
1124   r = claws_mailmbox_copy_msg_list(dest_folder, src_folder, tab);
1125   res = r;
1126
1127   free(puid);
1128  free_array:
1129   carray_free(tab);
1130  err:
1131   return res;
1132 }
1133
1134 static int claws_mailmbox_expunge_to_file_no_lock(char * dest_filename, int dest_fd,
1135     struct claws_mailmbox_folder * folder,
1136     size_t * result_size)
1137 {
1138   int r;
1139   int res;
1140   unsigned long i;
1141   size_t cur_offset;
1142   char * dest;
1143   size_t size;
1144
1145   size = 0;
1146   for(i = 0 ; i < carray_count(folder->mb_tab) ; i ++) {
1147     struct claws_mailmbox_msg_info * info;
1148
1149     info = carray_get(folder->mb_tab, i);
1150
1151     if (!info->msg_deleted) {
1152       size += info->msg_size + info->msg_padding;
1153
1154       if (!folder->mb_no_uid) {
1155         if (!info->msg_written_uid) {
1156           uint32_t uid;
1157          
1158 #if CRLF_BADNESS
1159           size += strlen(UID_HEADER " \r\n");
1160 #else
1161           size += strlen(UID_HEADER " \n");
1162 #endif    
1163           uid = info->msg_uid;
1164           while (uid >= 10) {
1165             uid /= 10;
1166             size ++;
1167           }
1168           size ++;
1169         }
1170       }
1171     }
1172   }
1173
1174   r = ftruncate(dest_fd, size);
1175   if (r < 0) {
1176     res = MAILMBOX_ERROR_FILE;
1177     goto err;
1178   }
1179
1180   if (size) {
1181     dest = (char *) mmap(0, size, PROT_READ | PROT_WRITE, MAP_SHARED, dest_fd, 0);
1182     if (dest == MAP_FAILED) {
1183       res = MAILMBOX_ERROR_FILE;
1184       goto err;
1185     }
1186   }
1187
1188   cur_offset = 0;
1189   for(i = 0 ; i < carray_count(folder->mb_tab) ; i ++) {
1190     struct claws_mailmbox_msg_info * info;
1191     
1192     info = carray_get(folder->mb_tab, i);
1193
1194     if (!info->msg_deleted) {
1195       memcpy(dest + cur_offset, folder->mb_mapping + info->msg_start,
1196              info->msg_headers_len + info->msg_start_len);
1197       cur_offset += info->msg_headers_len + info->msg_start_len;
1198       
1199       if (!folder->mb_no_uid) {
1200         if (!info->msg_written_uid) {
1201           size_t numlen;
1202           
1203           memcpy(dest + cur_offset, UID_HEADER " ", strlen(UID_HEADER " "));
1204           cur_offset += strlen(UID_HEADER " ");
1205 #if CRLF_BADNESS
1206           numlen = snprintf(dest + cur_offset, size - cur_offset,
1207                             "%i\r\n", info->msg_uid);
1208 #else
1209           numlen = snprintf(dest + cur_offset, size - cur_offset,
1210                             "%i\n", info->msg_uid);
1211 #endif                      
1212           cur_offset += numlen;
1213         }
1214       }
1215       
1216       memcpy(dest + cur_offset,
1217              folder->mb_mapping + info->msg_headers + info->msg_headers_len,
1218              info->msg_size - (info->msg_start_len + info->msg_headers_len)
1219              + info->msg_padding);
1220       
1221       cur_offset += info->msg_size -
1222         (info->msg_start_len + info->msg_headers_len)
1223         + info->msg_padding;
1224     }
1225   }
1226   fflush(stdout);
1227
1228   if (size) {
1229     msync(dest, size, MS_SYNC);
1230     munmap(dest, size);
1231   }
1232
1233   * result_size = size;
1234
1235   return MAILMBOX_NO_ERROR;
1236
1237  err:
1238   return res;
1239 }
1240
1241 int claws_mailmbox_expunge_no_lock(struct claws_mailmbox_folder * folder)
1242 {
1243   char tmpfile[PATH_MAX];
1244   int r;
1245   int res;
1246   int dest_fd;
1247   size_t size;
1248
1249   if (folder->mb_read_only)
1250     return MAILMBOX_ERROR_READONLY;
1251
1252   if (((folder->mb_written_uid >= folder->mb_max_uid) || folder->mb_no_uid) &&
1253       (!folder->mb_changed)) {
1254     /* no need to expunge */
1255     return MAILMBOX_NO_ERROR;
1256   }
1257
1258   snprintf(tmpfile, PATH_MAX, "%sXXXXXX", folder->mb_filename);
1259   dest_fd = mkstemp(tmpfile);
1260
1261   if (dest_fd < 0) {
1262     res = MAILMBOX_ERROR_FILE;
1263     goto unlink;
1264   }
1265
1266   r = claws_mailmbox_expunge_to_file_no_lock(tmpfile, dest_fd,
1267                                        folder, &size);
1268   if (r != MAILMBOX_NO_ERROR) {
1269     res = r;
1270     goto unlink;
1271   }
1272
1273   close(dest_fd);
1274
1275   r = rename(tmpfile, folder->mb_filename);
1276   if (r < 0) {
1277     res = r;
1278     goto err;
1279   }
1280
1281   claws_mailmbox_unmap(folder);
1282   claws_mailmbox_close(folder);
1283
1284   r = claws_mailmbox_open(folder);
1285   if (r != MAILMBOX_NO_ERROR) {
1286     res = r;
1287     goto err;
1288   }
1289
1290   r = claws_mailmbox_map(folder);
1291   if (r != MAILMBOX_NO_ERROR) {
1292     res = r;
1293     goto err;
1294   }
1295       
1296   r = claws_mailmbox_parse(folder);
1297   if (r != MAILMBOX_NO_ERROR) {
1298     res = r;
1299     goto err;
1300   }
1301   
1302   claws_mailmbox_timestamp(folder);
1303
1304   folder->mb_changed = FALSE;
1305   folder->mb_deleted_count = 0;
1306   
1307   return MAILMBOX_NO_ERROR;
1308
1309  unlink:
1310   close(dest_fd);
1311   unlink(tmpfile);
1312  err:
1313   return res;
1314 }
1315
1316 int claws_mailmbox_expunge(struct claws_mailmbox_folder * folder)
1317 {
1318   int r;
1319   int res;
1320
1321   r = claws_mailmbox_validate_write_lock(folder);
1322   if (r != MAILMBOX_NO_ERROR) {
1323     res = r;
1324     goto err;
1325   }
1326
1327   r = claws_mailmbox_expunge_no_lock(folder);
1328   res = r;
1329
1330   claws_mailmbox_write_unlock(folder);
1331  err:
1332   return res;
1333 }
1334
1335 int claws_mailmbox_delete_msg(struct claws_mailmbox_folder * folder, uint32_t uid)
1336 {
1337   struct claws_mailmbox_msg_info * info;
1338   int res;
1339   chashdatum key;
1340   chashdatum data;
1341   int r;
1342
1343   if (folder->mb_read_only) {
1344     res = MAILMBOX_ERROR_READONLY;
1345     goto err;
1346   }
1347   
1348   key.data = &uid;
1349   key.len = sizeof(uid);
1350   
1351   r = chash_get(folder->mb_hash, &key, &data);
1352   if (r < 0) {
1353     res = MAILMBOX_ERROR_MSG_NOT_FOUND;
1354     goto err;
1355   }
1356
1357   info = data.data;
1358
1359   if (info->msg_deleted) {
1360     res = MAILMBOX_ERROR_MSG_NOT_FOUND;
1361     goto err;
1362   }
1363
1364   info->msg_deleted = TRUE;
1365   folder->mb_changed = TRUE;
1366   folder->mb_deleted_count ++;
1367
1368   return MAILMBOX_NO_ERROR;
1369
1370  err:
1371   return res;
1372 }
1373
1374
1375 /*
1376   INIT of MBOX
1377
1378   - open file
1379   - map the file
1380
1381   - lock the file
1382
1383   - parse memory
1384
1385   - unlock the file
1386 */
1387
1388 int claws_mailmbox_init(const char * filename,
1389                   int force_readonly,
1390                   int force_no_uid,
1391                   uint32_t default_written_uid,
1392                   struct claws_mailmbox_folder ** result_folder)
1393 {
1394   struct claws_mailmbox_folder * folder;
1395   int r;
1396   int res;
1397   
1398   folder = claws_mailmbox_folder_new(filename);
1399   if (folder == NULL) {
1400     debug_print("folder is null for %s\n", filename);
1401     res = MAILMBOX_ERROR_MEMORY;
1402     goto err;
1403   }
1404   folder->mb_no_uid = force_no_uid;
1405   folder->mb_read_only = force_readonly;
1406   folder->mb_written_uid = default_written_uid;
1407   
1408   folder->mb_changed = FALSE;
1409   folder->mb_deleted_count = 0;
1410   
1411   r = claws_mailmbox_open(folder);
1412   if (r != MAILMBOX_NO_ERROR) {
1413     debug_print("folder can't be opened %d\n", r);
1414     res = r;
1415     goto free;
1416   }
1417
1418   r = claws_mailmbox_map(folder);
1419   if (r != MAILMBOX_NO_ERROR) {
1420     debug_print("folder can't be mapped %d\n", r);
1421     res = r;
1422     goto close;
1423   }
1424
1425   r = claws_mailmbox_validate_read_lock(folder);
1426   if (r != MAILMBOX_NO_ERROR) {
1427     debug_print("folder can't be locked %d\n", r);
1428     res = r;
1429     goto unmap;
1430   }
1431
1432   claws_mailmbox_read_unlock(folder);
1433
1434   * result_folder = folder;
1435
1436   return MAILMBOX_NO_ERROR;
1437
1438  unmap:
1439   claws_mailmbox_unmap(folder);
1440  close:
1441   claws_mailmbox_close(folder);
1442  free:
1443   claws_mailmbox_folder_free(folder);
1444  err:
1445   return res;
1446 }
1447
1448
1449 /*
1450   when MBOX is DONE
1451
1452   - check for changes
1453
1454   - unmap the file
1455   - close file
1456 */
1457
1458 void claws_mailmbox_done(struct claws_mailmbox_folder * folder)
1459 {
1460   if (!folder->mb_read_only)
1461     claws_mailmbox_expunge(folder);
1462   
1463   claws_mailmbox_unmap(folder);
1464   claws_mailmbox_close(folder);
1465
1466   claws_mailmbox_folder_free(folder);
1467 }