boolify pattern functions

boolify mutt_date_make_time()

boolify retval of mutt_path_to_absolute()

refactor mutt_str_append_item()

clang-format

merge: upstream add index-format-hook

 * Add index-format-hook and expando
 * Add a flag for dynamic date range evaluation in patterns
 * Update the neomuttrc man page with added commands

Update the neomuttrc man page with added commands

Add the "color compose", index-format-hook, and echo commands.

Add the HMS relative date units.

Co-authored-by: Richard Russon <rich@flatcap.org>

Add a flag for dynamic date range evaluation in patterns

By default, Mutt evaluates relative date patterns, such as "~d<1d"
against the date when the pattern is compiled.

For index-format-hook, we need to pattern match against a message
based on the current date/time, so that for example, conditional date
format patterns correctly match after Mutt has been open for many
days/weeks.

Add a flag, MUTT_PATTERN_DYNAMIC, that changes ~d and ~r evaluation to
reevaluate the min/max range with each match.

This will of course be slower, but for the index, where a screenful of
messages at a time are evaluated, is an acceptable tradeoff against
accurate pattern matching.

Co-authored-by: Richard Russon <rich@flatcap.org>

Add index-format-hook and expando

index-format-hook is used to allow dynamic insertion/evaluation of
format strings into $index_format.

It can be used, for example, to implement date formatting based on the
age of the message.

Add a new %@name@ expando to $index_format, which evaluates the
matching index-format-hooks with "name".

Co-authored-by: Richard Russon <rich@flatcap.org>

merge: improve test coverage

 * tests: add copyright blocks
 * coverage: show stats
 * test: templates for path functions
 * test: add path tests for degenerate cases
 * libmutt: fix path code for degenerate cases
 * test: merge existing path tests
 * config: don't exclude testable cases
 * test: add coverage of config dump functions
 * test: 100% config coverage

test: 100% config coverage

test: add coverage of config dump functions

config: don't exclude testable cases

test: merge existing path tests

libmutt: fix path code for degenerate cases

test: add path tests for degenerate cases

test: templates for path functions

coverage: show stats

tests: add copyright blocks

docs: add note about line continuation

Closes: #1668
[ci skip]

Fix uninitialized variable

Reported on https://mailman.neomutt.org/pipermail/neomutt-devel-neomutt.org/2019-April/000654.html

imap: fix auth login

The auth_login returns an error when it succesfully logins.

This was introduced by 04892a48ea76b37f6aa9b369b5bc4f5cc362878c

This change fixes that.

imap: fix oauth

Currently when oauth success, we got this and neomutt UI got stuck:

[2019-04-21 15:35:38]<5> mutt_socket_readln_d() 5< a0001 OK xxxxxxxxxxxxx@xxxxxxxxx authenticated (Success)
[2019-04-21 15:35:38]<2> mutt_socket_write_d() 5> [2019-04-21 15:35:38]<2> imap_login() Communication encrypted at 256 bits
[2019-04-21 15:35:38]<3> imap_mdata_new() hcache uidvalidity 1, uidnext 228, modseq 0
[2019-04-21 15:35:38]<M> mx_mbox_open() Reading imaps://imap.gmail.com/INBOX...
[2019-04-21 15:35:38]<M> imap_mbox_open() Selecting INBOX...
[2019-04-21 15:35:38]<2> mutt_socket_write_d() 5> a0002 SELECT "INBOX"
[2019-04-21 15:35:38]<5> mutt_socket_readln_d() 5< * BAD [CLIENTBUG] Invalid tag

In fact neomutt send ^A to the server, but this should occurs only if
the authentication fails.

This changes fixes that.

Demote more 'first' and 'last' errors to messages

This should finish the job done in 8e8344.

Fixes #1311

update credits

fix release build

Fix capitalization (now consistent with the respective code in pager.c)

Support group-chat-reply in the index

Fixes #1654

Make buffer pool initialization lazy

This fixes an issue in the startup sequence where a buffer is requested
from the buffer pool before mutt_buffer_pool_init is called. The latter
doubles up the number of buffers even though there are free ones.

tidy: config variables and comments

Rename global variables to match their config:

- `C_ImapCondStore`       -> `C_ImapCondstore`
- `C_ImapOauthRefreshCmd` -> `C_ImapOauthRefreshCommand`
- `C_ImapQResync`         -> `C_ImapQresync`
- `C_PopOauthRefreshCmd`  -> `C_PopOauthRefreshCommand`
- `C_SidebarNonEmptyOnly` -> `C_SidebarNonEmptyMailboxOnly`
- `C_SmtpOauthRefreshCmd` -> `C_SmtpOauthRefreshCommand`

split Address into a separate library

Closes: #1619

Make buffer pool parameters (compile-time) configurable

remove unnecesary test in mutt_str_asprintf()

Temporarily remove a valid test condition to match.

merge: promote two functions to libmutt

 * libmutt: promote getcwd to the library
 * libmutt: promote mutt_buffer_concat_path to the library
 * add basic tests

add basic tests

libmutt: promote mutt_buffer_concat_path to the library

libmutt: promote getcwd to the library

fix Mailbox->append,changed flags

Replying to an email caused some unwanted side-effects:
- Updating the Context left `m->changed == false`
- `mutt_write_fcc()` left `m->append == true`

fix setting the 'replied' flag

When replying to an email, mark the original as 'replied'.

Fixes: #1647

merge: convert Buffers to use the pool

 * remove unused Buffer in cs_inherit_variable()
 * allocate Buffer in ac_free()
 * allocate Buffer in cs_register_variables()
 * allocate Buffer in mutt_folder_hook()
 * allocate Buffer in lua_mutt_call()
 * allocate Buffer in lua_mutt_enter()
 * allocate Buffer in mutt_find_hook()
 * allocate Buffer in mutt_account_hook()
 * allocate Buffer in execute_commands()
 * allocate Buffer in mutt_dump_variables()

allocate Buffer in mutt_dump_variables()

allocate Buffer in execute_commands()

allocate Buffer in mutt_account_hook()

allocate Buffer in mutt_find_hook()

allocate Buffer in lua_mutt_enter()

allocate Buffer in lua_mutt_call()

allocate Buffer in mutt_folder_hook()

allocate Buffer in cs_register_variables()

allocate Buffer in ac_free()

remove unused Buffer in cs_inherit_variable()

merge: add framework for testing string functions

 * test: templates for string functions
 * test: add string tests for degenerate cases
 * libmutt: fix code for degenerate cases
 * test: merge existing string tests
 * build: add coverage testing

build: add coverage testing

test: merge existing string tests

libmutt: fix code for degenerate cases

test: add string tests for degenerate cases

test: templates for string functions

merge: trivial fixes

 * refactor: light tidying
 * tidy macros
 * comment escape sequences
 * add: PatternExecFlags for mutt_pattern_exec()
 * tidy: mutt_copy_hdr()
 * tidy calls to mutt_copy_hdr()
 * boolify: mutt_parse_crypt_hdr()
 * boolify: mutt_enter_fname()
 * boolify: valid_passphrase()

boolify: valid_passphrase()

boolify: mutt_enter_fname()

boolify: mutt_parse_crypt_hdr()

tidy calls to mutt_copy_hdr()

tidy: mutt_copy_hdr()

add: PatternExecFlags for mutt_pattern_exec()

The flags were an enum, which wasn't really suitable.

comment escape sequences

tidy macros

- add underscores
- remove unused

refactor: light tidying

- clang-format
- remove unused declaration
- use bools in config definitions
- fix doxygen comments
- remove unnecessary check
- tidy list/queue definitions

Fix save_message() - set the append flag to the correct mailbox

Fixes #1645

mark oauth config variables as sensitive

tidy: delete trailing whitespace

fix crash on startup

Allocate the 'folder' earlier.
Our code paths seem to differ from upstream's.

merge: Allow reopening of Maiboxes (workaround)

 * fix ev_message()
 * fix save_message()
 * fix pop_fetch_mail()
 * fix trash_append()

fix trash_append()

Prevent a crash when reopening a Mailbox.

> How exactly do these changes prevent the crash from occurring?

It's all about how mx_mbox_open() handles flags.  These four examples
are where we have a Mailbox open in 'normal' mode and try to open it
again in 'append' mode.

'Append' mode only makes sense for 'mbox' and 'compress', but the flag
affects mx_mbox_open(). It causes the function to create a duplicate
Mailbox, which is then used and discarded. The original Mailbox is now
out of sync.

The workaround, simply hides the flag for mx_mbox_open(), but
temporarily sets the internal bool append. This means that we work with
one Mailbox.

fix pop_fetch_mail()

Prevent a crash when reopening a Mailbox.

> How exactly do these changes prevent the crash from occurring?

It's all about how mx_mbox_open() handles flags.  These four examples
are where we have a Mailbox open in 'normal' mode and try to open it
again in 'append' mode.

'Append' mode only makes sense for 'mbox' and 'compress', but the flag
affects mx_mbox_open(). It causes the function to create a duplicate
Mailbox, which is then used and discarded. The original Mailbox is now
out of sync.

The workaround, simply hides the flag for mx_mbox_open(), but
temporarily sets the internal bool append. This means that we work with
one Mailbox.

fix save_message()

Prevent a crash when reopening a Mailbox.

> How exactly do these changes prevent the crash from occurring?

It's all about how mx_mbox_open() handles flags.  These four examples
are where we have a Mailbox open in 'normal' mode and try to open it
again in 'append' mode.

'Append' mode only makes sense for 'mbox' and 'compress', but the flag
affects mx_mbox_open(). It causes the function to create a duplicate
Mailbox, which is then used and discarded. The original Mailbox is now
out of sync.

The workaround, simply hides the flag for mx_mbox_open(), but
temporarily sets the internal bool append. This means that we work with
one Mailbox.

fix ev_message()

Prevent a crash when reopening a Mailbox.

> How exactly do these changes prevent the crash from occurring?

It's all about how mx_mbox_open() handles flags.  These four examples
are where we have a Mailbox open in 'normal' mode and try to open it
again in 'append' mode.

'Append' mode only makes sense for 'mbox' and 'compress', but the flag
affects mx_mbox_open(). It causes the function to create a duplicate
Mailbox, which is then used and discarded. The original Mailbox is now
out of sync.

The workaround, simply hides the flag for mx_mbox_open(), but
temporarily sets the internal bool append. This means that we work with
one Mailbox.

merge: upstream changes

 * browser.c: Convert LastDir and LastDirBackup to Buffer
 * browser.c: Convert prefix to Buffer
 * browser.c: Convert buf to Buffer
 * browser.c: Convert other browser local variables to Buffer
 * browser.c: Convert f parameter to Buffer
 * Create mutt_buffer_mailbox() buffer function
 * Change main() folder to be Buffer

Change main() folder to be Buffer

This affects the -f, -y, and -Z options directly.

Co-authored-by: Richard Russon <rich@flatcap.org>

Create mutt_buffer_mailbox() buffer function

Relocate some of the buffy function declarations to mailbox.h while
adding the new declaration.

Co-authored-by: Richard Russon <rich@flatcap.org>

browser.c: Convert f parameter to Buffer

Co-authored-by: Richard Russon <rich@flatcap.org>

browser.c: Convert other browser local variables to Buffer

Co-authored-by: Richard Russon <rich@flatcap.org>

browser.c: Convert buf to Buffer

Co-authored-by: Richard Russon <rich@flatcap.org>

browser.c: Convert prefix to Buffer

Co-authored-by: Richard Russon <rich@flatcap.org>

browser.c: Convert LastDir and LastDirBackup to Buffer

Add a cleanup method call to main to free the Buffers.

Add mutt_buffer_concat_path() buffer helper function.

Co-authored-by: Richard Russon <rich@flatcap.org>

merge: non-functional code improvements

 * test: sync mutt_extract_token()
 * boolify mutt_sig_allow_interrupt()
 * unify variable names
 * use MUTT_TOKEN_NO_FLAGS
 * reduce scope of variables
 * rename 'hdr' variables
 * Replace 0 flags with their NO_FLAGS equivalent

Replace 0 flags with their NO_FLAGS equivalent

When a function has a flags parameter, pass the matching `NO_FLAGS`
symbol rather than `0`.

rename 'hdr' variables

Rename some Email and Envelope objects to 'e' and 'env'.

reduce scope of variables

use MUTT_TOKEN_NO_FLAGS

unify variable names

All file descriptors variables now begin with `fd`.

boolify mutt_sig_allow_interrupt()

test: sync mutt_extract_token()

mutt_extract_token() was updated, but the copy in test/pattern wasn't.

curses: clear screen on exit

merge: upstream changes

 * Fix raw socket read/write to follow expected behavior
 * Fix truncation of long filenames in attachments
 * Add $include_encrypted config to prevent reply-decryption attack
 * Use gpgme recipient strings for encryption when available
 * Fix mailcap %{charset} expansion in send mode
 * Check noconv for mailcap %{charset} send mode expansion
 * Expand a couple of the comments about charset
 * Add "Message Composition Flow" section to manual
 * Minor buffer handling code cleanup
 * Improve imap uid seqset hcache buffer usage
 * Fix imap_pretty_mailbox() call to url_ciss_tostring()
 * Add mutt_buffer_expand_path()
 * Fixes to mutt_buffer_expand_path()
 * Add mutt_buffer_strcpy_n()
 * Add mutt_getcwd()
 * Add documentation on thread tree characters and config vars
 * Fail oauth quietly if it was not configured
 * Change IMAP to try oauthbearer first
 * Remove h->active hack in imap_sync_message_for_copy()
 * Restore active flag in imap_fetch_message() on error
 * Add a note about spam and the header cache in the manual

Add a note about spam and the header cache in the manual

Co-authored-by: Richard Russon <rich@flatcap.org>

Restore active flag in imap_fetch_message() on error

Co-authored-by: Richard Russon <rich@flatcap.org>

Remove h->active hack in imap_sync_message_for_copy()

Commit 285baf9a improved FLAGS parsing such that "spurious" FLAGS
updates won't cause a mailbox reopen.

Remove the h->active=0 hack because it isn't needed now and makes
reasoning about deletes, purges, and message set generation more
difficult.

Co-authored-by: Richard Russon <rich@flatcap.org>

Change IMAP to try oauthbearer first

$imap_authenticators says if it is unset, the authenticators from
most-secure to secure will be tried.  It makes sense for oauthbearer
to come first, like with POP.

To make this change backwards compatible, it depends on the previous
commit, which changed imap_auth_oauth() to return IMAP_AUTH_UNAVAIL if
oauth is not configured or explictily requested.

Co-authored-by: Richard Russon <rich@flatcap.org>

Fail oauth quietly if it was not configured

Don't report an error unless they explicitly put "oauthbearer" in the
authenticator list or configured the oauth_refresh_command.

Co-authored-by: Richard Russon <rich@flatcap.org>

Add documentation on thread tree characters and config vars

Co-authored-by: Richard Russon <rich@flatcap.org>

Add mutt_getcwd()

Co-authored-by: Richard Russon <rich@flatcap.org>