libre2c: added (stub for) constant-memory (non trie-based) TNFA POSIX matching algorithm.

libre2c: use preallocated buffer.

libre2c: added constant-memory (non trie-based) TNFA matching algorithm for leftmost greedy.

Assign indices to core TNFA states (those that are final or have transitions on symbols).

During epsilon closure constructions, many operations only need to be
performed for core states. This allows to save some memory, e.g.
precedence matrix can be indexed by core states.

Structural tags are only needed for POSIX disambiguation, not for POSIX syntax.

Added option --verbose that prints a message to stderr in case of success.

Removed useless code in tests for misused option arguments.

Tweaked error messages for misused option arguments, added some tests for them.

Added option --location-format <gnu | msvc> (default is gnu).

This option controls the formatting of locations in error messages
and warnings.

With --location-format gnu:

    filename:line:column: ...

With --location-format msvc:

    filename(line,column): ...

Moved files.

Deduplicated filename strings in locations by interning them in a table and using indices.

Unified location handling by grouping relevant information in a struct.

Massive test updates are caused by refined locations for various error
messages and warnings (re2c now reports not only line, but also column).

Added test for EOF rule.

Use GNU-style location format 'file:line:column: ...' in warnings and error messages.

Added build script that uses '-D_GLIBCXX_DEBUG -D_GLIBCXX_DEBUG_PEDANTIC'.

Fixed out of bounds read when sorting one-element initial closure.

The error only occurred on some libc implementations, e.g. on debug
glibc (options -D_GLIBCXX_DEBUG -D_GLIBCXX_DEBUG_PEDANTIC).

Fixed use of invalidated iterator after erase on std::map.

Problem reported by Denis Naumov.

Use per-tag cache of history comparisons to avoid repeated computation.

Use counting sort for tag histories (the number tags is limited, so it is faster).

Use insertion sort instead of bubble sort (it is slightly faster).

Fixed typo.

Speedup in determinization (using a more efficient way to compare lookahead tags).

Yet another speedup in determinization (early exit when comparing history with itself).

Small speedup in determinization (by inlining small hot functions).

Small speedup in determinization by delaying computation of costly conditions.

libre2c: added comment.

libre2c: speedup of POSIX NFA matcher by lazy computation and caching of precedence.

A lot of the match time was taken by eagerly computing precedence values
on each step for each pair of closure states. Most of these values are not
needed: RE may be unambigous; or the given input string may be unambigous,
even if there is ambiguity, it may take only a few comparisons to resolve.
All the rest is wasted effort.

We can avoid it by delaying precedence computation until necessary, and
then unwinding all the steps backwards, computing precedence for each step
and caching the computed values (so that the same pair of histories is not
compared twice). It is still the same incremental comparison as with
precedence matrices: we compare step by step, going from the fork frame to
the join frame. The result of comparison on each step is folded to a triple
of numbers and recorded in cache. It is important that we do record each
step, not just the first step, because the next pair of ambiguous histories
may unwind to the same pair of prefixes that was compared before.

For all this to work, it is necessary that we can store all history until
the very end, because at any step we might need to unwind an arbitrary
number of steps back. We also need to address individual subhistories
efficiently in order to use them as keys in the cache. All this is achieved
by storing history in the form of a trie and addressing individual
histories by indices in the trie. We also use trie to compute the resulting
tag values (instead of storing tags in registers at each step).

libre2c: small performance improvement in POSIX TNFA matcher.

libre2c: extracted common parts of TNFA matchers (leftmost and POSIX).

libre2c: performance optimization: get all tag values in one scan of history.

Renamed libre2c_posix -> libre2c (as it now also supports leftmost greedy semantics).

Differentiate between "POSIX syntax" and "POSIX semantics" options.

This is needed because we may want to use POSIX syntax with leftmost
greedy disambiguation. In that case, we still need parentheses-as-tags
attitude, but we don't want all the overhead and heuristics to spped
up POSIX closure.

libre2c_posix: added test for leftmost TNFA matcher.

libre2c_posix: added TNFA matcher with leftmost greedy disambiguation semantics.

libre2c_posix: small performance improvement in NFA-based matcher.

libre2c_posix: added NFA-based matcher.

Constified function parameter.

libre2c_posix: another small improvement in regexec() implementation.

libre2c_posix: a small performance improvement in regexec() implementation.

libre2c_posix: regex_t definition must be exposed to users.

POSIX standard says that:

    The regex_t structure is defined in <regex.h> and contains at
    least the following member: re_nsub (number of parenthesized
    subexpressions).

libre2c_posix: enable tag optimizations.

libre2c_posix: extended regex_t structure to hold more submatch data.

Added fields:
    - re_nsub: total number of submatch groups, required by POSIX standard

    - pmatch: buffer for submatch results, usually supplied by the user to
      regexec(), but we allow to do the allocation and storage in regex_t.
      This is convenient for users that have hard time managing memory, e.g.
      java bindings to libre2c_posix.

    - regs: buffer for internal use by regexec(), strored in regex_t to
      avoid repeated memory allocation on each call to regexec() with the
      same regex.

Adjusted build system to correctly build DLLs for windows.

Adjustments:
    - configure.ac:  pass win32-dll option to LT_INIT

    - Makefile_libre2c_posix.am: use -no-undefined in LDFLAGS

    - use slibtool: https://github.com/midipix-project/slibtool for windows
      builds The problem with libtool is that it doesn't allow to link libstdc++
      and libgcc statically, which is necessary to build portable DLLs with
      Mingw. Libtool adds -nostdlib option to LDFLAGS and links some predefined
      objects that pull in dependency on dynamic libstdc++ and libgcc, even in
      the presence of -static-libstdc++ -static-libgcc.

Use libtool to build libraries.

Fixed operator precedence with --flex-syntax option.

Operator precedence was broken because re2c tried to parse whole strings
of characters at once instead of parsing one character at a time (in
much the same way as it would parse properly quotes string literals in
the original re2c format). This caused ab* being parsed as (ab)*, which
is clearly wrong (should be a(b)*).

This fixes bug #242:
    "Operator precedence with --flex-syntax is broken."

libre2c_posix: handle empty group () in parser; added more tests.

Make re2c:eof usable with push-model lexers (-f, --storable-state option).

libre2c_posix: parse repetition counters in the lexer.

libre2c_posix: initial support for character classes in parser.

libre2c_posix (test): clear error status on expected failures.

libre2c_posix: skip fictive tags in regexec(); handle dot in parser; added more tests.

libre2c_posix: use C-array initializers instead of variadic functions for offset lists.

Variadic functions cause subtle toolchain-specific errors because integer
literals used to initialize offsets may have different type than the type
expected by variadic function (e.g. int vs long).

libre2c_posix (test): a more concise error message.

libre2c_posix: fixed -Wmaybe-uninitialized GCC warning.

libre2c_posix: fixed memleaks.

Experimental: initial implementation of libre2c_posix, POSIX regexp library based on re2c.

Paper: don't forget to pass precedence matrices to initial closure.

Makefile.am: further simplify parser generation rules and avoid copying file to itself.

Makefile.am: don't forget to run main test suite on `make check`.

Makefile.am: use more universal rules for autogenerated lexers and parsers.

Avoid unexpected removal of untracked files and directories.

Moved function declarations to the header they belong in.

Updated range test.

Use a simple fixed-size slab allocator for ranges.

Handle single chars and 1-char ranges in the same way.

Updated autogenerated files after change of directory layout.

Moved duplicated code into a separate function.

Changed directory layout (cosmetic).

Handle EBCDIC like other encodings instead of coupling it with character validation.

Moved repeated code into a separate function.

Fixed error in range difference with EBCDIC, added tests for various encodings.

Compute range difference before applying encoding expansion to operands.

Added test for bug #238.

Fixed out-of-bounds write caused by misuse of slab allocator in case of large allocation size.

This fixes bug #238.
Found by american fuzzy lop (thanks to Henri Salo).

Adjusting formatting, dropping old macros (cosmetic).

Added tests for debug options.

Added debug options --dump-cfg and --dump-interf.

Moved debug stuff to a separate subdirectory.

Disable --dump-* options in non-debug mode.

Adding --enable-debug to Travis CI configuration.

Added some tests for GTOP closure algorithm.

Added test comparing POSIX closure statistics with GOR1 and GTOP.

In debug build, add " (debug)" to version string.

Small simplifications in GOR1 initialization phase.

Instead of using two stacks to weed out low-precedence initial
configurations with duplicate target state, let them remain on the
bottom of topsort stack, which effectively makes them ignored.

Paper: simplifying GOR1 initialization pseudocode.

Small cosmetic simplifications in POSIX precedence.

Use a specialized simplified version of POSIX comparison for initial configurations.

Intrinsic options that do not have configurations should be immutable.

Added debug option --dump-closure-stats.

Adjust TNFA construction for bounded repetition to the needs of GOR1.

Order initial configurations by POSIX precedence in GOR1.

Added option --posix-closure <gor1|gtop>. Removed configurations for internal options.

Added GTOP SSSP algorithm for computing epsilon-closure with POSIX disambiguation.

GTOP SSSP meand "Global Topsort Single Source Shortes Path".

It is well known that SSSP can be solved in linear time on DAGs (directed
acyclic graphs) by exploring graph nodes in topological order. In our case
TNFA is not a DAG (it may have cycles), but it is possible to compute fake
topologcal order by ignoring back edges.

The algorithm works by having a priority queue of nodes, where priorities
are indices of nodes in fake topological ordering. At each step, the node
with the minimal priority is popped from queue and explored. All nodes
reachable from it on admissible arcs are enqueued, unless they are already
on queue.

The resulting algorithm is of course not optimal: it can get stuck on
graphs with loops, because it will give priority to some of the loop nodes
compared to others for no good reason.

However the algorithm is simple and optimal for DAGs, therefore we keep it.

run_tests.sh: cleanup .inc files.

Converting tabs to spaces (cosmetic).

Eh, some of the asserts were doing useful work and affecting control flow.

Added assert wrapper that is turned on/off with --enable-debug configure option.

Fixed errors in packing of signed integers.

Reduce boilerplate in option parser with a few macros.

Use a couple of helper functions to make string construction easier.

Correctly parse -I option with or without space before the argument.