Replace error message 'Not enough memory for tile data' by 'Size of tile data exceeds system limits' (refs https://github.com/uclouvain/openjpeg/pull/730#issuecomment-326654188)

opj_t1_decode_cblk(): move some code to codeblock processor for (theoretical) better multi-threading in subtile decoding

sparse_array: optimizations for lossy case

opj_v4dwt_decode_step2_sse(): loop unroll

opj_dwt_decode_partial_97(): simplify/more efficient use of sparse arrays in vertical pass

opj_tcd_dc_level_shift_decode(): optimize lossy case

opj_dwt_decode_partial_1_parallel(): add SSE2 optimization

Sub-tile decoding: speed up vertical pass in IDWT5x3 by processing 4 cols at a time

Tiny perf improvement in T1 stage for subtile decoding

test_decode_area: accept user bounds in -strip_height mode

Optimize opj_dwt_decode_partial_1() when cas == 0

opj_j2k_update_image_data(): avoid zero-ing the buffer if not needed

Optimize reading/write into sparse array

Allow several repeated calls to opj_set_decode_area() and opj_decode() for single-tiled images

* Only works for single-tiled images --> will error out cleanly, as currently
  in other cases
* Save re-reading the codestream for the tile, and re-use code-blocks of the
  previous decoding pass.
* Future improvements might involve improving opj_decompress, and the image writing logic,
  to use this strategy.

opj_j2k_decode_tiles(): apply whole single tile image decoding optimization to reading at reduced resolution as well

Various changes to allow tile buffers of more than 4giga pixels

Untested though, since that means a tile buffer of at least 16 GB. So
there might be places where uint32 overflow on multiplication still occur...

TCD: allow tile buffer to be greater than 4GB on 64 bit hosts (but number of pixels must remain under 4 billion)

Fix compiler warning in release mode

Remove limitation that prevents from opening images bigger than 4 billion pixels

However the intermediate buffer for decoding must still be smaller than 4
billion pixels, so this is useful for decoding at a lower resolution level,
or subtile decoding.

opj_tcd_init_tile(): fix typo on overflow detection condition (introduced in previous commit)

opj_dwt_decode_partial_tile(): avoid undefined behaviour in lifting operation by properly initializing working buffer

Sub-tile decoding: only allocate tile component buffer of the needed dimension

Instead of being the full tile size.

* Use a sparse array mechanism to store code-blocks and intermediate stages of
  IDWT.
* IDWT, DC level shift and MCT stages are done just on that smaller array.
* Improve copy of tile component array to final image, by saving an intermediate
  buffer.
* For full-tile decoding at reduced resolution, only allocate the tile buffer to
  the reduced size, instead of the full-resolution size.

opj_compress: reorder checks related to code block dimensions, to avoid potential int overflow

opj_j2k_setup_encoder(): validate code block width/height

opj_t1_allocate_buffers(): remove useless overflow checks

Fix undefined shift behaviour in opj_dwt_is_whole_tile_decoding(). Fixes https://bugs.chromium.org/p/oss-fuzz/issues/detail?id=3255. Credit to OSS Fuzz

Use IDWT whole tile decoding if the area of interest equals to the image bounds, taking into account the reduced resolution factor

Add test for fix of a55c024fc6b917a409b85aeafd7326421c4aea34

Subtile decoding: fix overflows in subband coordinate computation that cause later buffer overflow. Fixes https://bugs.chromium.org/p/oss-fuzz/issues/detail?id=3115. Credit to OSS Fuzz. master only

Make opj_set_decode_area() and opj_decode() take into account opj_set_decoded_resolution_factor() (#1006, affect API use)

* Better document usage of opj_set_decode_area(), ie expecting coordinates
  in full resolution/reference grid even if requesting at a lower resolution
  factor
* Make sure that image->comps[].factor is set by opj_set_decode_area() and
  opj_decode() from the value specified in opj_set_decoded_resolution_factor()
* opj_decompress: add 2 environmenet variables to test alternate ways of
  using the API, namely USE_OPJ_SET_DECODED_RESOLUTION_FACTOR=YES to use
  opj_set_decoded_resolution_factor() instead of parameters.cp_reduce, and
  SKIP_OPJ_SET_DECODE_AREA=YES to not call opj_set_decode_area() if -d is
  not specified.

Another cleanup in knownfailures-* files

Remove test steps from specialized knownfailures- that are already in knownfailures-all.txt

issue104_jpxstream.jp2 decompresses just fine (and like Kakadu). Update md5refs.txt and remove from knownfailures

Remove broken.jpc test from known failures, by avoiding too long processing time

imagetopgx(): improve performance in 8 bit case (relates to broken.jpc test case)

Remove -NR-DEC-p1_06.j2k-156-decode and NR-DEC-p1_06.j2k-164-decode from knownfailures

and make them explicit failures. The result images are empty at the requested resolution

opj_dwt_decode_partial_97(): perf improvement: limit copy of coefficients at end of horizontal pass to actual range of interest

test_tile_encoder: fix checks on argc

j2k.c: fix comment, and remove FIXME

Add comment

Merge pull request #1001 from rouault/subtile_decoding_stage2

Subtile decoding: only apply IDWT on areas that participate to the window of interest

Add comments for filter_width values

Subtile decoding: only do 9x7 IDWT computations on relevant areas of tile-component buffer.

pgxtoimage(): avoid excessive memory allocation attempt (#999)

Subtile decoding: only do 5x3 IDWT computations on relevant areas of tile-component buffer.

This lowers 'bin/opj_decompress -i ../MAPA.jp2 -o out.tif -d 0,0,256,256'
down to 0.860s

pgxtoimage(): fix write stack buffer overflow (#997)

test_decode_area: fix to make it work with odd image dimensions

bmp_read_rle8_data(): avoid potential infinite loop (#996)

opj_j2k_update_rates(): grow tile size buffer for some situations

Zero-initialize tile buffer regions of skipped code-blocks, so as to make Valgrind happy

Sub-tile decoding: only decode precincts and codeblocks that intersect the window specified in opj_set_decode_area()

Fix -Wconversion warning

bench_dwt.c: fix signedness related warnings

convert.c: fix recently introduced -Wsign-conversion warnings

opj_getopt_long(): avoid infinite loop on invalid or missing value for an option (#736)

opj_decompress_fuzzer.cpp: reject images with too big tiles. Fixes https://bugs.chromium.org/p/oss-fuzz/issues/detail?id=2918. Credit to OSS Fuzz

tgatoimage(): avoid excessive memory allocation attempt, and fixes unaligned load (#995)

Avoid asserting on assert(i == pcol) in opj_jp2_apply_pclr() by adding new check in opj_jp2_check_color(). Fixes https://bugs.chromium.org/p/oss-fuzz/issues/detail?id=3068. Credit to OSS Fuzz

opj_t1_encode_cblk(): avoid uint32 overflow when numbps = 0 (which is well defined behaviour, and is properly handled here, but better avoid it to detect real issues)

Fix build issue of JPWL by adding opj_image_data_alloc() and opj_image_data_free() to src/lib/openmj2 (#994)

opj_t2_encode_packet(): fix potential write heap buffer overflow (#992)

opj_j2k_write_sot(): fix potential write heap buffer overflow (#991)

tiftoimage(): fix read heap buffer overflow (#988)

The number of components is given only by TIFFTAG_SAMPLESPERPIXEL / tiSpp.
Querying TIFFTAG_EXTRASAMPLES only give information about which channel is
the alpha channel, but we mostly ignore it for now, so remove that part of the
code.

imagetotga(): fix read heap buffer overflow if numcomps < 3 (#987)

opj_t2_encode_packet(): only emit an error about insufficiently large output buffer in FINAL_PASS mode. Fixes (master-only) regression added in 0b4fef6d1901254e41ab74ed681daba477d724c3

Fix assertion in debug mode / heap-based buffer overflow in opj_write_bytes_LE for Cinema profiles with numresolutions = 1 (#985)

Merge pull request #984 from stweil/const

Use more const qualifiers

bmp_read_info_header(): reject bmp files with biBitCount == 0 (#983)

Encoder: grow buffer size in opj_tcd_code_block_enc_allocate_data() to avoid write heap buffer overflow in opj_mqc_flush (#982)

Use const qualifier for mqc_states

This allows more compiler optimizations.

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Use const qualifier for j2k_prog_order_list

This allows more compiler optimizations.

Signed-off-by: Stefan Weil <sw@weilnetz.de>

Merge pull request #980 from szukw000/changes-for-ppc64-converttif

Changes in converttif.c for PPC64

Changes in converttif.c for PPC64

Fix argument order in error message of previous commit

Propagate event manager down to opj_t2_encode_packet() and use it to emit an error message when the output buffer is too small

Fix crash on encoding if using opj_set_default_encoder_parameters() without defining tcp_numlayers

Reformat tests/test_tile_encoder.c

Improve doc of opj_tccp_info_t::cblkw and cblkh

Comment back previous version in abi-check.sh

update abi-check for latest release

Preparing Release v2.2.0

Preparing Release v2.2.0

.travis.yml: add 'dist: precise' for config that requires it

Remove useless opj_tcd_t::enumcs field added per #975

Doc: fix error in previous commit

tcd.h: doc fixes and improvements

Document qmfbid values

Partial revert BPC related check of #975 (#979)

PR #975 introduced a check that rejects images that have different bit depth/sign
per compoment in SIZ marker if the JP2 IHDR box has BPC != 255
This didn't work properly if decoding a .j2k file since the new bit added in
opj_cp_t wasn't initialized to the right value.
For clarity, tThis new bit has also been renamed to allow_different_bit_depth_sign

But looking closer at the code, it seems we were already tolerant to inconsistencies.
For example we parsed a JP2 BPCC box even if BPC != 255 (just a warning is emitted)
So failing hard in opj_j2k_read_siz() wouldn't be very inconsistent, and that
alone cannot protect against other issues, so just emit a warning if BPC != 255
and the SIZ marker contains different bit depth/sign per component.

Note: we could also check that the content of JP2 BPCC box is consistant with the one
of the SIZ marker.

opj_decompress: document -quiet option, and remove spurious newline output

src/bin/jpwl/convert.c pgxtoimage(): add missing fclose() (#977)

imagetobmp: avoid shift by -1 (relates to #811)

Fix remaining warning

format specifier mismatch in #975

Merge pull request #975 from szukw000/changes-for-afl-tests

Catch images broken by AFL

Merge pull request #968 from rouault/reduce_memory_decoding

Reduce memory decoding

Slight improvement in management of code block chunks

Instead of having the chunk array at the segment level, we can move it down to
the codeblock itself since segments are filled in sequential order.
Limit the number of memory allocation, and decrease slightly the memory usage.

On MAPA_005.jp2

n4: 1871312549 (heap allocation functions) malloc/new/new[], --alloc-fns, etc.
 n1: 1610689344 0x4E781E7: opj_aligned_malloc (opj_malloc.c:61)
  n1: 1610689344 0x4E71D1B: opj_alloc_tile_component_data (tcd.c:676)
   n1: 1610689344 0x4E726CF: opj_tcd_init_decode_tile (tcd.c:816)
    n1: 1610689344 0x4E4BE39: opj_j2k_read_tile_header (j2k.c:8617)
     n1: 1610689344 0x4E4C902: opj_j2k_decode_tiles (j2k.c:10348)
      n1: 1610689344 0x4E4E3CE: opj_j2k_decode (j2k.c:7846)
       n1: 1610689344 0x4E53002: opj_jp2_decode (jp2.c:1564)
        n0: 1610689344 0x40374E: main (opj_decompress.c:1459)
 n1: 219232541 0x4E4BC50: opj_j2k_read_tile_header (j2k.c:4683)
  n1: 219232541 0x4E4C902: opj_j2k_decode_tiles (j2k.c:10348)
   n1: 219232541 0x4E4E3CE: opj_j2k_decode (j2k.c:7846)
    n1: 219232541 0x4E53002: opj_jp2_decode (jp2.c:1564)
     n0: 219232541 0x40374E: main (opj_decompress.c:1459)
 n1: 23893200 0x4E72735: opj_tcd_init_decode_tile (tcd.c:1225)
  n1: 23893200 0x4E4BE39: opj_j2k_read_tile_header (j2k.c:8617)
   n1: 23893200 0x4E4C902: opj_j2k_decode_tiles (j2k.c:10348)
    n1: 23893200 0x4E4E3CE: opj_j2k_decode (j2k.c:7846)
     n1: 23893200 0x4E53002: opj_jp2_decode (jp2.c:1564)
      n0: 23893200 0x40374E: main (opj_decompress.c:1459)
 n0: 17497464 in 52 places, all below massif's threshold (1.00%)

Decoding: do not allocate memory for the codestream of each codeblock

Currently we allocate at least 8192 bytes for each codeblock, and copy
the relevant parts of the codestream in that per-codeblock buffer as we
decode packets.
As the whole codestream for the tile is ingested in memory and alive
during the decoding, we can directly point to it instead of copying. But
to do that, we need an intermediate concept, a 'chunk' of code-stream segment,
given that segments may be made of data at different places in the code-stream
when quality layers are used.

With that change, the decoding of MAPA_005.jp2 goes down from the previous
improvement of 2.7 GB down to 1.9 GB.

New profile:

n4: 1885648469 (heap allocation functions) malloc/new/new[], --alloc-fns, etc.
 n1: 1610689344 0x4E78287: opj_aligned_malloc (opj_malloc.c:61)
  n1: 1610689344 0x4E71D7B: opj_alloc_tile_component_data (tcd.c:676)
   n1: 1610689344 0x4E7272C: opj_tcd_init_decode_tile (tcd.c:816)
    n1: 1610689344 0x4E4BDD9: opj_j2k_read_tile_header (j2k.c:8618)
     n1: 1610689344 0x4E4C8A2: opj_j2k_decode_tiles (j2k.c:10349)
      n1: 1610689344 0x4E4E36E: opj_j2k_decode (j2k.c:7847)
       n1: 1610689344 0x4E52FA2: opj_jp2_decode (jp2.c:1564)
        n0: 1610689344 0x40374E: main (opj_decompress.c:1459)
 n1: 219232541 0x4E4BBF0: opj_j2k_read_tile_header (j2k.c:4685)
  n1: 219232541 0x4E4C8A2: opj_j2k_decode_tiles (j2k.c:10349)
   n1: 219232541 0x4E4E36E: opj_j2k_decode (j2k.c:7847)
    n1: 219232541 0x4E52FA2: opj_jp2_decode (jp2.c:1564)
     n0: 219232541 0x40374E: main (opj_decompress.c:1459)
 n1: 39822000 0x4E727A9: opj_tcd_init_decode_tile (tcd.c:1219)
  n1: 39822000 0x4E4BDD9: opj_j2k_read_tile_header (j2k.c:8618)
   n1: 39822000 0x4E4C8A2: opj_j2k_decode_tiles (j2k.c:10349)
    n1: 39822000 0x4E4E36E: opj_j2k_decode (j2k.c:7847)
     n1: 39822000 0x4E52FA2: opj_jp2_decode (jp2.c:1564)
      n0: 39822000 0x40374E: main (opj_decompress.c:1459)
 n0: 15904584 in 52 places, all below massif's threshold (1.00%)

Add documentation for magic values in the code

opj_jp2_apply_pclr() also needs to use opj_image_data_alloc/opj_image_data_free

Complementary fix to previous commit

Add opj_image_data_alloc() / opj_image_data_free()

As bin/common/color.c used to directly call malloc()/free(), we need
to export functions dedicated to allocating/freeing image component data.