Merge "Upsample reference frames after size dependent speed features are calculated." into nextgenv2

Merge "Let is_interp_needed always return 1" into nextgenv2

Merge "Centralize EC_MULTISYMBOL error checking." into nextgenv2

Merge "EC_ADAPT: disable tests requiring tiles." into nextgenv2

Merge "EC_ADAPT: refactor and fix MinArfFreq unit tests." into nextgenv2

Merge "Only build aom_read/write_symbol if CONFIG_EC_MULTISYMBOL" into nextgenv2

Merge "EC_ADAPT: improved symbol adaptation." into nextgenv2

Merge "EC_ADAPT: send updates for the correct nodes." into nextgenv2

Merge "Add ec_multisymbol for common daala_ec and rans code" into nextgenv2

Merge "Handle entropy coder experiment dependencies" into nextgenv2

Merge "Disable the SuperframeTest with --enable-daala_ec." into nextgenv2

Merge "Fix ec_adapt+daala_ec test failure" into nextgenv2

Merge "Add EC_ADAPT experiment for symbol-adaptive entropy coding." into nextgenv2

Upsample reference frames after size dependent speed features are calculated.

This prevents a crash if the upsample_refs speed feature is
changed as part of set_size_dependent_vars, when the recode
loop is enabled.

Change-Id: I645e389bfe961879dd2001439a34fde2993868d9

Let is_interp_needed always return 1

This CL will cause
0.122% PSNR drop on lowres dataset
0.059% PSNR drop on midres dataset

However, it will facilitate hardware implementation.

Change-Id: I0a0713acacbfd571509a721337711c021915dd3c

Centralize EC_MULTISYMBOL error checking.

The EC_ADAPT experiment cannot work unless EC_MULTISYMBOL is also
 enabled.
This patch replaces all individual checks with a centralized check in
 both the bitreader.h and bitwriter.h.

Change-Id: I418852d95c5012cc074ed65cd24997e08bc2aadd

EC_ADAPT: disable tests requiring tiles.

EC_ADAPT is currently not compatible with tiles.

Change-Id: Idd000f0ff23c28e7e4952024eadb55ba0a1da13d

EC_ADAPT: refactor and fix MinArfFreq unit tests.

Ensure that cdfs are synced with pdfs after every
forward update.

Change-Id: I5677f78300156c8622f1728d7a343ff6c3a4ea64

Only build aom_read/write_symbol if CONFIG_EC_MULTISYMBOL

Change-Id: If86c7220ac9199a59e605dc43d42cc3db26cf8bd

EC_ADAPT: improved symbol adaptation.

Place a floor under symbol probabilities and
modify adaptation rate.

Change-Id: Ic9cf6d9fadfc3bf1f3027bc3d2bb198526441591

EC_ADAPT: send updates for the correct nodes.

EOB and ZERO token are not currently adapted.

Change-Id: Ie7d657b71fcb157b09e40874fb06a8b7cd95cc70

Add ec_multisymbol for common daala_ec and rans code

The new ec_multisymbol experiment supersedes the rans experiment and is
used for multisymbol features that can be backed by either daala_ec or
rans.

This experiment is automatically enabled by ec_adapt and will try to
enable daala_ec or ans (in that order).

Change-Id: Ie75b4002b7a9d7f5f7b4d130c1aacb3dbe97e54f

Handle entropy coder experiment dependencies

Change-Id: I854c53d9379f820b5a78fcb53f9ef09bc6f9d9e7

Disable the SuperframeTest with --enable-daala_ec.

Due to the way the daala entropy coder handles raw bits, the current
test is broken because the buffer length is not known when calling
aom_reader_init() is called.

Change-Id: I76e93ec0e160e31f286c23f7c9c0094390c6c2d4

Fix ec_adapt+daala_ec test failure

AV1/AqSegmentTest.TestNoMisMatchAQ1/6 was failing with this experiment
pair.

BUG=aomedia:70

Change-Id: I8c53a043471a87a98a06687afce2e28891592362

Add EC_ADAPT experiment for symbol-adaptive entropy coding.

This experiment performs symbol-by-symbol statistics
adaptation for non-binary symbols. It requires DAALA_EC or
RANS and ANS to be enabled. The adaptation is currently
based on a simple recursive filter and is taken from
Daala. It has an adaptation rate dependent on alphabet size,
taken from Daala. It applies wherever non-binary symbols
are encoded using Cumulative Probability Functions rather
than trees.

Where symbols are adapted, forward updates in the compressed
header are removed.

In the case of RANS coefficient token values are adapted,
with the exception of the zero token which remains a
binary symbol. In the case of DAALA_EC other values
such as inter and intra modes are adapted as CDFs are
provided in those cases.

The experiment is configured with:

./configure --enable-experimental --enable-daala-ec --enable-ec-adapt

or

./configure --enable-experimental --enable-ans --enable-rans \
    --enable-ec-adapt

EC_ADAPT is not currently compatible with tiles.

BDR results on Objective-1-fast give a small loss:

PSNR YCbCr:      0.51%      0.49%      0.48%
PSNRHVS:      0.50%
SSIM:      0.50%
MSSSIM:      0.51%
CIEDE2000:      0.50%

Change-Id: I3888718e42616f3fd87144de7f125228446ac984

Merge "Replace num_4x4_blocks_txsize_loopup table" into nextgenv2

Merge "Refactor rate-distortion optimization of recursive transform partition" into nextgenv2

Merge "RANGE_CHECK: "==" || ">" is simply ">="." into nextgenv2

Merge "Clean the code in ref frame context decision for ext-refs" into nextgenv2

Replace num_4x4_blocks_txsize_loopup table

Unify the transform block size access table in preparation for
2x2 transform integration.

Change-Id: I308def6729e138ae2b2542175206e3225c0cb392

Refactor rate-distortion optimization of recursive transform partition

Support rectangular transform block in the rate-distortion cost
estimator.

Change-Id: I99201fcae797c1ed2f2184021a215867eac0288f

Merge "Bitwise to logical & in rdopt ext tx prune function" into nextgenv2

RANGE_CHECK: "==" || ">" is simply ">=".

Also:
- For unsigned ints, don't check value >= 0 as that is always true.
- Add "-Wlogical-op" warning flag which would have warned that "logical
  'or' of collectively exhaustive tests is always true" before this
  patch.

Change-Id: Idf3bd312464397f2df19256fc69b22f345dc7753

Merge "Tile groups: ensure each tile in a TG has a length." into nextgenv2

Merge "Fix update_delta_q_probs compile warning" into nextgenv2

Merge "Encode and decode multiple tile groups" into nextgenv2

Bitwise to logical & in rdopt ext tx prune function

Making this change in case the future implementation changes and the
compairson is no longer between single bits.

Change-Id: I94f474ce7d82febfa23cec65cbe1b9d240b42e02

Tile groups: ensure each tile in a TG has a length.

This ensures TGs can be decoded even if the whole
frame has not been received and the frame length
is not known.

Change-Id: If24837fcc3b5c46554751be792e91100de73e8d6

Fix update_delta_q_probs compile warning

Change-Id: Ifb93970ed876ed61259b2f8da739171857c97fda

Merge "Fix aom_fdct8x8_ssse3 in high bit depth mode" into nextgenv2

Clean the code in ref frame context decision for ext-refs

For compound mode, it is a sure thing that one of the 2 reference frames
would be either a forward predictive reference, or a backward predictive
reference, and the other would provide a different prediction.

Change-Id: I8d7b40525bec4db0f26ba255c8eefa9f20bd52a3

Merge "get_palette_color_context: Make code more readable." into nextgenv2

Encode and decode multiple tile groups

This is a manual adaptation of the following commit from aom/master:
ce12003d60a1c8d6c65ed07ba165c34062fcbcbd

The original commit message:

A tile group is a set of tiles in scan order.

Each tile group has a version of uncompressed and compressed headers,
identical apart from tile group parameters.
Encoding probability updates takes account of the number of
headers to control overheads.

The decoder supports arbitrary numbers of tile groups with
arbitrary number of tiles. The number of tiles in a TG is
signalled in the uncompressed header for that TG.

The encoder currently only supports a fixed number
of TGs (3, when error resilient mode is on) of equal size
(except possibly for the last one).

The average BDR performnce with 3 tile groups versus
anchor with error resilient mode and up to 16 tiles is:

NR YCbCr:      3.02%      3.04%      3.05%
PSNRHVS:      3.09%
SSIM:      3.06%
MSSSIM:      3.05%
CIEDE2000:      3.04%

Change-Id: I9b97c5ed733103b9160a3a5d4370de5322c00c0b

get_palette_color_context: Make code more readable.

For clarity, use separate variables for 'color_ctx_hash' and
'color_ctx' instead of reusing same variables for both.

BUG=webm:1324

Change-Id: I3a516ea54353e1f0737822c613a68da252e30c6e

Fix tmp_rd type error in handle_inter_mode()

Change-Id: I9398c77c12e9c4caa19a76b92e3035a3135cfd7a

Merge "Add unit test for adapt_scan experiment" into nextgenv2

Merge "Pass block pixel width/height into av1_predict_intra_block" into nextgenv2

Merge "Refactor recursive transform block partition search" into nextgenv2

Merge "Simplify logics in encode_inter_mb_segment" into nextgenv2

Merge "Refactor recursive transform block decoding" into nextgenv2

Merge "Refactor recursive transform block size decoding" into nextgenv2

Merge "Remove unused get_tx1d_width/height wrapper" into nextgenv2

Merge "Use transform block partition depth count for frame header reset" into nextgenv2

Merge "Remove av1_use_hp_mv()" into nextgenv2

Merge "rans: Use symbol coding for motion vectors" into nextgenv2

Fix aom_fdct8x8_ssse3 in high bit depth mode

Change-Id: I63e492163ef10e12a842837368c209b8ffc4eee0

Refactor recursive transform block partition search

Use unified transform block size and coding block size map. This
prepares for the integration of 2x2 transform block size and the
rectangular transform block size.

Change-Id: I99f51017d19aef337639b708ee9c7faedcc20935

Simplify logics in encode_inter_mb_segment

Unify coefficient context used by different experiments. Make
block size and transform block size consistent with rest codebase.

Change-Id: I237336f161d6c473b88c59c48ee68d24b75ce738

Refactor recursive transform block decoding

Unify the transform block and coding block mapping.

Change-Id: Ifb394809a4aafee6adf2b49a2607036cf13c878e

Refactor recursive transform block size decoding

Unify the transform block size to block size mapping.

Change-Id: Ic7359d016cd5965983c4a5476624c09f3123f91c

Merge "Deringing support for 4:2:2 by not deringing chroma" into nextgenv2

Merge "Namespace the idct/iad symbols" into nextgenv2

Pass block pixel width/height into av1_predict_intra_block

Change-Id: Ia69bceef24b61b0a222783eba79e7a70bb60edd8

Merge "Cosmetic fixes in global motion experiment" into nextgenv2

Merge "A small bug fix in ext-refs on the RD mode selection" into nextgenv2

Remove av1_use_hp_mv()

It always returns true since the related misc_fix[1] was merged.

[1] 23e83574b6a5105bdc686c49f2d5909f33ea721f

Change-Id: Ie3af685572a2f0a42d2b9fb9903c1abeea225dfd

Merge "Fix clpf and dering signalling when used with ext-partition-types" into nextgenv2

rans: Use symbol coding for motion vectors

Change-Id: If497b53c3b36e32fb98c99dba2d4a490e226572a

Deringing support for 4:2:2 by not deringing chroma

No change in output for 4:2:0 and 4:4:4

Change-Id: Ic46753d23a5b5f90b611a3da1a4574870519957c

Namespace the idct/iad symbols

Make linking to libvpx and libaom at the same time possible.

Change-Id: I7bab8527a32e446e3d564e6fa5d94ccd056bc63f

Merge "Fix compile error with --enable-ans + --enable-accounting" into nextgenv2

Merge "Fix dering filter when using 4:2:2 or 4:4:0 subsampling" into nextgenv2

Remove unused get_tx1d_width/height wrapper

Change-Id: Ie8bc40579720b8c402bbc8b23b6fd3a7a50834bb

Use transform block partition depth count for frame header reset

Use the transform block partition depth counts to decide if to
reset the tx_mode at frame header level. Add a comment to make this
explicit.

Change-Id: I417920b4b61eeb91cde9536336a12deea2d42f79

Add unit test for adapt_scan experiment

Change-Id: I90518b7b5c8bb930f5eeef4ce4cbb536139722ca

Merge "Refactor: Localize tmp_rd in handle_inter_mode()" into nextgenv2

Merge "Sync definition of av1_get_switchable_rate in rd.c/h" into nextgenv2

Merge "Fix two bugs in parallel_deblocking experiment" into nextgenv2

Merge "fix filtering of uv int4x4 for odd rows" into nextgenv2

Merge "Add parallel-deblocking experiment" into nextgenv2

Fix clpf and dering signalling when used with ext-partition-types

Previously, when ext-partition-types and either clpf or dering were
enabled, the signalling for clpf/dering would not be encoded or decoded,
as the code to do so was inside a #if !CONFIG_EXT_PARTITION_TYPES block.
This caused many tests (eg, AV1/EndToEndTestLarge.EndToEndPSNRTest/0)
to fail with encode/decode mismatches.

Change-Id: If1742deb1812877813b2c3e93a048430f9a504ba

Merge "Support potential 2x2 transform block unit" into nextgenv2

Merge "av1/common/filter.h: apply clang-format" into nextgenv2

Merge "Fix aom_fdct32x32_avx2 output as CONFIG_AOM_HIGHBITDEPTH=1" into nextgenv2

Support potential 2x2 transform block unit

Make the codec support 2x2 tranform block unit for chroma components.

Change-Id: Ic454535bd5620abe88a2e99789160cc4664ee518

Merge "Synchronize tx_size counts in the decoder" into nextgenv2

Fix two bugs in parallel_deblocking experiment

This commit fixes two major bugs in parallel deblocking experiment, the
first one is missing initialization of lfm->lfl_uv array for horizontal
filtering. The second one is inconsistent order of vertical/horizontal
filtering of superblocks within a frame between encoder and decoder.

BUG=https://bugs.chromium.org/p/aomedia/issues/detail?id=45#c2
BUG=https://bugs.chromium.org/p/aomedia/issues/detail?id=53#c1

Change-Id: I2df7eb313d49203fb70efe2bdf957b9d7e0bf678

Merge "Fix incorrect merge of forward txfm function declarations" into nextgenv2

Cosmetic fixes in global motion experiment

These are in response to post-commit suggestions made on
If429c93bb90b66fdff0edc07ecd9fc078077d303.

Change-Id: Id29afa158471bd6259bd07ac00812a50bfd0a709

Merge changes I56cddcb4,I40c5a652 into nextgenv2

* changes:
  Mark bogus palette color probabilities as zero
  get_palette_color_context: code cleanup

Synchronize tx_size counts in the decoder

Make both encoder and decoder use depth index for frame count.

Change-Id: I96dddffc0a83ad5e4e2847b15391e01ba01ee502

Merge "av1/convolve.[hc],av1_convolve_test: add missing copyright" into nextgenv2

Merge "Use has_subpel_mv_component in av1_is_interp_needed" into nextgenv2

Sync definition of av1_get_switchable_rate in rd.c/h

Change-Id: I720934e02a15fd6184bdda6c1b8a23d5b02a5284

Merge "Revise precision clamping in GM param refinement" into nextgenv2

Fix incorrect merge of forward txfm function declarations

- Restore the fwd txfm HBD function declarations exposure.

Change-Id: I1e33df6297fd37e242f4b73c8ab97063b9feb7c6

Convert tx_size to relative depth to fetch tx_size_cost

Use the relative transform partition depth as index to fetch the
tx_size_cost value.

Change-Id: I7d5119817baa96f23c32828065ff3175bb9f75cf

Allow backward probability model update from tx_size=0

Replace enum items with range definitions.

Change-Id: Iba2b7cac657db5fb6177cb5c9e6f40ec0125d926

Merge "Add depth to tx_size mapper to bit-stream coding" into nextgenv2