Merge branch 'master' into nextgenv2

Change-Id: Ib050607fa5c0288360ff224fd048445d16568520

Merge "Add high bit depth args to arg list"

Add high bit depth args to arg list

So that their usage info. will show up with --help.

Change-Id: I8542240dcc98e8be29ac63d081f5abb932627cbf

Merge changes I4a365757,I14a3b328

* changes:
  vp10: remove unused (read|write)_uniform
  vp9_denoiser: mark total_adj_strong_thresh inline

Merge "Fix a signed overflow in vp9 motion cost."

Merge "Fixing a issue of calculating tx cost for SUPERTX+VAR_TX" into nextgenv2

Merge "Loop filter search resets on overlay frame."

Merge branch 'master' into nextgenv2

vp10: remove unused (read|write)_uniform

dead code since:
5d3327e Remove palette from VP10

Change-Id: I4a36575706ea6fffefe5bc778595112ef6ff37d8

vp9_denoiser: mark total_adj_strong_thresh inline

avoids -Wunused-function warnings when INLINE is set

Change-Id: I14a3b32837d358516b7702a2fb804bec010bb5c6

Merge "Pass filter type instead of filter array" into nextgenv2

Pass filter type instead of filter array

Change-Id: I25f2149ddaa332722f7ab82e8f832a253c4b6ab3

Merge "Refactor to separate restoration from loop filter" into nextgenv2

Fix a signed overflow in vp9 motion cost.

Change-Id: I5975e3aede62202d8ee6ced33889350c0a56554a

Fix automerge errors

Change-Id: I24d415bafe617eac894427088d7b2fbe0b7e04d7

vp9: Add flag to control usage of skin detection.

Set off as default; on for 1 pass cbr mode, speed >=5, non-screen-content.

Change-Id: I03f2497e4028b354fd83b8a7d0e072c2a6bec878

Merge "vp9 non-rd partition: Update condition on force_split for skin area."

vp9 non-rd partition: Update condition on force_split for skin area.

Avoid low resolutions for now.

Change-Id: Ib3a7bb8716a033449b2afb216edd70897a280df9

vp9-denoiser bugfix: Disable postproc-denoiser under temporal denoising.

The postproc vp9_denoise() is a spatial denoise/blur function.
It was not intended to be used if temporal denoising is enabled.

Change-Id: I97d2dcb941e7cc49bbafce99d9286beb2693249d

Merge "vp9-noise estimate: Put check to avoid possible out of bounds."

Merge branch 'master' into nextgenv2

Merge "VP9: Refactor read_inter_block_mode_info()"

vp9-noise estimate: Put check to avoid possible out of bounds.

Put check to avoid possible out of bounds when looping
over the blocks to estimate noise level.
No change in behavior.

Change-Id: I4b7b19b7edee0ae1c35b9dc0700b1bf9b304d7f5

Merge branch 'master' into nextgenv2

Merge "Enable sse2 version of inverse wht for hbd build"

Merge branch 'master' into nextgenv2

Merge changes I51d42a50,Id8aaf820,I6af91959

* changes:
  configure: extend armv7 hf target autodetect
  configure: remove default CROSS for arm targets
  configure: avoid default when CROSS is set to null

Merge changes If13946e4,I61a1814d,I2ca9aa3c,I44d91eaa

* changes:
  intrapred: protect functions w/CONFIG check
  vp9_noise_estimate: protect copy_frame w/CONFIG check
  vp8_cx_iface: delete 3 unused functions
  vp8: mark intra_prediction_down_copy inline

Merge "Refactor prob_diff_update_savings_search_model"

Refactor to separate restoration from loop filter

Change-Id: Iab517862d957f3aa2a664e9349d57bbf424febb3

VP9: Refactor read_inter_block_mode_info()

Change-Id: I8e6a1a1b6eec17d0076660b559f6fc120a78c538

Enable sse2 version of inverse wht for hbd build

Change-Id: If8f5efd701a11c8a7ad3078d10ec3cd0fe27667e

Merge "Cosmetic changes to loop restoration" into nextgenv2

Refactor prob_diff_update_savings_search_model

Change-Id: Icfab58e880285d5af00985dc20db2174a67d1fe8

SSSE3 idct8x8 functions for highbitdpeth build

This commit changes SSSE3 optimized idct8x8 functions to work with
highbitdepth build.

With this commit and the previous one that enabled SSSE3 idct32x32
functions, tests showed virtually no difference on decoding speed for
file fdJc1_IBKJA.248.webm for the build with -enable-vp9-highbitdpeth
option and the build without the option.

Change-Id: Ibe0634149ec70e8b921e6b30171664b8690a9c45

Merge "Fix failure with libvpx__unit_tests-multi-target"

Merge "vp9-denoiser: Force increase_denoising = 0 for skin block."

Fix failure with libvpx__unit_tests-multi-target

Introduced in: https://chromium-review.googlesource.com/#/c/323215/
For now exclude the computation of vp_compute_skin_block for highbitdepth.

Change-Id: I18107a862c17ba869438ec3616a787bf173736c4

vp9-denoiser: Force increase_denoising = 0 for skin block.

Change-Id: Ic5af41db58a3daad4103175b4b4b9300675020c0

Merge "Cleaned code in firstpass related to altref frame"

Fixing a issue of calculating tx cost for SUPERTX+VAR_TX

Update blk_skip in update_state_supertx() and rd_supertx_sb().
Performance (SUPERTX+VAR_TX): TBD
(Eventually will merge update_state() and update_state_supertx())

Change-Id: I34ef982b80151ba2dfba745859cb2ca7b90dc888

Enable hbd_build to use SSSE3optimized functions

This commit changes the SSSE3 assembly functions for idct32x32 to
support highbitdepth build.

On test clip fdJc1_IBKJA.248.webm, this cuts the speed difference
between hbd and lbd build from between 3-4% to 1-2%.

Change-Id: Ic3390e0113bc1ca5bba8ec80d1795ad31b484fca

Merge "Add a vp9 test vector"

Merge "vp9: encoder-breakout: Modify UV thresholds."

Cleaned code in firstpass related to altref frame

Change-Id: I6dbddf500fd4f64216774685700efea972165470

Add a vp9 test vector

This test vector exercises various idct32x32 functions in decoder.

Change-Id: Ic9453f50ef4723bdaace9bd80f32540d061ef2a1

vp9/10: fix encoder crash on flush

the lookahead buffer allocation is deferred to receipt of the first
frame to allow profile changes. if the encoder was flushed before
supplying any frames the encoder would crash trying to dereference the
NULL buffer. vp8 is unaffected.

fixes mozilla bug:
https://bugzilla.mozilla.org/show_bug.cgi?id=1237848

Change-Id: Icee4b64de760476eee0d33b568f0a1010335ff13

vp9: encoder-breakout: Modify UV thresholds.

Set UV thresholds to 0 for encoder breakout if
block is detected as skin.

Change-Id: Iaaa30b5cc8bae4cf611f8ea8eba693b730e32a3f

VPX skin map improvement.

Use multiple clusters instead of one and decrease
the distance thresholds.

Add a define to switch between models.
Default is set to existing (1 cluster) model.

Change-Id: I802cd9bb565437ae8983ef39453939f5d5073bb1

Merge "vp9 non-rd mode: Modification for detected skin areas."

Merge branch 'master' into nextgenv2

Merge "VP9: Refactor dec_build_inter_predictors_sb()"

vp9 non-rd mode: Modification for detected skin areas.

If a superblock contains alot of "skin" then force split
of 64x64 partition, and make some adjustments in mode selection.

This helps to reduce artifacts on moving face/skin areas at low bitrates.

Little/no change in metrics: avgPSNR/SSIM down by ~0.12%.
Small encoding time increase < 1%.

Change-Id: Ic57f52148c3716f391419fab0530d916e4c1d186

Cosmetic changes to loop restoration

Also adds a normalized filtering function to be used later.

Change-Id: I30e2140e664db635602f26a73b81ce8e008dff5e

Merge "Fix some typos."

Fix some typos.

Change-Id: I32aacd014df6c927cf2893dc096cbe6ec7604b9b

Merge "vp9-aqmode=3: Limit on period for golden update."

Merge "Switch to 9-bit rate cost constants built on a 256 probability denominator."

vp9-aqmode=3: Limit on period for golden update.

For aqmode=3, golden period update is set based on period of cyclic refresh.
Put a limit on max golden period update, for now set to 40.
And fix comment.

Change-Id: Icb61dd87c796cce2a5f5f7331c6a129540994696

Switch to 9-bit rate cost constants built on a 256 probability denominator.

-.220 BDRATE derf: https://x20web.corp.google.com/~aconverse/results/cost256_derf.html
-.675 BDRATE hevcmr: https://x20web.corp.google.com/~aconverse/results/cost256_hevcmr.html

Change-Id: Ifb1646d8ce65ffe0eff9953a911b1b88735b335f

Merge "Fixes ext-interp experiment" into nextgenv2

Fixes ext-interp experiment

Fixes integer pel MV usage for the sub8x8 case, which fixes a
rare mismatch issue.

Also adds some other minor missing code related to filter threshes.

Change-Id: I6b07e6cf9b287ba4b5bd6599af4a7412e50b3bdc

VP9: Refactor dec_build_inter_predictors_sb()

Change-Id: I336fe2006288214977b5ee854124ee7b5bba5796

Merge branch 'master' into nextgenv2

intrapred: protect functions w/CONFIG check

d207e, d63e, d45e are only used with CONFIG_MISC_FIXES

Change-Id: If13946e483c4d0ccaa3e1d60dc14216c06d5a219

vp9_noise_estimate: protect copy_frame w/CONFIG check

This is only used with CONFIG_VP9_TEMPORAL_DENOISING

Change-Id: I61a1814d43d71235077a2426f7bfce141677a79a

vp8_cx_iface: delete 3 unused functions

vp8e_update_entropy, vp8e_update_reference, vp8e_use_reference have been
unused since:
a046f56 vp8cx: remove deprecated reference/entropy controls

Change-Id: I2ca9aa3c3f1a209a534a1492432b16852e3d8629

vp8: mark intra_prediction_down_copy inline

avoids -Wunused-function warnings when INLINE is set

Change-Id: I44d91eaa7efba7bc2427501fb9f63a93f32aaa7f

Merge "Fix a clang/win build error"

Fix a clang/win build error

Made the definition of THREAD_FUNCTION consistent.

Change-Id: I1ac099484e201e359298ed16de0b81ec781075ce

Merge "vp9: Be more responsive to massive overshoot."

Reintroduce VAR_TX fix

Reintroduce part of
Iaf2b717e6b8626b2b6a03226127221b776b49884
Which was later reverted in
I4c5b40ec63a6f19521191d3c730af87db3c4bc00

Change-Id: If3e5610ba3985ae7b4d952d8e616982465ac667a

Always recode SUPERTX blocks.

There is still an assertion failure when tokenizing transform
coefficients for a supertx block, due to the eob not being set
consistently with the coefficients, so we always recode supertx blocks
for now. Also added further PICK_MODE_CONTEXT instances to avoid
potential clash between horizontal/vertical/split partition SUPERTX
trials.

Change-Id: I5f3da1fa0d8d20fc21face170487e1a285fd1cc6

Merge "Update VAR_TX related context when using SUPERTX." into nextgenv2

Merge branch 'master' into nextgenv2

Update VAR_TX related context when using SUPERTX.

The encoder did not update left_txfm_context and above_txfm_context in
MACROBLOCKD (used for choosing the probability context for the vartx
split bits) when the supertx bit was set for a block. The deoder on the
other hand did update these for supertx blocks. The encoder used these
to compute the context counts, which the packer then uses to adapt it's
probabilities. This results in the packer and the decoder using
different probabilities.

This patch harmonizes the encoder and the decoder by making the encoder
update the mentioned context for supertx coded blocks.

Change-Id: I3a22132124b1bce2ee501d640ceab374b19e3ca1

Initalize mbmi->tx_size during rdopt.

This is necessary when using SUPERTX, as the bitstream packer relies on
tx_size being set correctly to decide whether to output the block using
supertx or not.

Change-Id: I79e776b3b810f4a15b9dbc6afdd6fc90c73c8934

Set inter_tx_size for supertx coded blocks.

The loop filter relies on inter_tx_size in MB_MODE_INFO being set
properly when VAR_TX is enabled. Supertx coded blocks did not set this
previously at all, and the differing garbage values eventually resulted
in in a YUV mismatch between encoder and decoder after loop filtering.

This patch fixes this by setting inter_tx_size to the proper supertx
size in both the encoder and the decoder. This should also mean that
loop filtering is done at the proper transform boundaries, even when
supertx or vartx is being used.

Change-Id: I41a564cd6d34ce4a8313ad4efa89d905f5ead731

A minor assert fix for supertx

Change-Id: I532fff64ccaa1f38240ba7ca5ce2f7e1eb531771

Merge "Some supertx fixes" into nextgenv2

Merge "Code clean of sad4xNx4D_sse"

vp9: Be more responsive to massive overshoot.

Limit oscilation detection in the case where overshoot is very very
large.

This keeps the 9-bit cost patch from breaking the DownUp reisze test.
The patch pushed us to an 11% undershoot right before a scene cut
causing a 1200% overshoot. (Whereas before we were undershooting by
only 6% before overshooting by 1200%).

Change-Id: Id90ccfab8aba872ccadc45b73b3bb097b895677f

Some supertx fixes

Fixes some of the issues introduced by a merge from master.

derflr: -0.893% BDRATE
hevcmr: -1.667% BDRATE

Change-Id: I4c5b40ec63a6f19521191d3c730af87db3c4bc00

Cleaned a code in define_gf_group() for firstpass

Change-Id: I0b8eff9e74e3446024482d011ec4fb28b19136d3

Merge branch 'master' into nextgenv2

Merge "Short circuit flat blocks when coding screen content at realtime speed."

Merge "VP9: Do not set up/left available in vp9_first_pass()"

Adding new compound modes to EXT_INTER experiment

Combinations of different mv modes for two reference frames
are allowed in compound inter modes. 9 options are enabled,
including NEAREST_NEARESTMV, NEAREST_NEARMV, NEAR_NEARESTMV,
NEAREST_NEWMV, NEW_NEARESTMV, NEAR_NEWMV, NEW_NEARMV, ZERO_ZEROMV,
and NEW_NEWMV.
This experiment is mostly deported from the nextgen branch.
It is made compatible with other experiments

Coding gain of EXT_INTER(derflr/hevcmr/hevchd): 0.533%/0.728%/0.639%

Change-Id: Id47e97284e6481b186870afbad33204b7a33dbb0

Short circuit flat blocks when coding screen content at realtime speed.

In inter mode search skip all modes except NEARESTMV and DC_PRED.

10% less encode latency for large frames using the chromium remoting_perftests.

+0.313% BDRATE on the screencast set at speed -6.

Change-Id: Ib97a39dd8bcdeab545509e0e02d78ce7033f8c63

VP9: Do not set up/left available in vp9_first_pass()

These values are set in set_mi_row_col()

Change-Id: Ie44c9d2dcb79797a8473b5fc29394277a7117547

Fix a minor typo

a wrong variable.

Change-Id: I9fa02621dbdc508a12ba1ef9c8f98dbeab68e958

Fix a merge mistake

Change-Id: I0769ca1abd42521a24078dc9ba7093ccb5e362ee

Merge "A fix for a missing tx_type" into nextgenv2

Merge "Properly set segmentation for error-resilient mode"

Merge branch 'master' into nextgenv2

Change-Id: I0a82fa1cbe4ee7c7831d2d174f140a40d09a06c5

A fix for a missing tx_type

Change-Id: I165cd06256175edb7739020379ba3098251f4a7c

Merge "Fixes for var_tx when ext_tx is not enabled" into nextgenv2

Merge "Some fixes on tx size/type selection" into nextgenv2

Merge "Relocate supertx prob update" into nextgenv2

Fixes for var_tx when ext_tx is not enabled

This patch fixes a couple of issues caused by change-id:
I15d20ce5292b70f0c2b4ba55c1f1318181481596
Changes to the code for when the ext_tx experiment is not enabled
were merged from master but as var_tx does not exist on master
the changes had not been applied to the case when var_tx experiment
is enabled

Change-Id: Iaf2b717e6b8626b2b6a03226127221b776b49884