Merge "Turn off tx type selection for intra blocks by default" into nextgenv2

Merge branch 'master' into nextgenv2

Turn off tx type selection for intra blocks by default

Coding gain on derflr drops to +1.83%.

Change-Id: If68c429f09422a70513d9f1e8e36e10c928e034a

Merge "Speed up  tm_predictor_4x4"

Speed up  tm_predictor_4x4

tm_predictor_4x4 is implemented with SSE2 using XMM registers.
Speed up by ~25% in ./test_intra_pred_speed.

Change-Id: I25074b78d476a2cb17f81cf654bdfd80df2070e0

vp9-svc: Fix to key frame counter for spatial layers.

Existing condition only applied to temporal layers.

Change-Id: Icef20a59d0afc61d4e14dea01aff4786fa9e41ae

Merge branch 'master' into nextgenv2

Merge "Changes to exhaustive motion search."

Merge "Merge MISC_FIXES" into nextgenv2

Merge MISC_FIXES

Remove MISC_FIXES flags except for the changes on MV precision, which
has a 0.1% performance drop.

On derflr, the impact is -0.012%.

Change-Id: I0a74e5a212dd0cb827192a318c92a714c9681e45

Fixed a few sanity checks.

Change-Id: Ieec4a7be5945dc6de192e2d8292ab978baf47f53
(cherry picked from commit 2096296421c7fa56abb49470c0fbe7c4337b8a71)

Fix some unused variable warnings

Change-Id: Ia7680ddf00dd50dd66bbb5753bae30b937988800

Merge "Limit the reset range of inter_tx_size array" into nextgenv2

Merge "Alternate reference frame" into nextgenv2

Limit the reset range of inter_tx_size array

Reset the effective range of inter_tx_size, instead of the entire
array in the rate-distortion optimization loop.

Change-Id: Id453fbd6dddfe69f4e451ba8518c083326d5dd53

Merge branch 'master' into nextgenv2

Enable resize test(down&up) by changing the bitrate.

Change-Id: I5a4f1f7b9de20fbfc28cb743dcd29c0eeca736f8

Merge "Adding experiment for supertransform" into nextgenv2

Merge "refactor ext-intra" into nextgenv2

refactor ext-intra

Coding gain remains about the same, while overall speed is
substantially increased.

Change-Id: I2989bebcfd21092cd6a02653d4df4a3bf6780874

Adding experiment for supertransform

Change-Id: Ie43027f7d46c43df137fd4a7f731ff6ccb78fcee

Reduce sampling time for noise estimate.

Change-Id: I46abd85e2187b8f4c2846416a23fab26d9b9f67d

Fix resize internal test.

Temporary fix to make sure it always passes.

Change-Id: I56a0529986ad7049b6090f871c14e9e06d573d5f

Merge "VP9 noise estimation: add frame level motion metrics and adjust thresholds."

Merge branch 'master' into nextgenv2

Changes to exhaustive motion search.

This change alters the nature and use of exhaustive motion search.

Firstly any exhaustive search is preceded by a normal step search.
The exhaustive search is only carried out if the distortion resulting
from the step search is above a threshold value.

Secondly the simple +/- 64 exhaustive search is replaced by a
multi stage mesh based search where each stage has a range
and step/interval size. Subsequent stages use the best position from
the previous stage as the center of the search but use a reduced range
and interval size.

For example:
  stage 1: Range +/- 64 interval 4
  stage 2: Range +/- 32 interval 2
  stage 3: Range +/- 15 interval 1

This process, especially when it follows on from a normal step
search, has shown itself to be almost as effective as a full range
exhaustive search with step 1 but greatly lowers the computational
complexity such that it can be used in some cases for speeds 0-2.

This patch also removes a double exhaustive search for sub 8x8 blocks
which also contained  a bug (the two searches used different distortion
metrics).

For best quality in my test animation sequence this patch has almost
no impact on quality but improves encode speed by more than 5X.

Restricted use in good quality speeds 0-2 yields significant quality gains
on the animation test of 0.2 - 0.5 db with only a small impact on encode
speed. On most clips though the quality gain and speed impact are small.

Change-Id: Id22967a840e996e1db273f6ac4ff03f4f52d49aa

VP9 noise estimation: add frame level motion metrics and adjust thresholds.

Change-Id: Ia1aba00603b32cee6835951d3d8f740937cf20f4

Merge "libs.mk, testdata: rm redundant test of LIBVPX_TEST_DATA"

Merge "Add AVX vectorized vp9_diamond_search_sad"

Merge "Fixed a few sanity checks." into nextgenv2

Adjust variance threshold for 16x16 split at low resolutions.

Change-Id: I635e37f81237e9703d7d9a11ed76a043f4ec6eb0

Revert "Update to noise estimation."

This reverts commit 6b79a1e3e0dfc265f43445b8181aa95e1c02deac.

Change-Id: I5a4923ca8a6de842855ce0725e92567ccbed6fb7

Merge changes Ifafbd497,I042bba27,Id6fd8558,Id5b79519 into nextgenv2

* changes:
  Add adst_dct config to vp10_inv_txfm2d_cfg
  Add adst_adst config to vp10_inv_txfm2d_cfg
  Add dct_adst config to vp10_inv_txfm2d_cfg
  Add dct_dct config to vp10_inv_txfm2d_cfg

Alternate reference frame

This commit re-designs the alternate reference frame generation
process. It employs non-local mean approach to produce more stable
pixel estimation for alternate reference frame. It improves the
compression performance gains:
derf   0.5%
hevcmr 0.8%
stdhd  1.3%
hevchr 1.0%

The encoding time at speed 0 is not affected.

Change-Id: Iaa757f0da189ce93812d69617a81bf630d449848

Update to noise estimation.

Add frame level global check and adjust some parameters.

Change-Id: I42103394f2d329781195d94ce6cbb5b3383eea17

Merge branch 'master' into nextgenv2

Merge "Non-rd partition: reduce variance threshold low resolutions."

Merge "Adjust varianace threshold for high noise condition."

Adjust motion threshold to limit cyclic refresh.

Change-Id: Icfca27a567eb8929c312c6315856ee130d982a04

Adjust varianace threshold for high noise condition.

Change-Id: I91c722e480328ff95b8c57614d8176ccaceb2539

Add adst_dct config to vp10_inv_txfm2d_cfg

Change-Id: Ifafbd4974be44685ab2550ed159dbf0411b6f031

Add adst_adst config to vp10_inv_txfm2d_cfg

Change-Id: I042bba27540ab2a3d8a00871980295e98f616480

Add dct_adst config to vp10_inv_txfm2d_cfg

Change-Id: Id6fd8558452f64c4ac30d7cb656b659f0587b5d6

Add dct_dct config to vp10_inv_txfm2d_cfg

Change-Id: Id5b795198552443a700413284a1015296e267dcf

Merge "vp9 denoiser: Add another noise level to denoising."

Merge "Revert "VPX: x86 asm version of vpx_idct32x32_34_add()""

vp9 denoiser: Add another noise level to denoising.

Change-Id: Idc755ab54e4f78bb7d75bc97634c451804edad99

Revert "VPX: x86 asm version of vpx_idct32x32_34_add()"

This reverts commit 9aeaa2016e7470c4e316d90da33d883098eed6f4.

This causes some test vectors to fail.

Change-Id: I3659a2068404ec5a0591fba5c88b1bec0c9059a4

Revert "VP9: Only zero counts when !frame_parallel_decoding_mode"

This reverts commit 380a5519cca999f54b17f37b709996a11f3204ea.

This causes an assertion failure in debug_check_frame_counts() which
probably isn't valid with this change; leaving the investigation for
later now.

Change-Id: Ieda5ca811ed2fa50a0cc6935919a8d10dca996e0

Fixed a few sanity checks.

Change-Id: Ieec4a7be5945dc6de192e2d8292ab978baf47f53

Add AVX vectorized vp9_diamond_search_sad

This function now has an AVX intrinsics version which is about 80%
faster compared to the C implementation. This provides a 2-4% total
speed-up for encode, depending on encoding parameters. The function
utilizes 3 properties of the cost function lookup table, constructed
in 'cal_nmvjointsadcost' and 'cal_nmvsadcosts'.
For the joint cost:
  - mvjointsadcost[1] == mvjointsadcost[2] == mvjointsadcost[3]
For the component costs:
  - For all i: mvsadcost[0][i] == mvsadcost[1][i]
        (equal per component cost)
  - For all i: mvsadcost[0][i] == mvsadcost[0][-i]
        (Cost function is even)
These must hold, otherwise the AVX version of the function cannot be used.

Change-Id: I6c2791d43022822a9e6ab43cd124a773946d0bdc

Merge branch 'master' into nextgenv2

libs.mk, testdata: rm redundant test of LIBVPX_TEST_DATA

the return value of enabled, which may be empty, is handled by the for
loop. this avoids making an unnecessarily long command line which may
fail in certain cases.

Change-Id: Ib88ecbbe2c0f6d7debb600b4caed4884497263b1

Merge "Replace inline with INLINE" into nextgenv2

Merge "Fix msvc compling" into nextgenv2

Merge "Fix an encoding failure case when speed features are on" into nextgenv2

Merge "Add vp10_fwd_txfm2d_test" into nextgenv2

Replace inline with INLINE

Change-Id: I37b5ed9fef0e97feabd856bd4c1b4c7869991a34

Fix msvc compling

Change-Id: I5abd6d2fd198b3789732e81b23a5bac009af5290

Fix an encoding failure case when speed features are on

This commit fixes an encoding failure case triggered when early
termination feature is turned on for transform block size search.
It resolves the corresponding enc/dec mismatch issue.

Change-Id: I2c5b7d8b1efe25fe3810e6ed307f4b1865dede49

Non-rd partition: reduce variance threshold low resolutions.

Change-Id: I06306905d187948a92f839357df5d21413823808

Merge "Add bias to zero/small motion for noisy source."

Merge "Get test to build with MSVC" into nextgenv2

Merge "convolve_copy_sse2: replace SSE w/SSE2 code"

Merge "VPX: x86 asm version of vpx_idct32x32_34_add()"

VPX: x86 asm version of vpx_idct32x32_34_add()

Change-Id: I8a933c63b7fbf3c65e2c06dbdca9646cadd0b7cb

Add bias to zero/small motion for noisy source.

Change is only for real-time mode, speed >= 5, and non-screen content mode.
Add bias to zero/low motion for big blocks, if noise estimation
is enabled and noise level is above threshold.

Change-Id: I3a0a4608ede6aa535bda6eca528d20f8aba738e7

convolve_copy_sse2: replace SSE w/SSE2 code

this should be neutral or slightly faster on modern (P4+) architectures

Change-Id: Iec4c080275941eb8c9e05a66a2daf0405d86a69b

VP9 noise estimate: no noise estimate if frame size change.

Change-Id: I521f7b53c143d562a88fe7de330aa3f0ef09f414

Merge "VP9: add unit test for realtime external resize."

Merge branch 'javanwhistlingduck'

Change-Id: Ib63fde31ae7b3f71e608830f7433113733b2a275

VP9: add unit test for realtime external resize.

Change-Id: I9bfa80de73847d9be88b6ce9865d7bb5fafaaa57

Add vp10_fwd_txfm2d_test

Change-Id: Icbc17403430751d3a841f822a190f0c30450d603

Merge "VP9 dynamic resize: enable resize unit test(DownUp)."

Merge "VP9: Only zero counts when !frame_parallel_decoding_mode"

Release v1.5.0

Javan Whistling Duck release.

Change-Id: If44c9ca16a8188b68759325fbacc771365cb4af8

VP9 dynamic resize: enable resize unit test(DownUp).

The unit test requires a longer clip which is already in the repo.

Change-Id: Ic42e8d83e636fafd20d485a7f5f8422835319245

Merge "VP9 dynamic resize: increase waiting time after key frame."

Get test to build with MSVC

Added _USE_MATH_DEFINES to make sure M_PI can be refered to definitions
in math.h for MSVC

Change-Id: Idca128910384593a002eb08bae72c739fb998e19

VP9 dynamic resize: increase waiting time after key frame.

For 1 pass CBR mode: increase waiting time after key frame
before we start sampling rate control behavior for determining
resize. This change need to disable one internal resize(DownUp)
temporally since it requires a longer clip to do so.

Change-Id: If21beda1be23f169ee541ab4dd642f718347887a

Merge "Use same bias (against non-zero mv for big blocks) for speed 5."

Merge "Expand unconstrained nodes in pack_mb_tokens and loop on zeros."

VP9: Only zero counts when !frame_parallel_decoding_mode

The counts are never used when frame_parallel_decoding_mode
is set.

Change-Id: Ic7a566a048297f7373c9ffbb48929ea09eff674f

Use same bias (against non-zero mv for big blocks) for speed 5.

Use same setting for speed 5 (as it is for speed > 5).
Change is only for real-time (non-rd) mode.

Change-Id: I830250eac654328373cb318baa89d4f0e63942e1

Merge branch 'master' into nextgenv2

Change-Id: I8811bfd8fc132b9f515707e795bb6308e4bf263b

Merge changes I8c83b86d,Ic53b2ed5,I4acc8a84

* changes:
  variance_test: create fn pointers w/'&' ref
  sixtap_predict_test: create fn pointers w/'&' ref
  sad_test: create fn pointers w/'&' ref

Merge "Use accurate bit cost for uv_mode in UV intra mode RD selection"

Expand unconstrained nodes in pack_mb_tokens and loop on zeros.

Reduces Linux perf estimated cycle count for pack_mb_tokens on a
lossless encode on my desktop from 61858501855 to 48154040219 or from
26% of the overall profile to 21%.

Change-Id: I9ca3426d7e3272bc7f7030abda4f0d0cec87fb4a

Merge "Resolve conficts caused by master branch merging" into nextgenv2

Merge changes I7ca0cc34,I97189d6e,I4e2b51cf,I21158867,I8d73beee into nextgenv2

* changes:
  Add adst_dct config to vp10_fwd_txfm2d_cfg
  Add adst_adst config to vp10_fwd_txfm2d_cfg
  Add dct_adst config to vp10_fwd_txfm2d_cfg
  Add dct_dct config to vp10_fwd_txfm2d_cfg
  Add vp10_fwd_txfm2d_8x8/16x16/32x32

Merge "Add vp10_fwd_txfm2d_4x4" into nextgenv2

Use accurate bit cost for uv_mode in UV intra mode RD selection

On derflr, +0.1% for VP10; however, -0.03% on VP9.

Change-Id: I09c724232ede74254043d61d3cadc506256af0af

Merge "Revert "Add AVX vectorized vp9_diamond_search_sad""

Resolve conficts caused by master branch merging

Change-Id: I167e241b789331572581fcb0567ebe535b4b9345

Revert "Add AVX vectorized vp9_diamond_search_sad"

This reverts commit f1342a7b070ef61b9fbdf03e899ac2107cfcb6bd.

This breaks 32-bit builds:
 runtime error: load of misaligned address 0xf72fdd48 for type 'const
__m128i' (vector of 2 'long long' values), which requires 16 byte
alignment

+ _mm_set1_epi64x is incompatible with some versions of visual studio

Change-Id: I6f6fc3c11403344cef78d1c432cdc9147e5c1673

variance_test: create fn pointers w/'&' ref

this helps some toolchains (vs9) resolve the type of the parameter

Change-Id: I8c83b86da53b1783cd18c0f765b67ba33da91d72

sixtap_predict_test: create fn pointers w/'&' ref

this helps some toolchains (vs9) resolve the type of the parameter

Change-Id: Ic53b2ed5fbce05c5b5e633b4a4ef9ea75c55360a

Add adst_dct config to vp10_fwd_txfm2d_cfg

Change-Id: I7ca0cc341ae36ac9f7aa24789f8872161b832b7b

Add adst_adst config to vp10_fwd_txfm2d_cfg

Change-Id: I97189d6e917929c756a3f89fe0ab66077a0a5436

Add dct_adst config to vp10_fwd_txfm2d_cfg

Change-Id: I4e2b51cf5b0dedb9ea1106747edb76835804fffc