Merge "vp9_pred_mv(): misc fixes and optimizations"

Merge "A tiny cyclic refresh / active map fix."

Merge "Revised rd adjustment for variance."

Merge "Experimental rd bias based on source vs recon variance."

A tiny cyclic refresh / active map fix.

Change-Id: I198727461455c8c198a0c892d02ed3cb1673aa50

Merge "vp8cx.h: vpx/vpx_encoder.h -> ./vpx_encoder.h"

Merge "Optimize the intra frame decode to skip some unnecessary copy."

Merge "Safely free all the frame buffers after all the workers finish the work."

vp8cx.h: vpx/vpx_encoder.h -> ./vpx_encoder.h

this matches the other includes and simplifies include paths in builds
from source

Change-Id: I344902c84f688ef93c9f3a53e7c06c30db49d8d3

Optimize the intra frame decode to skip some unnecessary copy.

This speeds up a normal YT style 1080P clip decode by ~1% on nexus 7.

Change-Id: Ied7fa0d8bc941b2adb4db9382f549ee4d5654f3a

Merge "Don't apply active map on key frames."

Merge "Set loop filter level to zero on inactive segment."

vp9_pred_mv(): misc fixes and optimizations

1. skip near if it is same as nearest
2. correct rounding for converting mv to fullpel position
3. update pred_mv_sad after new mv search.

Overall .1%~.25% compression gains on rtc set for speed 5, 6, 7, 8.

Change-Id: Ic300ca53f7da18073771f1bb993c58cde9deee89

Don't apply active map on key frames.

This allows applciations to be KF oblivious.

Change-Id: Ic02712eae6ad8d6b3eaec26548299d24ca0d5cc0

vp[89]_cx_iface.c: remove obsolete ABI checks

Change-Id: I49a7017e8adc18ff03d748cb328814a8a3e1bcf6

Set loop filter level to zero on inactive segment.

Change-Id: I6022a79351882a72a219aee13563bf21bcd70383

Merge "Restore first ref frame pointer to the correct value"

Revised rd adjustment for variance.

Revised adjustment for rd based on source complexity.
Two cases:

1) Bias against low variance intra predictors
when the actual source variance is higher.

2) When the source variance is very low to give a slight
bias against predictors that might introduce false texture
or features.

The impact on metrics of this change across the test sets is
small and mixed.

derf -0.073%, -0.049%, -0.291%
std hd -0.093%, -0.1%, -0.557%
yt  +0.186%, +0.04%, - 0.074%
ythd +0.625%, + 0.563%, +0.584%

Medium to strong psycho-visual improvements in some
problem clips.

This feature and intra weight on GF group length now
turned on by default.

Change-Id: Idefc8b633a7b7bc56c42dbe19f6b2f872d73851e

Experimental rd bias based on source vs recon variance.

This experiment biases the rd decision based on the impact
a mode decision has on the relative spatial complexity of the
reconstruction vs the source.

The aim is to better retain a semblance of texture even if it
is slightly misaligned / wrong, rather than use a simple rd
measure that tends to favor use of a flat predictor if a perfect
match can't be found.

This improves the appearance of texture and visual quality
on specific test clips but is hidden under a flag and currently
off by default pending visual quality testing on a wider Yt set.

Change-Id: Idf6e754a8949bf39ed9d314c6f2daaa20c888aad

Merge "enable test/vp9_encoder_parms_get_to_decoder"

Merge "put spatial svc behind an ABI check"

Merge changes I42fa121b,Id30076ce

* changes:
  vpx/vpx_codec.h: bump ABI version
  vpx/vpx_encoder.h: bump ABI version

Restore first ref frame pointer to the correct value

The joint_motion_search function alternates prediction
between two reference frames. In order to reuse existing
code, a pointer to the appropriate reference frame is
written into xd->plane[0].pre[0], that the motion
estimation code assumes points to the reference frame.

If this first reference frame was scaled then the
pointer was incorrectly being reset to point to the
unscaled reference frame rather than the scaled
version.

Change-Id: I76f73a8d8f4f15c1f3a5e7e08a35140cdb7886ab

Merge "Move joint_motion_search & delete function prototype"

Merge "external_frame_buffer_test: quiet static analysis warnings"

Move joint_motion_search & delete function prototype

Change-Id: I7fb3a78ed0e0bc940d8b4a57c470302f8369782f

vp8: fix a bug in the internal PSNR calculation

While CONFIG_INTERNAL_STATS=1, PSNR is calculated while encoding.
The aligned width/height were used mistakenly in the calculation.
This patch fixed it, and used the orignal image width/height.

Change-Id: Iad5334f8693af761b71ebb78f2587db8a3404ecf

enable test/vp9_encoder_parms_get_to_decoder

the TODO around CONFIG_SPATIAL_SVC has been resolved by changing the
CONFIG_* checks to use an ABI based check

Change-Id: If2638baf361b863186177a453beec9af9231e69e

put spatial svc behind an ABI check

this removes the CONFIG_* checks from public headers, but means
'--enable-experimental --enable-spatial-svc' builds will fail without a
local change to the ABI in vpx_encoder.h. this should be all right for
testing this experiment.

Change-Id: Ief55e7b9d1e8332cfce990275e04c29b30af0c4a

Safely free all the frame buffers after all the workers finish the work.

Issue: 978

Change-Id: Ia7aa809095008f6819a44d7ecb0329def79b1117

Merge "Speed up non-rd mode decision search"

Merge "Fix an ioc warning in vp9_pick_inter_mode"

Merge "Adjustments to aq-mode=3."

vpx/vpx_codec.h: bump ABI version

missed in updates for high bitdepth, xma removal, others

Change-Id: I42fa121b3bb080e8275f555b923cd9cb418db8a1

vpx/vpx_encoder.h: bump ABI version

missed in updates for high bitdepth, others

Change-Id: Id30076ce09beb361b5e1ff0ac99e3ae1ad4f987e

Merge "vp9_resize_plane: quiet some static analysis warnings"

Merge changes Ie5a24275,Ib72946a8,I532b882b

* changes:
  vp9_fdct8x8_quant_ssse3: quiet a static analysis warning
  vp9_fdct8x8_quant_sse2: quiet a static analysis warning
  vp9_mv_pred: quiet a static analysis warning

Merge "Fix external resize memory issues."

external_frame_buffer_test: quiet static analysis warnings

add explicit returns in cases where ASSERT_* can't be used due to the
function returning a value; retain the EXPECT_* for reporting purposes.

Change-Id: I1f514728537fee42a99277d3aba538e832d3b65b

vp9_resize_plane: quiet some static analysis warnings

document resolution assumptions with a few asserts

Change-Id: Ia4ab738fd3e0a1ba0ed30a57facd2658c2c1fd60

vp9_fdct8x8_quant_ssse3: quiet a static analysis warning

add an assert to validate 'in' array size

Change-Id: Ie5a24275c066d9dd59714f6104510abbd4850dc5

vp9_fdct8x8_quant_sse2: quiet a static analysis warning

add an assert to validate 'in' array size

Change-Id: Ib72946a86f34e1ce8a69954e8e3e4fe1a0f18a91

vp9_mv_pred: quiet a static analysis warning

add an assert to validate pred_mv array size

Change-Id: I532b882b71e2baff3ac76e07ed133ec5a11bd0fc

Merge changes Icc7da602,Id166bd8a

* changes:
  Remove last remnants of obj_int_extract
  Initialize "corrupted" to zero

Adjustments to aq-mode=3.

Factor in segment#2 and skip blocks into the postencode estimated bits,
and increase somewhat the aggressiveness of the refresh.

PSNR/SSIM Metrics on RTC set go up by ~0.8/0.5%.

Change-Id: I5d4e7cb00a3aefb25d18c88b6b24118b72dc5d51

Speed up non-rd mode decision search

This commit makes the encoder to explicitly calculate the SAD
associated with the LAST_FRAME motion vector and compare it to
that of the GOLDEN_FRAME given by integral projection motion
estimation. It skips the expensive sub-pixel motion search over
GOLDEN_FRAME when the LAST_FRAME can provide fairly good motion
compensated prediction quality.

For dark720p speed -6 single thread goes from
33304 b/f, 40.070 dB, 18156 ms ->
33319 b/f, 40.061 dB, 17611 ms

Change-Id: I01bc94b9b598075567a392111046b97a9bc30efe

Order header files alphabetically

Change-Id: I3e275544bff478849c1b5f3dcd5de950ee330d14

Remove last remnants of obj_int_extract

Change-Id: Icc7da6027763b5ed7cbfe70ffe271103ead59fe1

Initialize "corrupted" to zero

Because the call to vpx_codec_control at line 928 is now guarded by
!frame_parallel, 'corrupted' may not be set.

Change-Id: Id166bd8a8cdb5e5120fca1640011a3545f6e178a

Merge "Add protection for codec interface name change."

Merge "Fix the C version of column vector projection"

Fix the C version of column vector projection

Make the C and SSE2 versions consistent.

Change-Id: I03c405d22a36bd1a97480efb96dc5af230667424

Update to variance partition.

Use force_split to constrain the partition selection.
This is used because in the top-down approach to variance partition,
a block size may be selected even though one of its subblocks may have
high variance.

In this patch the selection of the 64x64 block size will only
be allowed if the variance of all the 32x32 subblocks are also below the threshold.

Stil testing, but some visual improvement for areas near slow moving boundary
can be seen. Metrics for RTC set increase by about ~0.5%.

Change-Id: Iab3e7b19bf70f534236f7a43fd873895a2bb261d

Merge "Refactor set vbp thresholds function"

Merge "Remove unused ZBIN_BOOST macros"

Add protection for codec interface name change.

Change-Id: I9101cb1132aa580fc32fd47e8ac9d91d5b09e963

Refactor set vbp thresholds function

Code refactoring.

Change-Id: I73b6fcc0444155ee46c1efa5253c1d608c6439cb

Remove unused ZBIN_BOOST macros

Change-Id: I5169155b20ea3676a6ce58ec77d6aeba07db29d9

Fix an ioc warning in vp9_pick_inter_mode

Shut off all the metric checks for golden reference frame, if we
decide that it is unlikely to be selected for reference.

Change-Id: Ie457cc1fd43935584403b4982659aed80fb9909c

Add frame parallel decode option to vpxdec.

Change-Id: I0ba02d501d65a2f219fa1bb87b8eb81f7e6ab332

Merge "Remove duplicate clamping"

Merge "Remove ineffective newmv skip checking from vp9_pick_inter_mode"

Merge "Simplify prediction filter search in rtc coding mode"

Merge "Refactor column integral projection computation"

Merge "change the order of inter modes evaluated"

Fix external resize memory issues.

These were uncovered by the chromoting perftest.

Change-Id: Ia5a90fd1718ff757c1484decf3861295260e6722

Remove duplicate clamping

The mvs are clamped in the vp9_find_best_ref_mvs() already.

Change-Id: I9bea5e35aef6007466fe7fca4bc2dc5c17e74222

Remove ineffective newmv skip checking from vp9_pick_inter_mode

Change-Id: I41ee684cf113a7b5edf280183e51cb08b2e93cc4

Simplify prediction filter search in rtc coding mode

Reduce unnecessary fetch from MB_MODE_INFO.

Change-Id: Iff89b76d5e2774c00a564e902913a633fa2e1ea9

change the order of inter modes evaluated

Change-Id: I10c1ad23b110cf92cb026e895039c215c47abfd0

Merge changes I67890f52,I33c72799

* changes:
  usage.dox: fix encoder/decoder subpage list indent
  usage.dox: fix doxygen warnings in 1.8.x

Refactor column integral projection computation

Move the scaling factor outside column projection. This avoids
repeated calculation of the same scaling factor. Profiling shows
that the percentage of vp9_int_pro_col_sse2 of overall cycles
goes from 2.29% down to 1.88%.

Change-Id: I5ac4e324ab2d7f33ba2de66dd2a12e04e04dfd66

Merge "Fix indent in choose_partitioning"

Fix indent in choose_partitioning

Change-Id: I4039f8ac75a9cfcc4d07abd0619d1379bb10fe51

vp9_pick_inter_mode(): minor optimizations

1. remove duplicate initialization to mbmi->interp_filter.
2. move mv clamping into ref_frame loop instead of mode checking loop.
3. move the check if last frame is same as golden frame earlier to
avoid initialization of Golden reference related variables.

Change-Id: Idf2d05e19e94a24f69cc289687869fc71d2ff289

Merge "Fix choose_partitioning threshold setup for speed -5"

Fix 1-step refinement search table

Change-Id: I32f0bcb40c6e7ba63bfae487739ededd0b6b2dde

usage.dox: fix encoder/decoder subpage list indent

use \li to separate the list items contained in conditionals. this
avoids the encode page becoming a sub-item of decode; likely a problem
in <1.8.3.
+ fix encoder conditional, spelling error
+ correct encode page name to match decode 'Encoding'

Change-Id: I67890f52bed8e708bad63fb8819a074e0beff2ca

usage.dox: fix doxygen warnings in 1.8.x

use \li to denote list items with \if.

fixes the following likely visible in <1.8.3:
usage.dox: warning: Invalid list item found
usage.dox: warning: End of list marker found without any preceding list items

Change-Id: I33c72799edf9f8866596ac8f79247050b8c75681

Fix choose_partitioning threshold setup for speed -5

The compression performance of speed -5 is on average 12.6% better
than speed -6. At lower bit-rates, the gains are typically 20% or
more. For 2-thread encoding, the speed -5 takes about 1.6x time of
speed -6.

Change-Id: If7a73464a24d33e8f49b9533b51ec51c8da7fc80

Merge "Fix comments for vpx_codec_enc_config_default()"

Fix comments for vpx_codec_enc_config_default()

This makes clear that for end-usage, only 0 is supported currently.

Change-Id: I99795807c20df1d71b3c803e8d5f3b36583dcc85

Merge "Provide information on codec controls"

Merge "Set default encode test driver to 1 column and 1 thread."

Merge "Fix crash with vp9 denoiser on."

Merge "Use sdx4df to do 1-step refinement"

Provide information on codec controls

The commit updates the comments in vp8cx.h to make it clear which
codec support each of codec control functions.

Change-Id: Ibf876e289d4325bbb61ce19311da60d384624c2f

Fix crash with vp9 denoiser on.

Crash occured on very first key frame, because denoiser
temporal function was beng entered.

Updated denoiser unittest to set cpu_used from first frame,
and verified fix fixes the crash.

Change-Id: I3be1124b52846fbbe7248d2c3d6136e086c80bc1

Merge "Lower bitrate threshold below which cyclic refresh is turned off."

Merge "Reconcile active_map and cyclic refresh"

Merge "Reset src buffer only once in vp9_int_pro_motion_estimation"

Merge "Reduce the number of full block SAD calls"

Use sdx4df to do 1-step refinement

Change-Id: Ie0c3ef3ae3aedf049b1a296de607730b79c12672

Lower bitrate threshold below which cyclic refresh is turned off.

Change-Id: Ib54ab11adf8178eec74f65388a89c8f912c7869a

Merge "Shorten GF/arf interval in hard scenes."

Set default encode test driver to 1 column and 1 thread.

Change-Id: I70ee538609cefad76b8ce9b225bbf8d8447aff23

Merge changes Ic54c88ec,I6f120b65

* changes:
  Added comment for vp9 only codec controls
  Rename a vp9 only control with vp9e prefix

Reset src buffer only once in vp9_int_pro_motion_estimation

Change-Id: I5c96b6a25f9df60da65b7af7c92a921b611746e3

Merge "vp9_pick_inter_mode(): Use single loop to evaluate inter modes"

Added comment for vp9 only codec controls

Comments are updated to reflect that these controls apply to VP9 only,
thereby, to insure the document produced by doxygent to reflect the
same fact too.

Change-Id: Ic54c88ec066aa0ec4552d43dd4a7016e1f810f42