vp9-svc: Fix to forced key frame for spatial layers

Condition to disallow key frames on spatial
enhancement layers should be based on the
first_spatial_layer_to_encode, which need not be
layer 0.

Change-Id: If6bc67568151c38c9c98290e5838a23b3ab18e8a
(cherry picked from commit b8d86733e9d9c58e17028720751f96dad2df7a09)

BUG=1007513

Change-Id: I6ac6e41ac821ce32abbff5e4e9638929209876bc

vp9-svc: Add new frame drop mode for SVC

add SVC framedrop mode: Lower spatial layers
are constrained to drop if current spatial layer
needs to drop.

No change in behavior to other existing modes.

Change-Id: I2d37959caf8c4b453b405904831b550367f716ba
(cherry picked from commit 5a0242ba5c8fddbf32766bfa2ffbbd25f3cd6167)

Cosmetic changes to vp9_alloc_motion_field_info

Change-Id: I6808ac11a9a0f2137b30ae66773f6e3dcccef77d

Merge "Add Search Smooth Models[Adapt/Fix]"

Merge "Add Anandan model"

Merge "Fix some bugs of python code"

Merge changes I13f59f52,I7441e041,I7441e041

* changes:
  add unit test for local structure computation
  add unit test for smooth motion field
  modify smooth model(float type mv + normalization)

Merge "Let do_motion_search process one ref at at time"

Merge "vpx_dsp/loopfilter.c: fix int sanitizer warnings"

Add Search Smooth Models[Adapt/Fix]

Change-Id: Ia88d16a14b0525d880ac17a133700431949ece31

Add Anandan model

Change-Id: Ic3450125c83b41e7e4a953093b4d8177f04d220a

Fix some bugs of python code

Change-Id: I509cbda24d7d0c8dac75209efa40e24c09a107c5

Exhaust: add exhaust search with neighbor constraint
GroundTruth: be able to import motion field variable
MotionEST: use new function names
Util: be able to set the size of image
Change-Id: I36cfdf4b1f28b8190b3ad2be61c241da1347cfc3

test/vp9_quantize_test: fix int sanitizer warning

implicit conversion from type 'int' of value 42126 (32-bit, signed)
to type 'tran_low_t' (aka 'short') changed the value to -23410 (16-bit, signed)

BUG=webm:1615

Change-Id: I339c640fce81e9f2dd73ef9c9bee084b6a5638dc

vpx_dsp/loopfilter.c: fix int sanitizer warnings

implicit conversion from type 'int' of value -139 (32-bit, signed)
to type 'int8_t' (aka 'signed char') changed the value to 117 (8-bit, signed)

BUG=webm:1615

Change-Id: Ic64959759f4a188087aa24bedbae5f9fa60674ad

Merge "vpx_dsp/x86/fwd_txfm_sse2: fix int sanitizer warnings"

add unit test for local structure computation

Change-Id: I13f59f529204070faf076144124069c3b1180633

add unit test for smooth motion field

Change-Id: I7441e04190b8a797f3863166e95b3b6c9924ab51

modify smooth model(float type mv + normalization)

Change-Id: I7441e04190b8a797f3863166e95b3b6c9924ab50

update libwebm to libwebm-1.0.0.27-363-g37d9b86

clears a compiler warning

changelog:
https://chromium.googlesource.com/webm/libwebm/+log/81de00c..37d9b86

Change-Id: I7a9cce81cb193305220059b12071019d46155be2

Merge "vp8/encoder/bitstream: fix int sanitizer warnings"

Merge "test/lpf_test: fix int sanitizer warning"

vpx_dsp/x86/fwd_txfm_sse2: fix int sanitizer warnings

implicit conversion from type 'int' of value 32768 (32-bit, signed)
to type 'short' changed the value to -32768 (16-bit, signed)

BUG=webm:1615

Change-Id: I7cdba7f7e550f62fd3ac31574e49b1909b6ab054

Update documentation: CRF works with VPX_Q mode

Tested that if VPX_Q is set, this variable will still be used
to pull the CRF value.

Change-Id: I065a219a7acd18b50478d4d0d3dc7ba5e1c90901

Merge "Add [full/sub]_pixel_motion_search"

Merge "Add 6:1:1 weighted PSNR to opsnr.stt"

Let do_motion_search process one ref at at time

Change-Id: Iee3f2d1fbeddeee27400edb6fe1519c39352901d

Add [full/sub]_pixel_motion_search

Change-Id: Idcd3c3178f583b8584e2b34ca2fbe96337feaadd

Add MotionField and MotionFieldInfo

Also add related buffer alloc/free functions.

Change-Id: I77dde3dd991f6b21b5c2c1ffa72300ce7738fd50

Add temporary motion_compensated_prediction_new

Temporarily add motion_compensated_prediction_new() to
decouple non_greedy_mv's motion search from baseline.

We need to decouple non_greedy_mv's full pixel motion search and
sub pixel motion search

Change-Id: I1a0e4a170c19b5b718e9d19b62268b520105a0ef

Merge "estimate local variation of reference frame"

Merge "smooth motion field"

estimate local variation of reference frame

Change-Id: I4218057403ad4f565ee2dcb5403ecaae17af7e26

smooth motion field

Change-Id: I1e8273fa65f7655e49f626863fe457efef23fb54

Add test_non_greedy_mv.cc

Change-Id: I7862d39ae52ab016bf6c3ba3aa4b8b1d9760cf27

Add 6:1:1 weighted PSNR to opsnr.stt

Change-Id: I6f519ff99bacbe6968d9271a224cc2cbc0958cd8

vp8/encoder/bitstream: fix int sanitizer warnings

implicit conversion from type 'unsigned int' of value 256
(32-bit, unsigned) to type 'unsigned char' changed the value to
0 (8-bit, unsigned)

BUG=webm:1615

Change-Id: I2b630bf22cad28b5a7a8a37f6938e6ebe12bc64e

test/lpf_test: fix int sanitizer warning

runtime error: implicit conversion from type 'int' of value 65594 (32-bit, signed)
to type 'uint16_t' (aka 'unsigned short') changed the value to 58 (16-bit, unsigned)

BUG=webm:1615

Change-Id: I6046a4a4fc0a108c337153f2c59d5cef5c8dcbd6

Merge "vp9_rdopt: fix integer sanitizer warnings"

Merge "Fix vp9_quantize_fp(_32x32)_neon for HBD"

Fix vp9_quantize_fp(_32x32)_neon for HBD

In high bitdepth build, Neon code would outrange because of use of
int16x8_t and vmulq_s16.
C code always truncate outrange values.

Change-Id: I33a968b8d812e3c8477f3a61d84482758a3f8b21

Merge "vp8/encoder/boolhuff: fix integer sanitizer warnings"

Merge "Fix saturation issue in vp9_quantize_fp_neon"

Merge "vp9_svc_layercontext.c: fix integer sanitizer warnings"

Merge "vpx_dsp/bitwriter.h: fix clang integer sanitizer warning"

Fix saturation issue in vp9_quantize_fp_neon

Change-Id: I7850a5c5aea3633e50e9a2efc8116b9e16383a8f

Reduce call num of exhaustive search

The encoding time difference between non_greedy_mv and baseline
is reduced from 51% to 13%

However, there is also a performance impact.

non_greedy_mv performance:
Before this CL
lowres 0.395% midres 0.716% hdres 0.533%
After this CL
lowres 0.242% midres 0.429% hdres 0.305%

Change-Id: I047d6509df504b264981c0b903c0cc955f45b273

Merge "Cosmetic changes of vp9_nb_mvs_inconsistency"

Merge "Change the child classes methods names to align with parent's"

vpx_dsp/bitwriter.h: fix clang integer sanitizer warning

implicit conversion from type 'unsigned int' of value 256 (32-bit, unsigned)
to type 'uint8_t' (aka 'unsigned char') changed the value to 0 (8-bit, unsigned)

BUG=webm:1615

Change-Id: Ia9ac3772021ae492368c650a73846e7d22c8fdfc

vp9_svc_layercontext.c: fix integer sanitizer warnings

implicit conversion from type 'int' of value -1
(32-bit, signed) to type 'uint8_t' (aka 'unsigned char') changed the
value to 255 (8-bit, unsigned

BUG=webm:1615

Change-Id: If507e73aea4dccd3914b6470f8d15db3b67300ce

vp9_rdopt: fix integer sanitizer warnings

implicit conversion from type 'int' of value -9 (32-bit, signed) to type
'uint8_t' (aka 'unsigned char') changed the value to 247 (8-bit, unsigned)

BUG=webm:1615

Change-Id: Ic2254ef4312f349ee38ec6e12a56b2cd5714b101

sad_test: align exp_sad[]

fixes a crash on win32 in SSE4_1/SAD*

BUG=webm:1637

Change-Id: I9838915dccf8ed435d1326bc43465edd89687c18

Cosmetic changes of vp9_nb_mvs_inconsistency

Change-Id: I41022a2dca996657b64ffb0ede4df3ab6a466ab6

Merge "Add vp9_non_greedy_mv.c/h"

Merge "vp9-rtc: Add intra speed feature for speed >= 8"

Merge "Add Horn & Schunck Estimator"

Merge "Add Exhaust Search (Neighbor Constrain) Estimator"

Merge "Add Ground Truth Estimator"

Change the child classes methods names to align with parent's

Add comments to explain the coordinate system

Change-Id: Ib87ae479e08b4e3c3e7d9a3d1b4ab30718b42cfd

Merge "Based Class of Motion Field Estimators"

Add Horn & Schunck Estimator

Add Matrix solver
Fix a little bug in MotionEST

Change-Id: I8513475646f4f02df31b245fa750483449de9407

Add Exhaust Search (Neighbor Constrain) Estimator

Change-Id: I1e306979a0d308285155c152837125fb2036091a

Add Ground Truth Estimator

Change-Id: Iec6c7e49a64610e33a77c7d5d772e6b063a0f1e0

Based Class of Motion Field Estimators

Change-Id: Id01ce15273c0cab0cd61d064099d200708360265

vp9-rtc: Add intra speed feature for speed >= 8

Add intra speed feature to force DC only under intra mode
testing when source sad for superblock is not high.
Feature is only enable at speed >=8. With this feature
enabled at speed 8 we now allow for H/V intra check as
well for speed 8.

This helps to redude artifacts for speed 8, by allowing H/V mode
to be checked for blocks when the superblock has high
source sad/content change.

Change-Id: I0495ce96b4cc844e8c625b5183eef180dbaaaa72

Merge "Remove unused fb_cb related fields from VP9_COMMON"

Add vp9_non_greedy_mv.c/h

Move vp9_nb_mvs_inconsistency to vp9_non_greedy_mv.c
This is to facilitate following SIMD optimizations.

Change-Id: I8eb8f820368928e0c4fb287e557cddf0bd2c763e

Merge changes I3216c984,I70d40060

* changes:
  Make vp9_prepare_nb_full_mvs only return valid mvs
  Let vp9_nb_mvs_inconsistency call log2 just once

Remove unused fb_cb related fields from VP9_COMMON

Remove the cb_priv, get_fb_cb, release_fb_cb, and int_frame_buffers
fields from the VP9_COMMON struct. They are not being used.

Change-Id: I235194aa8b315cd8ec9405bbba5feb3bee69f7e0

Make vp9_prepare_nb_full_mvs only return valid mvs

In this case, vp9_nb_mvs_inconsistency doesn't need to check
whether each neighbor mv is valid or not.

non_greedy_mv encoding time is reduced by 1.5%

Change-Id: I3216c98481e777d5e0b917ea20ee39b7ca9c9d23

Let vp9_nb_mvs_inconsistency call log2 just once

The bahavior of this function is to compute log2 of mv difference,
i.e. min log2(1 + row_diff * row_diff + col_diff * col_diff)
against available neghbor mvs.
Since the log2 is monotonic increasing, we can compute
min row_diff * row_diff + col_diff * col_diff first
then apply log2 in the end

non_greedy_mv encoding time is reduced by 1.5%

Change-Id: I70d40060e2621daec27229f1f6d9fea0286aa04e

Merge "Fix comment typos."

Fix comment typos.

Fix comment typos in transpose_s16_4x4q() and transpose_u16_4x4q().

Change-Id: I21bcc1fb3fb880798e5a3927c3dbe81dd518c83b

Add vpx_sad32x32x8_c/avx2

Change-Id: I4dbb7b6c8979c39eb6ffb97750e3cca0f4b7921f

Add unit test for vpx_sadMxNx8

Change-Id: Ica85e3738708e2a6cc7388fd2cbf6a8840a540d5

Merge remote-tracking branch 'origin/orpington'

BUG=webm:1624

Change-Id: I62e7154d95b3361d6184f0448430bed951f15044

Merge "Limit active best quality of layered ARF frames"

Release v1.8.1 Orpington Duck

BUG=webm:1624

Change-Id: Ibd63b64058e52448e0916939a3f85eb23c8161b6

Merge changes I9288c88d,Ib1ac6f57,I02fac56a,Id6a8b117

* changes:
  Use sdx8f in exhaustive_mesh_search_single_step
  Sync the behavior of exhaustive_mesh_search
  Refactor exhaustive_mesh_search_new
  Simplify code in exhaustive_mesh_search_new

Merge "Revert "Set up frame contexts based on frame type""

Revert "Set up frame contexts based on frame type"

This reverts commit affd9921e405063ed7815f412b15e634c8c9cfca.

Reason for revert:  Quality regression
(VP9/EndToEndTestLarge.EndtoEndPSNRTest/195 failed)

BUG=webm:1635

Original change's description:
> Set up frame contexts based on frame type
>
> In single layer ARF case, use different frame
> contexts for KF, ARF/GF, LF, OVERLAY update types.
>
> Change-Id: Iebb7f9bb430e483dea1e75fc122b9b67645ce804

Change-Id: I98a4eaa6ec0ae6616ea5ad35d1580501b7422e1b

Use sdx8f in exhaustive_mesh_search_single_step

This speed up non_greedy_mv by 4%

Change-Id: I9288c88db56ea4201a7ec4493ca5c567d76af0f1

Sync the behavior of exhaustive_mesh_search

Change-Id: Ib1ac6f57519eb4da93e7c75b0c26a372ffc5d524

Refactor exhaustive_mesh_search_new

Add the following two functions:
exhaustive_mesh_search_multi_step
exhaustive_mesh_search_single_step

Change-Id: I02fac56a815b091beab2203afce560d7d29aad44

Simplify code in exhaustive_mesh_search_new

Change-Id: Id6a8b117b066a56e9312f528ec8f417dd4b2a2d8

Merge "Adjust the quality of boosted frames"

Merge "Set up frame contexts based on frame type"

Merge "Modify frame context index"

vp9-rtc: Reduce color artifact for speed 8

Push the reduced chroma check to speed > 8.

Change-Id: I92dd0aa9933bb5417b1dc5eef8f805ee51e04ac9

vp9: Use mb_rows/cols from VP9_COMMON in postproc.

When frame height is not divisible by 16, the calculation of mb_rows in
postproc was wrong.

Change-Id: I69d108f1b8facdd5650b5b7928a0033b268530d2

Merge "Remove android_tools deps"

Remove android_tools deps

Bug: 428426
Change-Id: Ia3c31fe2b513ac995baad15c8376c590fd1104f7

vp9_cx_iface,encoder_encode: fix -Wclobbered for pts

Change-Id: Ia7fd4fedb0dcbb626d0e7f4951360e2462b518e2
(cherry picked from commit ae3c6e9ec7dbaad8ee507b1c531c54bdc0141e9f)

Merge "vp9_cx_iface,encoder_encode: fix -Wclobbered for pts"

vp9-rtc: Fix color artifacts for speed >= 8

Fix to avoid color artifacts observed for speed >= 8.
In model_rd_large in non_rd pickmode: always do the
transform skipping test for UV plane.

BUG=b/136198713

Change-Id: Idd91322fb898fe731846d8581b21010096f87680
(cherry picked from commit c33c7ca85fa7b28658f3b086d579a7fbbcf41dea)

vp9-rtc: Fix color artifacts for speed >= 8

Fix to avoid color artifacts observed for speed >= 8.
In model_rd_large in non_rd pickmode: always do the
transform skipping test for UV plane.

BUG=b/136198713

Change-Id: Idd91322fb898fe731846d8581b21010096f87680

Adjust the quality of boosted frames

As the boosted frames, early in key frame interval,
are used as reference by many subsequent boosted frames,
boosted frames that are closer to the reference key frame
should be allocated with more target bits than the rest.
Similarly, the active best quality should be lower for
boosted frames early in the key interval and vice versa.
Hence, the bits allocation and active best quality are varied
based on their temporal position in the key frame interval.

Change-Id: I1362248560d074b9e209657a23ae73dda0b01d52

vp9_cx_iface,encoder_encode: fix -Wclobbered for pts

Change-Id: Ia7fd4fedb0dcbb626d0e7f4951360e2462b518e2

add flags for empty blocks

Change-Id: Iedf3bdd87d203db5163d3cc47fcbef1fd002218f

vp8/encoder/boolhuff: fix integer sanitizer warnings

from sanitizer run:
runtime error: implicit conversion from type 'unsigned int' of value 256
(32-bit, unsigned) to type 'unsigned char' changed the value to
 0 (8-bit, unsigned)

BUG=webm:1615

Change-Id: I9321bbd58a305419bc8669ecd7594adc47e8b116