vp9/decoder/vp9_detokenize: fix int sanitizer warnings

From unit test: VP9MultiThreaded/InvalidFileTest
implicit conversion from type 'int' of value 83144 (32-bit, signed) to
type 'tran_low_t' (aka 'short') changed the value to 17608 (16-bit,
 signed)

 BUG=webm:1615
 BUG=webm:1648

Change-Id: I4170494c328596ace66432c8563c55f31745cf76

Merge "namespace ARCH_* defines"

namespace ARCH_* defines

this prevents redefinition warnings if a toolchain sets one

BUG=b/117240165

Change-Id: Ib5d8c303cd05b4dbcc8d42c71ecfcba8f6d7b90c

Fix python3 format issue

Change-Id: If0fed04c8682baee82efbdf5b4f90bcc8e8ac102

Merge "vp9-rtc: Fix to speed 4 for real-time mode"

vp9-rtc: Fix to speed 4 for real-time mode

Fix some speed feature settings for speed 4
in real-time mode.

Use rd pickmode (i.e.,nonrd_pick_mode=0), but
use variance partitioning. Allow aq-mode=3 to
work at speed 4 and modify some other speed settings.
This makes it much faster than the current speed 4,
and still better quality than speed 5.

Change-Id: I94ec43ccac022030a75b5a528703be0c37f9a35c

Merge "Remove USE_PQSORT and CHANGE_MV_SEARCH_ORDER"

Remove USE_PQSORT and CHANGE_MV_SEARCH_ORDER

Remove the feature_score related code to simplify the code.
The feature_score is incorporated in get_local_structure and will
be integrated in later.
The current non_greedy_mv performances are
lowres: -0.239% midres: -0.569% hdres: -0.365%

Change-Id: Ida28bb1baff6932f1c28b24d371a35a1546fa7e9

vp9-svc: Fix to forced key frame for spatial layers

Condition to disallow key frames on spatial
enhancement layers should be based on the
first_spatial_layer_to_encode, which need not be
layer 0.

Change-Id: If6bc67568151c38c9c98290e5838a23b3ab18e8a

Merge "Remove redundant comment"

Remove redundant comment

Change-Id: I2020d21701ec7a7b018c4063918232098124d033

Merge "Move vp9_alloc_motion_field_info"

Move vp9_alloc_motion_field_info

Move vp9_alloc_motion_field_info out of init_tpl_buffer, so that
vp9_alloc_motion_field_info will be called even though there is
not alternate reference frame.

This fix the crash with shields_720p50 at bitrate 2000

Change-Id: If2877e8d0b8a834556be12d239b7b58ad1fc8c73

Fix msan on svc tests.

BUG=b/140939146

Change-Id: Ib3e714f01c58fc0452c7e1adfc8fd3f1d9f8e0a0

Merge "vp9_quantize_sse2: quiet clang-7 integer sanitizer warning"

vpx_clear_system_state after drop due to overshoot

BUG=999780

Change-Id: I096fdc22812eab22a38a33135c0cbe60a6e64add

vp9_quantize_sse2: quiet clang-7 integer sanitizer warning

nzflag is used as a boolean, it doesn't need to be a sized type, int is
enough (and _mm_movemask_epi8 returns one)

fixes:
vp9_quantize_sse2.c:136:16: implicit conversion from type
'int' of value 65535 (32-bit, signed) to type 'int16_t' (aka 'short')
changed the value to -1 (16-bit, signed)

BUG=webm:1649

Change-Id: I0e3f5278af49d84760f3dfb607f28099cf02f21d

vp9-svc: Add new frame drop mode for SVC

add SVC framedrop mode: Lower spatial layers
are constrained to drop if current spatial layer
needs to drop.

No change in behavior to other existing modes.

Change-Id: I2d37959caf8c4b453b405904831b550367f716ba

Merge "Don't generate mv refs that won't be used"

Merge "Upload Motion Field Estimation Unit Test Files"

Report failure of vp9_alloc_motion_field_info

Change-Id: I87f2a8dbf4e89b1cc8526307e82812aea6ac137e

Upload Motion Field Estimation Unit Test Files

Change-Id: Ia8f9e9dca562183ff188cd29dfc7ba3435d77900

Free set_mv properly

Change-Id: I9b1830dc16189678121c860e0493ed8b04c512a8

Don't generate mv refs that won't be used

Spends 25% less time in dec_find_mv_refs for
grass_1_1280X768_fr30_bd8_sub8X8_l31.webm saving 0.7% overall.

Change-Id: I658bb5d6dd8ac82a568c7823dea3f4947ad7ed73

Merge "Move motion field from TplDepFrame to MotionField"

Merge "Add resize test for smaller width bigger size."

Merge "vpx_dsp/x86/highbd_idct4x4_add_sse2: fix int sanitizer warnings"

Move motion field from TplDepFrame to MotionField

Replace get_pyramid_mv by vp9_motion_field_mi_get_mv.

The goal is to modularize motion field related operations.

Change-Id: I33084e680567ab106659ba9389cc4b507b893c69

Merge changes I0fad9437,I79fcb1fd,I93660044

* changes:
  Add MACRO MAX_INTER_REF_FRAMES
  Add motion_filed_info in VP9_COMP
  Add free_tpl_buffer

Add resize test for smaller width bigger size.

Stack trace is the same as that in the bug.

BUG=webm:1642

Change-Id: I9d88c18a40af8df4a679727620070b13f1606f14

vpx_dsp/x86/highbd_idct4x4_add_sse2: fix int sanitizer warnings

implicit conversion from type 'int' of value 49161 (32-bit, signed) to
type 'int16_t' (aka 'short') changed the value to -16375 (16-bit,
signed)

BUG=webm:1615

Change-Id: I3f18283609ac2ce365202a63ef61a47eb00c155b

Merge "vp8/encoder/vp8_quantize: fix int sanitizer warnings"

Add MACRO MAX_INTER_REF_FRAMES

Use MAX_INTER_REF_FRAMES wheneve it's suitable

Change-Id: I0fad94371a6600099313685cbe38faebb44178c4

Add motion_filed_info in VP9_COMP

Call vp9_alloc_motion_field_info and
vp9_free_motion_field_info properly

Change-Id: I79fcb1fd37ee5e95bf7febb728480583ebd5a065

Add free_tpl_buffer

Change-Id: I93660044880ec08dc716138d492c757d510e0952

Merge "Cosmetic changes to vp9_alloc_motion_field_info"

vp8/encoder/vp8_quantize: fix int sanitizer warnings

 implicit conversion from type 'int' of value 65536
 (32-bit, signed) to type 'short' changed the value to 0 (16-bit, signed)

 BUG=webm:1615

Change-Id: I6a04e57bd3272934de9c75fab60a1620ff6c3636

Merge "test/acm_random.h: int sanitizer warning"

Cosmetic changes to vp9_alloc_motion_field_info

Change-Id: I6808ac11a9a0f2137b30ae66773f6e3dcccef77d

test/acm_random.h: int sanitizer warning

runtime error: implicit conversion from type 'int' of value
-61240 (32-bit, signed) to type 'int16_t' (aka 'short') changed the
value to 4296 (16-bit, signed)

BUG=webm:1615

Change-Id: I213fc153f0df9ea46737a7fb98d909e670125724

Merge "Add Search Smooth Models[Adapt/Fix]"

Merge "Add Anandan model"

Merge "Fix some bugs of python code"

Merge changes I13f59f52,I7441e041,I7441e041

* changes:
  add unit test for local structure computation
  add unit test for smooth motion field
  modify smooth model(float type mv + normalization)

Merge "Let do_motion_search process one ref at at time"

Merge "vpx_dsp/loopfilter.c: fix int sanitizer warnings"

Add Search Smooth Models[Adapt/Fix]

Change-Id: Ia88d16a14b0525d880ac17a133700431949ece31

Add Anandan model

Change-Id: Ic3450125c83b41e7e4a953093b4d8177f04d220a

Fix some bugs of python code

Change-Id: I509cbda24d7d0c8dac75209efa40e24c09a107c5

Exhaust: add exhaust search with neighbor constraint
GroundTruth: be able to import motion field variable
MotionEST: use new function names
Util: be able to set the size of image
Change-Id: I36cfdf4b1f28b8190b3ad2be61c241da1347cfc3

test/vp9_quantize_test: fix int sanitizer warning

implicit conversion from type 'int' of value 42126 (32-bit, signed)
to type 'tran_low_t' (aka 'short') changed the value to -23410 (16-bit, signed)

BUG=webm:1615

Change-Id: I339c640fce81e9f2dd73ef9c9bee084b6a5638dc

vpx_dsp/loopfilter.c: fix int sanitizer warnings

implicit conversion from type 'int' of value -139 (32-bit, signed)
to type 'int8_t' (aka 'signed char') changed the value to 117 (8-bit, signed)

BUG=webm:1615

Change-Id: Ic64959759f4a188087aa24bedbae5f9fa60674ad

Merge "vpx_dsp/x86/fwd_txfm_sse2: fix int sanitizer warnings"

add unit test for local structure computation

Change-Id: I13f59f529204070faf076144124069c3b1180633

add unit test for smooth motion field

Change-Id: I7441e04190b8a797f3863166e95b3b6c9924ab51

modify smooth model(float type mv + normalization)

Change-Id: I7441e04190b8a797f3863166e95b3b6c9924ab50

update libwebm to libwebm-1.0.0.27-363-g37d9b86

clears a compiler warning

changelog:
https://chromium.googlesource.com/webm/libwebm/+log/81de00c..37d9b86

Change-Id: I7a9cce81cb193305220059b12071019d46155be2

Merge "vp8/encoder/bitstream: fix int sanitizer warnings"

Merge "test/lpf_test: fix int sanitizer warning"

vpx_dsp/x86/fwd_txfm_sse2: fix int sanitizer warnings

implicit conversion from type 'int' of value 32768 (32-bit, signed)
to type 'short' changed the value to -32768 (16-bit, signed)

BUG=webm:1615

Change-Id: I7cdba7f7e550f62fd3ac31574e49b1909b6ab054

Update documentation: CRF works with VPX_Q mode

Tested that if VPX_Q is set, this variable will still be used
to pull the CRF value.

Change-Id: I065a219a7acd18b50478d4d0d3dc7ba5e1c90901

Merge "Add [full/sub]_pixel_motion_search"

Merge "Add 6:1:1 weighted PSNR to opsnr.stt"

Let do_motion_search process one ref at at time

Change-Id: Iee3f2d1fbeddeee27400edb6fe1519c39352901d

Add [full/sub]_pixel_motion_search

Change-Id: Idcd3c3178f583b8584e2b34ca2fbe96337feaadd

Add MotionField and MotionFieldInfo

Also add related buffer alloc/free functions.

Change-Id: I77dde3dd991f6b21b5c2c1ffa72300ce7738fd50

Add temporary motion_compensated_prediction_new

Temporarily add motion_compensated_prediction_new() to
decouple non_greedy_mv's motion search from baseline.

We need to decouple non_greedy_mv's full pixel motion search and
sub pixel motion search

Change-Id: I1a0e4a170c19b5b718e9d19b62268b520105a0ef

Merge "estimate local variation of reference frame"

Merge "smooth motion field"

estimate local variation of reference frame

Change-Id: I4218057403ad4f565ee2dcb5403ecaae17af7e26

smooth motion field

Change-Id: I1e8273fa65f7655e49f626863fe457efef23fb54

Add test_non_greedy_mv.cc

Change-Id: I7862d39ae52ab016bf6c3ba3aa4b8b1d9760cf27

Add 6:1:1 weighted PSNR to opsnr.stt

Change-Id: I6f519ff99bacbe6968d9271a224cc2cbc0958cd8

vp8/encoder/bitstream: fix int sanitizer warnings

implicit conversion from type 'unsigned int' of value 256
(32-bit, unsigned) to type 'unsigned char' changed the value to
0 (8-bit, unsigned)

BUG=webm:1615

Change-Id: I2b630bf22cad28b5a7a8a37f6938e6ebe12bc64e

test/lpf_test: fix int sanitizer warning

runtime error: implicit conversion from type 'int' of value 65594 (32-bit, signed)
to type 'uint16_t' (aka 'unsigned short') changed the value to 58 (16-bit, unsigned)

BUG=webm:1615

Change-Id: I6046a4a4fc0a108c337153f2c59d5cef5c8dcbd6

Merge "vp9_rdopt: fix integer sanitizer warnings"

Merge "Fix vp9_quantize_fp(_32x32)_neon for HBD"

Fix vp9_quantize_fp(_32x32)_neon for HBD

In high bitdepth build, Neon code would outrange because of use of
int16x8_t and vmulq_s16.
C code always truncate outrange values.

Change-Id: I33a968b8d812e3c8477f3a61d84482758a3f8b21

Merge "vp8/encoder/boolhuff: fix integer sanitizer warnings"

Merge "Fix saturation issue in vp9_quantize_fp_neon"

Merge "vp9_svc_layercontext.c: fix integer sanitizer warnings"

Merge "vpx_dsp/bitwriter.h: fix clang integer sanitizer warning"

Fix saturation issue in vp9_quantize_fp_neon

Change-Id: I7850a5c5aea3633e50e9a2efc8116b9e16383a8f

Reduce call num of exhaustive search

The encoding time difference between non_greedy_mv and baseline
is reduced from 51% to 13%

However, there is also a performance impact.

non_greedy_mv performance:
Before this CL
lowres 0.395% midres 0.716% hdres 0.533%
After this CL
lowres 0.242% midres 0.429% hdres 0.305%

Change-Id: I047d6509df504b264981c0b903c0cc955f45b273

Merge "Cosmetic changes of vp9_nb_mvs_inconsistency"

Merge "Change the child classes methods names to align with parent's"

vpx_dsp/bitwriter.h: fix clang integer sanitizer warning

implicit conversion from type 'unsigned int' of value 256 (32-bit, unsigned)
to type 'uint8_t' (aka 'unsigned char') changed the value to 0 (8-bit, unsigned)

BUG=webm:1615

Change-Id: Ia9ac3772021ae492368c650a73846e7d22c8fdfc

vp9_svc_layercontext.c: fix integer sanitizer warnings

implicit conversion from type 'int' of value -1
(32-bit, signed) to type 'uint8_t' (aka 'unsigned char') changed the
value to 255 (8-bit, unsigned

BUG=webm:1615

Change-Id: If507e73aea4dccd3914b6470f8d15db3b67300ce

vp9_rdopt: fix integer sanitizer warnings

implicit conversion from type 'int' of value -9 (32-bit, signed) to type
'uint8_t' (aka 'unsigned char') changed the value to 247 (8-bit, unsigned)

BUG=webm:1615

Change-Id: Ic2254ef4312f349ee38ec6e12a56b2cd5714b101

sad_test: align exp_sad[]

fixes a crash on win32 in SSE4_1/SAD*

BUG=webm:1637

Change-Id: I9838915dccf8ed435d1326bc43465edd89687c18

Cosmetic changes of vp9_nb_mvs_inconsistency

Change-Id: I41022a2dca996657b64ffb0ede4df3ab6a466ab6

Merge "Add vp9_non_greedy_mv.c/h"

Merge "vp9-rtc: Add intra speed feature for speed >= 8"

Merge "Add Horn & Schunck Estimator"

Merge "Add Exhaust Search (Neighbor Constrain) Estimator"

Merge "Add Ground Truth Estimator"

Change the child classes methods names to align with parent's

Add comments to explain the coordinate system

Change-Id: Ib87ae479e08b4e3c3e7d9a3d1b4ab30718b42cfd

Merge "Based Class of Motion Field Estimators"

Add Horn & Schunck Estimator

Add Matrix solver
Fix a little bug in MotionEST

Change-Id: I8513475646f4f02df31b245fa750483449de9407

Add Exhaust Search (Neighbor Constrain) Estimator

Change-Id: I1e306979a0d308285155c152837125fb2036091a

Add Ground Truth Estimator

Change-Id: Iec6c7e49a64610e33a77c7d5d772e6b063a0f1e0