Remove detect_transition_to_still()

Change-Id: I877f55355fc85d67f46bb76e521a19d35d76df09

Change the interface of find_next_key_frame

Change-Id: I9c25cbac2953755efa9fd72f59149f26513d1977

Refactor kf_group_err in find_next_key_frame

Move the computation out of the while loop.

Change-Id: I00697e9a16d5d597c63e5d9895e4ae00efc7a2df

Simplify the logics in find_next_key_frame

Since the while loop's condition already check
rc->frames_to_key < cpi->oxcf.key_freq,
it impossible to have "frames_to_key >= 2 * cpi->oxcf.key_freq"
and "frames_to_key > cpi->oxcf.key_freq".

Hence, these logics are removed.

Change-Id: I9dfc2ba36e1012718c857fc710036e2d30acd3b8

Add get_gop_coding_frame_num()

This function will decide number of coding frames and whether to
use altref

Change-Id: I736190512ea92ce5387600712bd0e250ad7cb44c

Localize zero_motion_accumulator

Change-Id: Ib4d37667c217cb06e6941de7b3204ba71b880396

Rename num_show_frames by num_coding_frames

Change-Id: I2acc7d6bde2ec2fae4460869663db1e8f6c576fe

Use compute_arf_boost() in define_gf_group()

Remove reset_fpf_position() because
compute_arf_boost does not count on twopass->stats_in

Change-Id: I560dccfcc4a2cbaa8e78a493a070a416465db4a9

Localize av_err mean_mod_score in define_gf_group

Change-Id: I3fb23f5c8df1c3276b663a32556ca800b7ba2ade

Move code of deciding gop size into brackets

Identify the internal params used for deciding gop size

Change-Id: Ifa24a501952e06e5779a4fd2050dd486083cfa4c

Localize last_loop_decay_rate

Change-Id: I1d71908a79ff494c4fb32dab0dc881f7a70bd519

Make get_zero_mtion_factor avoid using cpi

Change-Id: Id1b41c3b77a7eae6c2934efbff2608094ee7b3c5

Add check_transition_to_still()

The behavior is the same as that of detect_transition_still,
only we void using cpi and twopass->stats_in

Change-Id: I07722c817d98d8e4991a0a883235a582db8b5c3c

Add compute_arf_boost()

It's behavior is the same as that of calc_arf_boost()
But, we avoid using cpi and twopass->stats_in

Change-Id: I31cf7889abf43effcca9004a9d55f4b424ce388a

Correct the num_frams of fps_init_first_pass_info

Note the last packet is cumulative first pass stats.
So the number of frames is packet number minus one

Change-Id: I5f617e7eeb63d17204beaaeb6422902ec076caeb

Simplify the logics of computing gf_group_err etc

Move the logics of computing
gf_group_err, gf_group_raw_error, gf_group_noise,
gf_group_skip_pct, gf_group_inactive_zone_rowsa,
gf_group_inter, gf_group_motion
into one for loop

The behavior stays the same.

Change-Id: Idbc338a88469bf7a2786c831880e8aba8ed4feb5

Add calc_norm_frame_score()

The behavior is the same as calculate_norm_frame_score(),
but we avoid use cpi.

Change-Id: I3400abcdd02e041eb3b1ebf402b40b97df00d6f4

Remove mod_frame_err in define_gf_group

Change-Id: I3cefcc797e8756c9d3256321679784a356fc1946

Simplify the if clause in define_gf_group

Change-Id: I70a06a4f48c5a215831d8b6e918eebc3041ef65a

Refactor calc_frame_boost()

Replace detect_flash() by detect_flash_from_frame_stats()

Change-Id: I31862820926b5167ff70cebe2009c04aa745a019

Add first_pass_info in TWO_PASS

This is part of the change aims at replacing
stats_in/stats_in_start/stats_in_end by first_pass_info.

Change-Id: Ibcd2a08e57cb749fe68996f33fe3a5e7f92b1758

Refactor get_prediction_decay_rate()

Replace cpi by frame_info
Rename next_frame by frame_stats

Change-Id: I909f01ce724aac13030931970fba8b7b3f4d0080

Replace cpi by frame_info in get_sr_decay_rate()

Change-Id: I8ed925edb12345042cf3e446095b4ad4acfa11c4

Change the interface of calc_frame_boost

Replace cpi by frame_info and avg_frame_qindex

Change-Id: Ie63526ac9942acf75cc416fcaa0a169838b23322

Use frame_info in calculate_active_area

Change-Id: I16049bef4aee54c915dc5cf181111c5a334b5eaf

Add FRAME_INFO into VP9_COMP

Change-Id: Ibc804f2420113010013c04dc005b02dfebdfda8a

Add detect_flash_from_frame_stats()

Change-Id: I06a64b45045334cf9563d27e154a3b8095ad80a3

vp9: fix non bitexact when reuse_inter_pred is 0.

when the best filter selected is not EIGHTTAP_SMOOTH, and
reuse_inter_pred is 0, pred buffer was not pointing to the right place.

Change-Id: I5b519fedd2d892bf140879faa74b463a161e253b

Merge "vp9/common/vp9_reconinter: fix int sanitizer warnings"

Merge "vpx_dsp/quantize: fix int sanitizer warnings"

vp9/common/vp9_reconinter: fix int sanitizer warnings

Unit Test: VP9/InvalidFileTest
implicit conversion from type 'int' of value -65536 (32-bit, signed) to
type 'int16_t' (aka 'short') changed the value to 0 (16-bit, signed)

BUG=webm:1615
BUG=webm:1645

Change-Id: I4ce0c6abf8b5bf43ee43e958ad75d9fa28b23eee

vpx_dsp/quantize: fix int sanitizer warnings

From unit test: AVX/VP9QuantizeTest; SSSE3/VP9QuantizeTest ...
implicit conversion from type 'int' of value -139812 (32-bit, signed)
to type 'tran_low_t' (aka 'short') changed the value to -8740 (16-bit,
 signed)

BUG=webm:1615

Change-Id: I730946ac6c7a250dcbcfd8a2712c0f1150ddb4fd

vp9/decoder/vp9_detokenize: fix int sanitizer warnings

From unit test: VP9MultiThreaded/InvalidFileTest
implicit conversion from type 'int' of value 83144 (32-bit, signed) to
type 'tran_low_t' (aka 'short') changed the value to 17608 (16-bit,
 signed)

 BUG=webm:1615
 BUG=webm:1648

Change-Id: I4170494c328596ace66432c8563c55f31745cf76

Merge "namespace ARCH_* defines"

namespace ARCH_* defines

this prevents redefinition warnings if a toolchain sets one

BUG=b/117240165

Change-Id: Ib5d8c303cd05b4dbcc8d42c71ecfcba8f6d7b90c

Fix python3 format issue

Change-Id: If0fed04c8682baee82efbdf5b4f90bcc8e8ac102

Merge "vp9-rtc: Fix to speed 4 for real-time mode"

vp9-rtc: Fix to speed 4 for real-time mode

Fix some speed feature settings for speed 4
in real-time mode.

Use rd pickmode (i.e.,nonrd_pick_mode=0), but
use variance partitioning. Allow aq-mode=3 to
work at speed 4 and modify some other speed settings.
This makes it much faster than the current speed 4,
and still better quality than speed 5.

Change-Id: I94ec43ccac022030a75b5a528703be0c37f9a35c

Merge "Remove USE_PQSORT and CHANGE_MV_SEARCH_ORDER"

Remove USE_PQSORT and CHANGE_MV_SEARCH_ORDER

Remove the feature_score related code to simplify the code.
The feature_score is incorporated in get_local_structure and will
be integrated in later.
The current non_greedy_mv performances are
lowres: -0.239% midres: -0.569% hdres: -0.365%

Change-Id: Ida28bb1baff6932f1c28b24d371a35a1546fa7e9

vp9-svc: Fix to forced key frame for spatial layers

Condition to disallow key frames on spatial
enhancement layers should be based on the
first_spatial_layer_to_encode, which need not be
layer 0.

Change-Id: If6bc67568151c38c9c98290e5838a23b3ab18e8a

Merge "Remove redundant comment"

Remove redundant comment

Change-Id: I2020d21701ec7a7b018c4063918232098124d033

Merge "Move vp9_alloc_motion_field_info"

Move vp9_alloc_motion_field_info

Move vp9_alloc_motion_field_info out of init_tpl_buffer, so that
vp9_alloc_motion_field_info will be called even though there is
not alternate reference frame.

This fix the crash with shields_720p50 at bitrate 2000

Change-Id: If2877e8d0b8a834556be12d239b7b58ad1fc8c73

Fix msan on svc tests.

BUG=b/140939146

Change-Id: Ib3e714f01c58fc0452c7e1adfc8fd3f1d9f8e0a0

Merge "vp9_quantize_sse2: quiet clang-7 integer sanitizer warning"

vpx_clear_system_state after drop due to overshoot

BUG=999780

Change-Id: I096fdc22812eab22a38a33135c0cbe60a6e64add

vp9_quantize_sse2: quiet clang-7 integer sanitizer warning

nzflag is used as a boolean, it doesn't need to be a sized type, int is
enough (and _mm_movemask_epi8 returns one)

fixes:
vp9_quantize_sse2.c:136:16: implicit conversion from type
'int' of value 65535 (32-bit, signed) to type 'int16_t' (aka 'short')
changed the value to -1 (16-bit, signed)

BUG=webm:1649

Change-Id: I0e3f5278af49d84760f3dfb607f28099cf02f21d

vp9-svc: Add new frame drop mode for SVC

add SVC framedrop mode: Lower spatial layers
are constrained to drop if current spatial layer
needs to drop.

No change in behavior to other existing modes.

Change-Id: I2d37959caf8c4b453b405904831b550367f716ba

Merge "Don't generate mv refs that won't be used"

Merge "Upload Motion Field Estimation Unit Test Files"

Report failure of vp9_alloc_motion_field_info

Change-Id: I87f2a8dbf4e89b1cc8526307e82812aea6ac137e

Upload Motion Field Estimation Unit Test Files

Change-Id: Ia8f9e9dca562183ff188cd29dfc7ba3435d77900

Free set_mv properly

Change-Id: I9b1830dc16189678121c860e0493ed8b04c512a8

Don't generate mv refs that won't be used

Spends 25% less time in dec_find_mv_refs for
grass_1_1280X768_fr30_bd8_sub8X8_l31.webm saving 0.7% overall.

Change-Id: I658bb5d6dd8ac82a568c7823dea3f4947ad7ed73

Merge "Move motion field from TplDepFrame to MotionField"

Merge "Add resize test for smaller width bigger size."

Merge "vpx_dsp/x86/highbd_idct4x4_add_sse2: fix int sanitizer warnings"

Move motion field from TplDepFrame to MotionField

Replace get_pyramid_mv by vp9_motion_field_mi_get_mv.

The goal is to modularize motion field related operations.

Change-Id: I33084e680567ab106659ba9389cc4b507b893c69

Merge changes I0fad9437,I79fcb1fd,I93660044

* changes:
  Add MACRO MAX_INTER_REF_FRAMES
  Add motion_filed_info in VP9_COMP
  Add free_tpl_buffer

Add resize test for smaller width bigger size.

Stack trace is the same as that in the bug.

BUG=webm:1642

Change-Id: I9d88c18a40af8df4a679727620070b13f1606f14

vpx_dsp/x86/highbd_idct4x4_add_sse2: fix int sanitizer warnings

implicit conversion from type 'int' of value 49161 (32-bit, signed) to
type 'int16_t' (aka 'short') changed the value to -16375 (16-bit,
signed)

BUG=webm:1615

Change-Id: I3f18283609ac2ce365202a63ef61a47eb00c155b

Merge "vp8/encoder/vp8_quantize: fix int sanitizer warnings"

Add MACRO MAX_INTER_REF_FRAMES

Use MAX_INTER_REF_FRAMES wheneve it's suitable

Change-Id: I0fad94371a6600099313685cbe38faebb44178c4

Add motion_filed_info in VP9_COMP

Call vp9_alloc_motion_field_info and
vp9_free_motion_field_info properly

Change-Id: I79fcb1fd37ee5e95bf7febb728480583ebd5a065

Add free_tpl_buffer

Change-Id: I93660044880ec08dc716138d492c757d510e0952

Merge "Cosmetic changes to vp9_alloc_motion_field_info"

vp8/encoder/vp8_quantize: fix int sanitizer warnings

 implicit conversion from type 'int' of value 65536
 (32-bit, signed) to type 'short' changed the value to 0 (16-bit, signed)

 BUG=webm:1615

Change-Id: I6a04e57bd3272934de9c75fab60a1620ff6c3636

Merge "test/acm_random.h: int sanitizer warning"

Cosmetic changes to vp9_alloc_motion_field_info

Change-Id: I6808ac11a9a0f2137b30ae66773f6e3dcccef77d

test/acm_random.h: int sanitizer warning

runtime error: implicit conversion from type 'int' of value
-61240 (32-bit, signed) to type 'int16_t' (aka 'short') changed the
value to 4296 (16-bit, signed)

BUG=webm:1615

Change-Id: I213fc153f0df9ea46737a7fb98d909e670125724

Merge "Add Search Smooth Models[Adapt/Fix]"

Merge "Add Anandan model"

Merge "Fix some bugs of python code"

Merge changes I13f59f52,I7441e041,I7441e041

* changes:
  add unit test for local structure computation
  add unit test for smooth motion field
  modify smooth model(float type mv + normalization)

Merge "Let do_motion_search process one ref at at time"

Merge "vpx_dsp/loopfilter.c: fix int sanitizer warnings"

Add Search Smooth Models[Adapt/Fix]

Change-Id: Ia88d16a14b0525d880ac17a133700431949ece31

Add Anandan model

Change-Id: Ic3450125c83b41e7e4a953093b4d8177f04d220a

Fix some bugs of python code

Change-Id: I509cbda24d7d0c8dac75209efa40e24c09a107c5

Exhaust: add exhaust search with neighbor constraint
GroundTruth: be able to import motion field variable
MotionEST: use new function names
Util: be able to set the size of image
Change-Id: I36cfdf4b1f28b8190b3ad2be61c241da1347cfc3

test/vp9_quantize_test: fix int sanitizer warning

implicit conversion from type 'int' of value 42126 (32-bit, signed)
to type 'tran_low_t' (aka 'short') changed the value to -23410 (16-bit, signed)

BUG=webm:1615

Change-Id: I339c640fce81e9f2dd73ef9c9bee084b6a5638dc

vpx_dsp/loopfilter.c: fix int sanitizer warnings

implicit conversion from type 'int' of value -139 (32-bit, signed)
to type 'int8_t' (aka 'signed char') changed the value to 117 (8-bit, signed)

BUG=webm:1615

Change-Id: Ic64959759f4a188087aa24bedbae5f9fa60674ad

Merge "vpx_dsp/x86/fwd_txfm_sse2: fix int sanitizer warnings"

add unit test for local structure computation

Change-Id: I13f59f529204070faf076144124069c3b1180633

add unit test for smooth motion field

Change-Id: I7441e04190b8a797f3863166e95b3b6c9924ab51

modify smooth model(float type mv + normalization)

Change-Id: I7441e04190b8a797f3863166e95b3b6c9924ab50

update libwebm to libwebm-1.0.0.27-363-g37d9b86

clears a compiler warning

changelog:
https://chromium.googlesource.com/webm/libwebm/+log/81de00c..37d9b86

Change-Id: I7a9cce81cb193305220059b12071019d46155be2

Merge "vp8/encoder/bitstream: fix int sanitizer warnings"

Merge "test/lpf_test: fix int sanitizer warning"

vpx_dsp/x86/fwd_txfm_sse2: fix int sanitizer warnings

implicit conversion from type 'int' of value 32768 (32-bit, signed)
to type 'short' changed the value to -32768 (16-bit, signed)

BUG=webm:1615

Change-Id: I7cdba7f7e550f62fd3ac31574e49b1909b6ab054

Update documentation: CRF works with VPX_Q mode

Tested that if VPX_Q is set, this variable will still be used
to pull the CRF value.

Change-Id: I065a219a7acd18b50478d4d0d3dc7ba5e1c90901

Merge "Add [full/sub]_pixel_motion_search"

Merge "Add 6:1:1 weighted PSNR to opsnr.stt"

Let do_motion_search process one ref at at time

Change-Id: Iee3f2d1fbeddeee27400edb6fe1519c39352901d

Add [full/sub]_pixel_motion_search

Change-Id: Idcd3c3178f583b8584e2b34ca2fbe96337feaadd

Add MotionField and MotionFieldInfo

Also add related buffer alloc/free functions.

Change-Id: I77dde3dd991f6b21b5c2c1ffa72300ce7738fd50

Add temporary motion_compensated_prediction_new

Temporarily add motion_compensated_prediction_new() to
decouple non_greedy_mv's motion search from baseline.

We need to decouple non_greedy_mv's full pixel motion search and
sub pixel motion search

Change-Id: I1a0e4a170c19b5b718e9d19b62268b520105a0ef

Merge "estimate local variation of reference frame"

Merge "smooth motion field"