Merge "Re-work RD modeling based on inter frame prediction residual"

Merge "Re-use switchable rate value in handle_inter_mode"

Merge "Add an early termination check in handle_inter_mode"

Merge "Use max txfm size unit in rate-distortion cost modeling"

Add test for vp8_multi_resolution_encoder.

Change-Id: I94667a23046e3cf17c421ac97ca66ea57f846b5c

Re-work RD modeling based on inter frame prediction residual

This commit re-work the operation flow related to prediction
residual generation and the rate-distortion modeling. It saves one
call for model_rd_for_sb.

Change-Id: Icaf96c0ff09c903637ed5283448afe01d798195f

Re-use switchable rate value in handle_inter_mode

The value of switchable rate has been stored in a local variable.
This change skips the second call to vp9_get_switchable_rate() by
reusing the local variable.

Change-Id: Ib7d3fef7621cc4bde94c6d6e6b3a71f1fd4559f2

Add an early termination check in handle_inter_mode

Check the mode and motion vector cost. If it is already above
the existing best rate-distortion cost, skip the rest check process
on this mode.

Change-Id: Ie065cebdfda2a3be3be18b8e8b43dc29aaa8c179

Use max txfm size unit in rate-distortion cost modeling

This commit makes the rate distortion modeling run in the unit of
maximum transform block size. No compression/speed change observed.
It is for the use of later fast forward transform purpose.

Change-Id: Ibaaedb69c765e8d0c5d5012f0ec07f36fd9f68fd

Add a separate datarate test for denoiser enabled.

Change-Id: Ibc91a46d11ad9c58e340b4346ed813a1be9b404a

Merge "add a new interp filter search strategy."

Merge "Enable denoiser for vp8 datarate tests."

Enable denoiser for vp8 datarate tests.

Keep one test, BasicBufferModel, with denoiser set off.

Change-Id: I762c2004b3adca24f677535cfa5b991108f31f01

Merge "gen_msvs_(vcx)proj.sh: set yasm format explicitly"

Merge "vp8 fix: deallocate denoiser->yv12_last_source"

Merge "Set scaled img format correctly in vpxdec"

Merge "twopass_encoder: Flush encoder."

Merge "vpxenc.sh: Move some frequently used params into functions."

vp8 fix: deallocate denoiser->yv12_last_source

Change-Id: I7f3bc292b1b411e10586f0975143ae996ea78d1d

add a new interp filter search strategy.

This commit addes a new strategy to reduce the search for optimal
interpolation filter type. The encoder counts and store how many each
filter type is selected and used for each of the reference frames.
A filter type that is rarely used for all three reference frames is
masked out to avoid computation.

The impact on compression is neglectible:
-0.02% on derf
+0.02% on stdhd

Encoding time is seen to reduce by 2~3%.

Change-Id: Ibafa92291b51185de40da513716222db4b230383

twopass_encoder: Flush encoder.

Change-Id: Ib04a545b43f3a36c6df7eaf3ed2d802cf41119bb

Merge "Removing non-executable code from encoder_encode()."

Merge "Removing tx_stepdown_count from VP9_COMP."

Merge "Adding oxcf temp variable."

Merge "Adding is_keyframe temp var."

Removing non-executable code from encoder_encode().

We don't output invisible frames with VP9.

Change-Id: I7b874d3ac454c1b2966d5d7d72e12a864b49afae

Merge "Passing const cfg pointer to vpx_codec_{dec,enc}_init_ver()."

vpxenc.sh: Move some frequently used params into functions.

Echo args back from new util functions to decrease the repetition
in this file.

Change-Id: Id4d7c02bf81cf2c5261f58b560e033869a346677

Removing tx_stepdown_count from VP9_COMP.

The variable is never read.

Change-Id: I94141c1667fa5d10604cd6f83c5f64df107dee94

Merge "[spatial svc]Multiple frame context feature"

Merge "vpxenc.sh: Make vpxenc() usage agree with implementation."

Merge "twopass_encoder: Separate functions for first and second pass."

vpxenc.sh: Make vpxenc() usage agree with implementation.

- Make $1 input file at all call sites.
- Actually use vpxenc_pipe().

Change-Id: I22f25719aeb3dce60863207b2e2a49e42e27ed06

Merge "vpxenc.sh: Add real time tests."

Passing const cfg pointer to vpx_codec_{dec,enc}_init_ver().

Change-Id: I3e319f581215ccb814afca247c1d911be231a4ac

Merge "Replacing int_mv with MV inside the first pass code."

Merge "Cleaning up is_background()."

twopass_encoder: Separate functions for first and second pass.

Change-Id: Ic5e3ff5f572ed55d7dd3df8c606e57daacf885dc

Merge "Removing source field from VP9_COMP."

Merge "Removing is_best_mode() function."

Cleaning up is_background().

Change-Id: I2b9609dd22bacbf26e669f70bf155613b0316eb3

[spatial svc]Multiple frame context feature

We can use one frame context for each layer so that we don't have
to reset the probs every frame. But we can't use prev_mi since we
may drop enhancement layers. So we have to generate a non vp9
compatible bitstream and modify it in the player.
1. We need to code all frames as invisible frame to let prev_mi
   not to be used. But in the bitstream we need to code the
   show_frame flag to 1 so that the publisher will know it's
   supposed to be a visible frame.
2. In the player we need to change the show_frame flag to 0 for
   all frames. Then add an one byte frame into the super frame
   to tell the decoder which layer we want to show.
Change-Id: I75b7304cf31f0ab952f043e33c034495e88f01f3

Merge "enable wextra in vp9"

Merge "vp9_calc_ssim: remove unused parm to resolve warning"

Merge "vp9_denoiser_update_frame_stats: unused parm fixed"

Merge "vp9_postproc.c: unused parameter warning resolved"

invalid_file_test: correct HandlePeekResult signature

restore const lost in:
f0f9ab6 invalid_file_test.cc: remove unused param warnings

Change-Id: I0c5318f84c81e3dd7bb44468463faf9edd6bc18a

Merge "vpxdec: fix --keep-going with --disable-vp8"

Merge "add libyuv/scale_neon64.cc"

Merge "active_map_test: use vpx_active_map_t() to initialize vars"

Merge "Choosing GOOD mode by default."

add libyuv/scale_neon64.cc

from r1051, missed in r1060 snapshot update

Change-Id: I3756d8d29fc0dd4c4491efa84b8f8837edde23a7

vpxdec: fix --keep-going with --disable-vp8

the parsing of this flag was mistakenly put in a CONFIG_VP8_DECODER
conditional block in:
95853db vpxdec: add --keep-going option

Change-Id: Ie83ca0399fd3f3d4b0a9d03b7ca5536b310e1f02

Merge "Removing extraconfig_map from vp8_cx_iface.c."

active_map_test: use vpx_active_map_t() to initialize vars

0-initializes [1] and removes a warning for missing initializer fields

[1] http://en.cppreference.com/w/cpp/language/value_initialization

Change-Id: I886fa72c74679b52cdce2af3364172395a5b6a51

Merge "tests: use vpx_codec_dec_cfg_t() to initialize vars"

Merge changes I86b21186,Ifde2849f,Ic53cdb8c,Id3db2ae8,Iba3c63cd,I744342b1,I627dc800,Ie1c8830c,I1d43acef,I3e29d8d2,I521ca615

* changes:
  resize_test.cc: remove unused param warnings
  invalid_file_test.cc: remove unused param warnings
  fdct8x8_test.cc: remove unused param warnings
  fdct4x4_test.cc: remove unused param warnings
  tests/reference_32x32_dct_1d: remove unused stride param
  dct16x16_test.cc: remove unused param warnings
  datarate_test.cc: remove unused param warnings
  frame_size_tests.cc: remove unused param warnings
  encode_test_driver.cc: remove unused param warnings
  encode_test_driver.h: remove unused param warnings
  decode_test_driver.h: remove unused param warnings

Removing source field from VP9_COMP.

Using local variables instead.

Change-Id: I68737f7e392b81492ffd3ef2c2ff9afbf55fb097

vpxenc.sh: Add real time tests.

Add --rt tests for VP8 and VP9.

Change-Id: I401d2962bf27e8a775ee5d71784d63ba4c014dfd

Replacing int_mv with MV inside the first pass code.

Change-Id: Ia3be6b5a18e1ff6cc5c5f4d37e4a5d0972388308

Choosing GOOD mode by default.

This patch fixes slow first pass problem. Mode could only be determined
from the deadline value during frame encode call. Unfortunately, we use
mode value before any encode calls during the first pass encoding (see
set_speed_features() logic). The mode for the first pass must be different
from BEST to make first pass fast.

Change-Id: I562a7d32004ff631695d91c09a44d8a9076fd6b5

gen_msvs_(vcx)proj.sh: set yasm format explicitly

use win32/win64 instead of $(PlatformName) (Win32/x64) for compatibility
with yasm 1.3.0. both format types were available since at least 0.8.0

BUG=843

Change-Id: I7917620490d0663b118ff08b96d1e5dbccba3703

Merge "Move mv cost table to VP9_COMP"

Merge "Removing last_source field from VP9_COMP."

Merge "Replacing 'struct vpx_fixed_buf' with 'vpx_fixed_buf_t’."

enable wextra in vp9

Change-Id: Ibb8bd0c256d138a21e8f96feed39f0793ed98d20

vp9_calc_ssim: remove unused parm to resolve warning

Change-Id: I2b4f4e929495837817010eae12aa6225899afaff

vp9_denoiser_update_frame_stats: unused parm fixed

Change-Id: Ic39cc0deafb3ed509434d3d9953b99713de7394a

vp9_postproc.c: unused parameter warning resolved

Change-Id: I6d77a7c775c0482fd1f9bb03ea6f336dd2973fa0

Merge "vp9_cx_iface.c: spatial_svc resolve missing initializer warning"

vp9_cx_iface.c: spatial_svc resolve missing initializer warning

Change-Id: I3f56a4d64828a74c370a5b3247a5f00e554a922c

Set scaled img format correctly in vpxdec

Use img->fmt rather than hardcoded I420P to support
profiles 1-3.

Change-Id: I31fc89e545208243e133512d41e2d97995a968ce

resize_test.cc: remove unused param warnings

Change-Id: I86b21186e49f9e0ec0d8eb3addaa44b9fd196a6b

invalid_file_test.cc: remove unused param warnings

Change-Id: Ifde2849f45acb59fbcf29c8735ef0a10d4d9041e

fdct8x8_test.cc: remove unused param warnings

Change-Id: Ic53cdb8c9f8312e7404505fcec653d5b9e9587d1

fdct4x4_test.cc: remove unused param warnings

Change-Id: Id3db2ae8e88f9ac64a00f7d989c1ec3ff0c8ef84

tests/reference_32x32_dct_1d: remove unused stride param

Change-Id: Iba3c63cda2d825e72879b567589615aded522fbb

dct16x16_test.cc: remove unused param warnings

Change-Id: I744342b12ae7e5423b06b87ceec2d2ab4a3a3cbb

datarate_test.cc: remove unused param warnings

Change-Id: I627dc800f1925cc5a5d68630009cf8a454f07567

frame_size_tests.cc: remove unused param warnings

Change-Id: Ie1c8830ca3b73f19764d79f122ee990f3f297d63

tests: use vpx_codec_dec_cfg_t() to initialize vars

0-initializes [1] and removes a warning for missing initializer fields

[1] http://en.cppreference.com/w/cpp/language/value_initialization

Change-Id: I364248010c8fa663c71d8f06a9999c730e92db4c

encode_test_driver.cc: remove unused param warnings

Change-Id: I1d43acef0983d10bda9fa495d6d723a4f9e2deaf

encode_test_driver.h: remove unused param warnings

in EncoderTest default implementations

Change-Id: I3e29d8d2a834fece87aab35813b5e275a30c32fd

decode_test_driver.h: remove unused param warnings

in DecoderTest default implementations

Change-Id: I521ca61569356d51aef9379d6ce68542e88da84b

Replacing 'struct vpx_fixed_buf' with 'vpx_fixed_buf_t’.

Change-Id: Ibbbc5b39429d4b753f0a966b9d84d1d7bf823650

libyuv: update to r1060

picks up some lint, build fixes

Change-Id: I0efb19385afa4ea3073a53e2b8334e57f245eea0

Move mv cost table to VP9_COMP

The mv cost table set is maintained at frame level, hence moved to
VP9_COMP.

Change-Id: Icb3d0185d47443590bd11357de729aa4ba5c5e5e

Removing last_source field from VP9_COMP.

Change-Id: I5d7cb0151d8495e5ecd073a98b73da65cc6e7274

Adding is_keyframe temp var.

Change-Id: I5fec955c8b8f5a9b5027a0f92afb22d22770d84a

set_maps: add exit to avoid uninitialized variable warning

Change-Id: I08e42adeab9f9fa0337173ba0923f3bc0dd36806

vpx_temporal_svc_encoder: initialize outfile to avoid warning

Change-Id: I53077092342bc35fd783e1b7dcb80b21677f11c1

vpx_temporal_svc_encoder.c : removed dead assignment.

Change-Id: Ibc68830f090d55959561d40faa232399893e2b22

vpxenc.c : static warnings cleanout

Change-Id: Ia55317606c78a9d984db0321ef142548d20b64bc
1: dereference of global->codec checked
2: warning fails to recognize fatal(xxx) as exit or return
3: ctrl_args_map can be null
4: streams can be null

y4minput.c : removed malloc of 0 bytes to resolve warning

Change-Id: Ic143455b0880e639959732e178cd62140a510b79

y4minput.c : uninitalized buffer caused garbage value warning

Change-Id: I613f521680b235726b2e0f78c068c0e5d7799f76

Merge "warnings.c : fixes dereference to null warning"

Merge "Fix bug 837 (Part 2): Handle increase in frame width"

Adding oxcf temp variable.

Change-Id: I546c7c987b38865f05bc5e2d6730a5a68e238032

warnings.c : fixes dereference to null warning

Change-Id: I03cceb4b92b7362e90f3ea61342341246b9a11ab

Removing is_best_mode() function.

Change-Id: Iccd7cec885e8aeb0e54613d888f9960c393cee0b