Remove arguments not in use in non-RD decision

This commit removes a few arguments that are not used in the
non-RD mode decision.

Change-Id: I0d878bb5a7dba1b34fe0b64afe55bf11b1a9a2d7

Cosmetic change mbmi->ref_frame to refs

In handle_inter_mode, the reference frames are set in refs buffer.
One can use refs buffer directly to avoid redundant fetch.

Change-Id: I811d408cae52dcd5e053dd4bfe69550eb6a2ff56

Assign motion vector invalid value in intra mode

In non-RD mode decision, assign motion vector INVALID_MV when intra
prediction mode is selected.

Change-Id: I8f6ec39b71e755758f0f698074a2c17d934622ea

Merge "Run sub-pixel motion search for NEWMV mode test"

Merge "[svc] Add target bitrate settings for each layers."

Merge "Change for adding QP settings for key frames"

Merge "Moving common code into vp9_get_entropy_contexts()."

Merge "Replacing int_mv with MV in single_motion_search()."

Merge "Removing vp9_systemdependent.c."

Merge "Refines variance based partitioning search"

Refines variance based partitioning search

Instead of using source variance, this patch uses variance of the
frame difference between the source and the current frame to make
fixed size partition decisions. Also disables adjusting partitioning
if variance based or fixed size partitioning is used.

The latter change improves the speed substantially for speed 6, so
that speed 7 is now less than 3x the speed of speed 6. But speed
6 is 48% better in psnr on the rtc set compared to speed 7.

As compared to speed 5,
speed 6 is -37% in psnr at about 2.5x the speed,
speed 7 is -55% in psnr at about 7x the speed.

Change-Id: If61d80431d3e04ed304ac05832e773cdb2c0a578

Merge "vp9_encodemv.h: fix function prototype"

vp9_encodemv.h: fix function prototype

mismatch was introduced here:
abe21e4 Removing redundant vp9_clear_system_state() call.

Change-Id: I66f945c1ce385dddfdefa9f517f295dbdd01d286

Merge "remove ioc problem with rdcost calculation"

Merge "gen_msvs_vcxproj.sh: Avoid object name collisions."

Merge changes I03c1ba21,I6d8ac50c,Id0a2d9ef,I3db3acbd,I028bdec9,I26f8724b,I3795d78b,I6bb7ffe8

* changes:
  variance_test: add NEON functions
  subtract_test: add NEON functions
  sixtap_predict_test: add NEON functions
  partial_idct_test: add NEON functions
  fdct8x8_test: add NEON functions
  fdct4x4_test: add NEON functions
  dct32x32_test: add NEON functions
  dct16x16_test: add NEON functions

variance_test: add NEON functions

note not all functions have NEON implementations:
- variance4x4_neon

Change-Id: I03c1ba21f3b02aa2482d7ca8feedc3ef74b5947f

subtract_test: add NEON functions

Change-Id: I6d8ac50ce842749a2a643d8173bbd301cc284236

sixtap_predict_test: add NEON functions

Change-Id: Id0a2d9ef9636c84ee988dabecd5d4dc2b8641944

partial_idct_test: add NEON functions

note not all functions have NEON implementations:
- vp9_idct32x32_34_add

Change-Id: I3db3acbd5b33839aabd1beadc6e0742ec50b1072

fdct8x8_test: add NEON functions

FwdTrans8x8HT is disabled as the tests currently fail.

note not all functions have NEON implementations:
- fdct8x8/fht8x8

Change-Id: I028bdec9a21eaaee2c5865470ab179aac403540e

fdct4x4_test: add NEON functions

Trans4x4HT is disabled as the tests currently fail.

note not all functions have NEON implementations:
- fdct4x4/fht4x4

Change-Id: I26f8724bf2a9ea01d59205a1c57119ed25d043bc

dct32x32_test: add NEON functions

note not all functions have NEON implementations:
- vp9_fdct32x32/vp9_fdct32x32_rd

Change-Id: I3795d78bf215e41ab8801c2c37cf633f16931f9d

Merge "Don't let GOLDEN_FRAME turn off LAST_FRAME as a reference when GOLDEN_FRAME is disabled."

Merge "Adding vpx_sse_to_psnr() function."

Merge "Cleaning up cost_coeffs()."

Removing vp9_systemdependent.c.

Change-Id: I7b9738a7113c0c4687e5d320581ff69d98a8b271

Replacing int_mv with MV in single_motion_search().

Change-Id: I527c42fa776c772c26c027a47f3dada129f5c33e

Don't let GOLDEN_FRAME turn off LAST_FRAME as a reference when GOLDEN_FRAME is disabled.

There was a bug in the previous code that if GOLDEN was better than
LAST neither would be used. LAST would get turned off due to superior
GOLDEN quality then all GOLDEN modes would get skipped.

Change-Id: I173f3720451707dab7b2cbbe8b8e6a047089bde7

Merge "log overall psnr, average psnr, and overall mse"

Merge "Reduce the frequency of partition size adjsutment"

Adding vpx_sse_to_psnr() function.

Removing all copies of identical vp8_mse2psnr/vp9_mse2psnr functions.
Using vpx_sse_to_psnr() instead in all places.

Change-Id: I15beef9834d43d8fc8a8a7a2d1fc5de3d658fed8

Moving common code into vp9_get_entropy_contexts().

Change-Id: I197670a405f7c2e7796424faa187a61081db8567

Merge "Cleaning up vp9_encodemb.c file."

Cleaning up cost_coeffs().

Change-Id: I02f097fd7c4c787035f03114ddde5b04b2640b39

Merge "Update some comments in vpx_temporal_scalable_patterns."

Update some comments in vpx_temporal_scalable_patterns.

Change-Id: I747d26c544cc56feaaf7c75403f2f4c16a496bb7

log overall psnr, average psnr, and overall mse

Change-Id: I0b4fa1f8104b7fa5780d4e99e5401c14271a992d

Cleaning up vp9_encodemb.c file.

Usage of encode_b_args is unnecessary because encode_block_pass1() doesn't
use them. That's why optimize_init_b() call is also not required.

Change-Id: Ib6cfe4916c2ca85749c90bb0adcba6fea592f9ac

Merge "VP8 for ARMv8 by using NEON intrinsics 05"

[svc] Add target bitrate settings for each layers.

Change-Id: Ia7677fb436667bc4f76db71f65e4784f433f7826

Merge "Cleaning up vp9_rdopt.c."

Merge "Separate super_block_yrd() into two functions"

Merge "VP8 for ARMv8 by using NEON intrinsics 04"

Merge "VP8 for ARMv8 by using NEON intrinsics 03"

Merge "Fix a bug in intra prediction due to change in 25e55526301eba7d6e5c68e25402e9b2102976d8."

Change for adding QP settings for key frames

Change-Id: I4dcabb60cb1185eb9a2efa18b50f17af272d2cd6

Run sub-pixel motion search for NEWMV mode test

As Yunqing suggested, this commit makes non-RD mode decision always run
sub-pixel motion search in NEWMV mode. The compression performance
gains becomes fairly significant after we enabled sub-pixel accuracy
motion compensated prediction to calculate SAD cost.

For test sequences pedestrian_area at 1080p and vidyo1 at 720p, the
runtime goes slower by 5%. For rtc test set, the compression performance
is improved by 21.20%.

Change-Id: I38cbfdd5c53d79423e1fafb3154f8ddeed63bbf0

Merge "cq_test.cc: Use size_t for file size and unsigned int for target bitrate."

Reduce the frequency of partition size adjsutment

The commit change to use partitions sizes directly from last frame
for frames directly where last frame selects partitions sizes based
on coding efficiency.

On --rt --cpu-used=-5, the change hurts compression by 4% but reduces
encoding time by ~20%

Change-Id: Ia68665e5c8489b7bfcf5fac7768332fba88928e6

Separate super_block_yrd() into two functions

for inter and intra respectively

Change-Id: I7764d3af780072f7bd7bde201f454dcdd2816e76

Merge "Add consective frame loss to error_resilience test."

Merge "Use sub-pixel accuracy prediction non-RD mode"

Merge "Using clamp() for active_{best, worst}_quality."

Merge "Use dedicated variables to store the best mode"

Merge "Removing redundant vp9_clear_system_state() call."

Merge "Removing vp9_optimize_b() function."

remove ioc problem with rdcost calculation

Change-Id: Idd800fae21508699e9d973134817493763a65042

dct16x16_test: add NEON functions

note not all functions have NEON implementations:
- fdct/fht/iht

Change-Id: I6bb7ffe89b8cc23b642e19caf22f04f2d5e39087

Add consective frame loss to error_resilience test.

Modify existing test to also check the case of dropping
(i.e., skip decoding) a consecutive list of frames.

Change-Id: Ia8c1195559f952e86e6697996931d3a920c05ae3

VP8 for ARMv8 by using NEON intrinsics 05

Add dequantizeb_neon.c
- vp8_dequantize_b_loop_neon

vpxdec  --summary --noblit ../videos/tears_of_steel_1080p.webm
Before => After, 13.25 => 13.23 (fps)

Change-Id: Iebe3b0c6ed2359c778b0570763c5681ae25fef0c
Signed-off-by: James Yu <james.yu@linaro.org>

Removing redundant vp9_clear_system_state() call.

This function is already called in vp9_initialize_rd_consts().

Change-Id: I88c0484a7274660287fa25fdf5cdb721d3284e01

Using clamp() for active_{best, worst}_quality.

Change-Id: Ia79f975f54829b8ae6b568ca5c05f4f1f541706f

VP8 for ARMv8 by using NEON intrinsics 04

Add dequant_idct_neon.c
- vp8_dequant_idct_add_neon

vpxdec  --summary --noblit ../videos/tears_of_steel_1080p.webm
Before => After, 13.25 => 13.22 (fps)

Change-Id: Id48f39e1da58dd3d8d37658e94989411997f4f7c
Signed-off-by: James Yu <james.yu@linaro.org>

Fix a bug in intra prediction due to change in
25e55526301eba7d6e5c68e25402e9b2102976d8.

Change-Id: I17ac67c3ced91ad4f057b296f7e8dc86a3389f26

Cleaning up vp9_rdopt.c.

Change-Id: Ic7553a037493107c33cfb9815178a54095a289ec

VP8 for ARMv8 by using NEON intrinsics 03

Add dc_only_idct_add_neon.c
- vp8_dc_only_idct_add_neon

vpxdec  --summary --noblit ../videos/tears_of_steel_1080p.webm
Before => After, 13.25 => 13.24 (fps)

Change-Id: I5e9e277ec3a3ca67e13c8cc4c324a6fbe8a897fc
Signed-off-by: James Yu <james.yu@linaro.org>

Removing vp9_optimize_b() function.

Change-Id: If859c9d58a8fe3f478d409b9e9ca59bcee8fd35d

Use sub-pixel accuracy prediction non-RD mode

This commit builds the actual prediction block in sub-pixel accuracy
and uses which to calculate SAD for non-RD mode decision. In the trail
run on pedestrian_area at 1080p, rtc speed -7 runtime goes from
23495 ms -> 25107 ms (7% slower). The compression performance is
improved by 20.57% for rtc test set.

Change-Id: I438589cd103fe99f1b50c2d1939ac6ca43fa0157

Merge "VP8 for ARMv8 by using NEON intrinsics 02"

Merge "Shrink dct_value_cost[] to int16_t."

Use dedicated variables to store the best mode

Use a set of dedicated variables to buffer the current best mode
in non-RD mode decision. This allows to use mode_info for more
complicated test in the non-RD process.

Change-Id: I6024c9feb0662afd3eb29f7017f7b5a5446f303f

Merge "Adds variance based fixed size partitioning"

Shrink dct_value_cost[] to int16_t.

The largest value is 13358.

Change-Id: I7a6b024a92b6250933d9ebc0cad066b966c96bd4

Adds variance based fixed size partitioning

Adds a method for determining a fixed size partition based on
variance of a 64x64 SB. This method is added to rtc speed 6.
Also fixes a bug in rtc_use_partition() and includes some
refactoring related to partitioning search, and some cosmetics.

Currently compared to speed 5, the coding efficiency of speed 6
is -19% and that of speed 7 is -55%, in cbr mode.

Change-Id: I057e04125a8b765906bb7d4bf7a36d1e575de7c6

Merge "Using vp9_subtract_plane instead of vp9_subtract_{sb, sby, sbuv}."

Merge "Consistent names for reference_mode functions."

Merge "Changing vp9_full_search_sad{, x3, x8} signatures."

Merge "Cleaning up vp9_refining_search_sad() function."

Merge "Change dx_time data type in vpxdec.c"

Merge "Trap request to display non-existant frame"

Merge "Disable adaptive pred filter for non-split mode"

Merge changes I7e96d619,I9a7631d5

* changes:
  normalize int64_t high value to INT64_MAX
  resolve issue with arm code failing unit test

normalize int64_t high value to INT64_MAX

Change-Id: I7e96d6199f882d35357f6a9a08c04ad0af5dc26e

resolve issue with arm code failing unit test

The optimizer did something funny with the code around
line 1412.  Before the call to encode_sb split_dist was
set properly but after it was adjusted and converted to
a negative.

https://code.google.com/p/webm/issues/detail?id=714

Change-Id: I9a7631d5325ade2dc28c1030653a23eecec8721b

Change dx_time data type in vpxdec.c

Change dx_time data type to int64_t to prevent
test time overflow when decoding long video.

Change-Id: I3dd5e324a246843e07e635fd25c50e71e385ed70
Signed-off-by: James Yu <james.yu@linaro.org>

vpx_temporal_scalable_patterns: fix to encoding_bitrate computation.

Change-Id: I56fcb82c4334c7591b765b55b3c2912778af6db5

Disable adaptive pred filter for non-split mode

If sf->disable_split_mask is DISABLE_ALL_SPLIT, disable
sf->adaptive_pred_interp_filter to avoid unnecessary operations.

Change-Id: Icb59174b2f4e9a3c3c16a696deb8018e5bd999eb

Merge "Adds an intermediate speed level for rtc"

Adds an intermediate speed level for rtc

Moves the existing speed 6 to speed 7 and adds an
intermediate level 6 which is roughly in between
speeds 6 and 7 in both speed and coding efficiency.
Also includes some minor fixes/adjustments.

Change-Id: I98befc4d82d750e79fe426c457c4a2571f6b6cc7

Trap request to display non-existant frame

If show_existing_frame indicates that the decoder should
display an existing (previously decoded) frame, add a
check to make sure that the signaled buffer does contain
a valid decoded frame.

Change-Id: Iac8c686b321827414d69a3f2d0467566911bcba2

added clamp of segment loop filter level

for ABSDATA mode, so segment loop filter level always fall in valid
range for both Absolute and delta modes.

Change-Id: If90df3411479533dbdab63f8ae088d2f5dd174a9

Merge "Added clamp of qindex to valid range"

fix vs9 build after obj_int_extract changes

broken since:
1d3ca08 obj_int_extract.bat: Pass obj_int_extract.exe path to obj_int_extract.bat.

Change-Id: Ic3de9f8c2b604e3aa9b905e1bc0b578963e01a4a

Merge "Combining if-else branches from different conditions."

Merge "Cleaning up vp9_mvref_common.{h, c}."

VP8 for ARMv8 by using NEON intrinsics 02

Add copymem_neon.c
- vp8_copy_mem16x16_neon
- vp8_copy_mem8x8_neon
- vp8_copy_mem8x4_neon

vpxdec  --summary --noblit ../videos/tears_of_steel_1080p.webm
Before => After, 13.25 => 13.25 (fps)

Change-Id: Ib956b5a20522ff57dc8a580bf0aef7b252bddba6
Signed-off-by: James Yu <james.yu@linaro.org>

Added clamp of qindex to valid range

The qindex for a segment was not clamped in ABSDATA mode, which may
cause invalid memory access if an ill-formed stream has a negative
value in ABSDATA mode. This commit added clamp to make sure qindex
for a segment always fall into valid range.

Change-Id: I0a74d00f4ef40aec7edaeca1d03c8645e23ab08c

Merge "Periodically update mode and mv costs"

Merge "move nestegg to third_party"