Merge "Rework unit test for 8x8 transformation"

Rework unit test for 8x8 transformation

This commit reworks the unit test for 8x8 forward/inverse
transformation. It adds extreme input value test to detect overflow
issues in the intermediate steps.

It temporarily disables unit test for the SSSE3 version, which
showed overflow failure in the new test conditions.

Change-Id: I7caf10bba4b6db031add65d8c0eb99426b38aa42

Adding buffer levels to RATE_CONTROL struct.

Change-Id: Ib35ff854378764dc3c6745844c67a33dee545663

Merge "Cleaning up full_pixel_search()."

Merge "Moving first pass related functions to vp9_firstpasss.c."

Merge "Reusing existing vp9_get{8x8, 16x16}var() instead of new ones."

Fix AQ mode 2 bug where delta causes Q 0.

In Aq mode 2 for kf/arf/gf the segment q delta
is calculated and then applied by re-quantization without
going through the rd loop again. If the base Q != 0
but the segment Q == 0 (lossless) this can could give rise
to a situation where we have an illegal combination of
transform size and Q. (Q == 0 requires that all blocks
are coded 4x4 WHT).

Change-Id: I241a58c6494ed442e9e4630070b0cde0fb99ae45

Merge "Remove Wextra warnings from vp9_sad.c"

Merge "Remove an attempt to handle SEG_LVL_SKIP sub8x8."

Remove Wextra warnings from vp9_sad.c

As a side-effect, the sad unit tests for VP8 and VP9
had to be separated.

Fixes a bug in original patch:
(https://gerrit.chromium.org/gerrit/#/c/70163/8)
that was reverted due to a nightly test failure.

Change-Id: Ia2a4e9e278fd3c89d6c3c82fcc6381320ec2a8a6

Fixing failed ARM build.

Change-Id: I3f74418f07c2dfdd7725a5b4a8ef5c5f4aca6289

Merge "Fixed OUTPUT_YUV_SRC behavior for VP8"

Merge "seeing a 10x slowing down, revert now for investigation"

seeing a 10x slowing down, revert now for investigation

Revert "Fix a problem of using an uninitialized parameter"

This reverts commit 538af7db5ffe2ab560511a3bc0ae74dae9316c14

Change-Id: I071aa9b7068ef515abb8ae9584df15067706ccb5

Merge "Revert "Remove Wextra warnings from vp9_sad.c""

Revert "Remove Wextra warnings from vp9_sad.c"

This reverts commit 916550428db803c54c993ff9d3c34b9b0bcebb7c

Change-Id: I500822b03f09c64ff6ec5396c68edee9ca3b75cb

Merge "Converting disable_inter_mode_mask to inter_mode_mask."

Merge "Add overflow check unit test for 16x16 inverse DCT/ADST transform"

Merge "Fix a potential overflow issue in inverse 16x16 full 2D-DCT"

Merge "Fix unused variable warning."

Merge "Refactor the vp9_get_frame code for frame parallel."

Add overflow check unit test for 16x16 inverse DCT/ADST transform

This commit applies quantization process with coarse quantization
step size to the forward transform coefficients and tests all the
inverse 16x16 DCT and ADST implementation versions with the
dequantized coefficients as input, to verify that the outcomes
match the prototype.

Change-Id: I68034a6126b45192c87d8c642155290e89bff8fa

Merge "Fix a problem of using an uninitialized parameter"

Merge "Removing unused ref_frame_mask local var."

Refactor the vp9_get_frame code for frame parallel.

In frame parallel decoding mode,  there will be still several frames inside
the decoder when application stop calling vpx_codec_decode to decode frames.
The application will need to keep calling vpx_codec_get_frame to get all the
remaining decoded frames in the decoder.

Change-Id: I2ce8260a91282f045bb9a6093ff8a606b1990f14

Merge "Do not export non-existant symbols"

Fix unused variable warning.

Change-Id: I52f73943194039697da6880d2da54821b2498336

Fix a problem of using an uninitialized parameter

This commit added a call to set speed feature before initializing
motion search, fixed the problem where unintialized search method
is used before its value being set.

Change-Id: I537e4612bf0d00fd6f51396fd222d4b3bd6fde58

Fixed OUTPUT_YUV_SRC behavior for VP8

By enabling the OUTPUT_YUV_SRC compiler flag, the encoder will write the raw
input to bd.yuv.

The functionality was mostly implemented, but in its previous state did not
compile.

Change-Id: Ia331ad0f4c6e6f9f51e8d42cd33ba8cc146b3dbf

Merge "Re-factor some duplicate code."

Do not export non-existant symbols

Change-Id: Ic0fb8e5016d064c2227cf5d87ffba86a4303c82b

Removing unused ref_frame_mask local var.

Change-Id: Ie11558c076a0161cc9608788e050b1b16e31c490

Merge "Consistent names for intra mask flags."

Merge "Don't update encoder skip count for SEG_LVL_SKIP."

Converting disable_inter_mode_mask to inter_mode_mask.

Making this consistent with intra mode masks: you need to specify
allowed inter/intra modes to use.

Change-Id: Iaecd28bf79047259707d8e7a59a57bb7b856383e

Consistent names for intra mask flags.

Change-Id: Ibdd5255d37200fb8a1d50f71a2a49c6089ae21e7

Remove an attempt to handle SEG_LVL_SKIP sub8x8.

SEG_LEVEL_SKIP requires the block size to be at least 8x8. Attempting to
use it on smaller partitions causes the decoder to reject the bitstream.

Change-Id: Ia7188cdf8ae5ac1df6bd29f3f80dbb0610e1f7b1

Merge "Making speed checks consistent in set_rt_speed_feature()."

Fix a potential overflow issue in inverse 16x16 full 2D-DCT

An overflow issue could potentially happen in the second round 1-D
transform of the SSSE3 full inverse 16x16 2D-DCT. This commit fixes
this issue.

Change-Id: Ia19e4888fda1cc929a28a5f89a5beec612d628dc

Don't update encoder skip count for SEG_LVL_SKIP.

This aligns the encoder behavior with the decoder.

Change-Id: Ifa0840e4b07b19309e0bf1d1182498883249ec45

Merge "Moving itxm_add pointer from MACROBLOCKD to MACROBLOCK."

Reusing existing vp9_get{8x8, 16x16}var() instead of new ones.

Change-Id: I87b7c657d8813d7fb383ab519d150c0ffb1dd377

Making speed checks consistent in set_rt_speed_feature().

Change-Id: Id3d0a49836fe996b806707d29a8130acf9d7ea0e

Merge "Fixing -Wextra warnings in vp9_{cx, dx}_iface.c."

Merge "Fixed a crash windows build"

Fixed a crash windows build

Change-Id: I58baa1da1f3bfc8a6da454399139fe6a7473ff10

Merge "vp8 denoiser: fix to zero_mv mode selection."

vp8 denoiser: fix to zero_mv mode selection.

In the current logic, if the sse for zero motion is smaller
than the sse for new_mv (i.e., best_sse), we may still end up
using the non-zero mv for denoising (if the magnitude of new_mv is above threshold).
This can happen for very noisy content, and can lead to artifacts.

This change ensures that we always use zero_mv (over new_mv) for
denoisng if sse_zero_mv <= best_sse.

Change-Id: I8ef9294d837b077013b77a46c9a71d17c648b48a

Fixing -Wextra warnings in vp9_{cx, dx}_iface.c.

Change-Id: I0abad32551dc534d3db27424c118e4b2f6b50f37

Merge "Using 2 instead of 3 elements for last_q array."

Merge "Removing redundant vp9_zero() call."

Merge "Cleaning up vp9_variance_sse2.c."

Merge "Always allow ZEROMV when SEG_LVL_SKIP is on."

Merge "Fix the all intra modes mask constant."

Merge "Removing this_frame_stats member from TWO_PASS struct."

Re-factor some duplicate code.

Change-Id: I89a1dbea39c50c7633f746d9c93fec3a289f1b42

Merge "Remove brightness weighting in two pass."

Removing undeclared identifier - build fix

Fixes build with --enable-internal-stats

Change-Id: I137169c859f561478e45891defe976d595454166

Cleaning up full_pixel_search().

Change-Id: Ie517ac06385133ffb3bbc449d9f23240f245976d

Using 2 instead of 3 elements for last_q array.

Change-Id: I2c6950e7d79fc89c6f97e6dcf47317ef66c453a5

Always allow ZEROMV when SEG_LVL_SKIP is on.

Change-Id: I6db1dc82f66438ac48f571d2f1a2ac7c39a97a1a

Fix the all intra modes mask constant.

The new constant expands to 0x3fc00808.

Change-Id: Ib5109e4faf035fe0402b59f8a8d2e412628b9276

Merge "Removing ctrl_id parameter from vpx_codec_control_fn_t."

Removing this_frame_stats member from TWO_PASS struct.

Change-Id: Id8877fad1f1e88b145e7c40c43174109b9c4f373

Merge "Fix compiling error in MSVS"

Removing ctrl_id parameter from vpx_codec_control_fn_t.

Change-Id: I2b61c8c17ded1074dea92b4f6ad9be84d128b52a

Removing redundant vp9_zero() call.

rd.tx_select_threshes is cleared in encode_frame_internal().

Change-Id: Ie03776a41c585f13b392a9b62d4e91ef26ebeaf0

Fix compiling error in MSVS

Need to include math.h before tmmintrin.h in some versions of MSVS.

Change-Id: Ia6b83ae599316887ecf30c4e4b9e4355fb8a4219

Merge "vp9_rdopt.c: Removed 2 unused parameters"

Merge "Fix to reduce block artifacts from vp8 temporal denoiser."

Merge "Converting target_bandwidth to Bit/s at very beginning."

Merge "Revert "Making vp9_get_sse_sum_{8x8, 16x16} static.""

vp9_rdopt.c: Removed 2 unused parameters

Change-Id: I935ec0e78570ce3d3585f972350e39043eefa30a

Merge "Turn on unit tests for AVX2 convolve functions"

Cleaning up vp9_variance_sse2.c.

Change-Id: I5ec336848f6489c31cf2b645026fa2025db07466

Revert "Making vp9_get_sse_sum_{8x8, 16x16} static."

This reverts commit e8bbb3d9db797dab7c2f947cc43e8d0f168e4953.

Change-Id: Ie368d36fd249d323d859d208609c711f04537bbc

Merge "Remove Wextra warnings from vp9_sad.c"

Merge "Fix decoder mismatch in sub-pixel AVX2 intrinsic filters"

Merge "Reusing rd_less_than_thresh() function."

Merge "Removing vp8/common/pragmas.h."

Turn on unit tests for AVX2 convolve functions

This patch turned on unit tests for AVX2 convolve functions.

Change-Id: I51b8bfdaa290fb22862c68af61abf2394d00d47c

Merge "neon matches "C" when using increase_denoising"

Remove brightness weighting in two pass.

This code dates from the ancient past and
applied an error score weighting based on pixel
brightness. This not seem to be providing any
benefit metrics wise and could be making some
visual issues in dark frames worse.

The field is left in place in the FIRSTPASS_STATS data
structure in this patch, pending changes to unit tests that
use a pre-defined first pass file.

Change-Id: Id50f04205230234858e7548ce523f11acaf3567d

neon matches "C" when using increase_denoising

If increase_denoising is set,
vp8_denoiser_filter_neon() produced incorrect results.

Change-Id: I645f78e48b8f6657fa8a4b69d2c4d3488a0581dc

Merge "Further first pass allocation changes."

Merge "Re-factor bit allocation in first pass."

Converting target_bandwidth to Bit/s at very beginning.

Change-Id: I1d8c9fe4228e2f1ef67a66883694842a9545e7b9

Fix decoder mismatch in sub-pixel AVX2 intrinsic filters

The subpixel SSSE3 was fixed in this patch:
https://gerrit.chromium.org/gerrit/#/c/70283/
So the equivalent AVX2 is fixed accordingly.

Change-Id: Ieebbc1949c99d34b12b8b47692df71aca5001f3a

Merge changes I4f0f4378,I02250d13

* changes:
  Re-enable unit test on neon implementation of 16x16 idct
  Turn on unit test for inverse 16x16 2D-DCT ssse3

Merge "Inverse 16x16 2D-DCT SSSE3 implementation"

Re-enable unit test on neon implementation of 16x16 idct

The previous change only tunes forward transform. It doesn't affect
the neon implementation of the inverse transform. Hence turn the
unit test on.

Change-Id: I4f0f43783b98814d1eee53182209f9669d538140

Turn on unit test for inverse 16x16 2D-DCT ssse3

Change-Id: I02250d1364ca2e637585a8db020cba9fd4a95664

Inverse 16x16 2D-DCT SSSE3 implementation

This commit enables the SSSE3 implementation of full inverse 16x16
2D-DCT. The unit runtime goes down from 1642 cycles to 1519 cycles,
about 7% speed-up.

Change-Id: I14d2fdf9da1fb4ed1e5db7ce24f77a1bfc8ea90d

Merge "Use extreme values for input in convovle tests"

Merge "Fix decoder mismatch in sub-pixel SSSE3 intrinsic filters"

Use extreme values for input in convovle tests

The intepolation filter functions can be better tested withe extreme
values, especially given the optimization functions are prone to
overflow signed 16 bit intermediate value when operation order is
wrong.

Change-Id: I712142b0bc1e5969c692c0486a57ffa37c9742b5

Removing vp8/common/pragmas.h.

Change-Id: I80630a7350e884ebc4fef73fb5b52ec25f908523

Merge "Removing vp9_pragmas.h."

Further first pass allocation changes.

Further changes to first pass allocation for gf/arf groups.
Three variables removed from TWO_PASS structure as only
now used locally. Dont adjust gf_group_bits in the post
encode update as this will no longer have any effect.

Change-Id: Iff89b225db923fc856f5d2aedbc899f1d7d68b55

Fix decoder mismatch in sub-pixel SSSE3 intrinsic filters

In 8-tap filtering, to guarantee the intermediate results fit in
16 bits, the order of accumulating the products needs to be done
correctly, and the largest product should be added last. This
patch fixed the problem using the method in commit "Correct ssse3
8/16-pixel wide sub-pixel filter calculation".

Change-Id: I79d0ad60c057b15011ece84cda9648eee0809423