Added OUTPUT_YUV_DENOISED CFLAG to VP8 encoder

When this compiler flag is enabled, the encoder will write a denoised,
uncompressed, version of the input to denoised.yuv.

Change-Id: Ie0247f76b23219d95fe97dd70f23e097d742c249

Fixed OUTPUT_YUV_SRC behavior for VP8

By enabling the OUTPUT_YUV_SRC compiler flag, the encoder will write the raw
input to bd.yuv.

The functionality was mostly implemented, but in its previous state did not
compile.

Change-Id: Ia331ad0f4c6e6f9f51e8d42cd33ba8cc146b3dbf

Merge "Re-factor some duplicate code."

Merge "Consistent names for intra mask flags."

Merge "Don't update encoder skip count for SEG_LVL_SKIP."

Consistent names for intra mask flags.

Change-Id: Ibdd5255d37200fb8a1d50f71a2a49c6089ae21e7

Merge "Making speed checks consistent in set_rt_speed_feature()."

Don't update encoder skip count for SEG_LVL_SKIP.

This aligns the encoder behavior with the decoder.

Change-Id: Ifa0840e4b07b19309e0bf1d1182498883249ec45

Merge "Moving itxm_add pointer from MACROBLOCKD to MACROBLOCK."

Making speed checks consistent in set_rt_speed_feature().

Change-Id: Id3d0a49836fe996b806707d29a8130acf9d7ea0e

Merge "Fixing -Wextra warnings in vp9_{cx, dx}_iface.c."

Merge "Fixed a crash windows build"

Fixed a crash windows build

Change-Id: I58baa1da1f3bfc8a6da454399139fe6a7473ff10

Merge "vp8 denoiser: fix to zero_mv mode selection."

vp8 denoiser: fix to zero_mv mode selection.

In the current logic, if the sse for zero motion is smaller
than the sse for new_mv (i.e., best_sse), we may still end up
using the non-zero mv for denoising (if the magnitude of new_mv is above threshold).
This can happen for very noisy content, and can lead to artifacts.

This change ensures that we always use zero_mv (over new_mv) for
denoisng if sse_zero_mv <= best_sse.

Change-Id: I8ef9294d837b077013b77a46c9a71d17c648b48a

Fixing -Wextra warnings in vp9_{cx, dx}_iface.c.

Change-Id: I0abad32551dc534d3db27424c118e4b2f6b50f37

Merge "Using 2 instead of 3 elements for last_q array."

Merge "Removing redundant vp9_zero() call."

Merge "Cleaning up vp9_variance_sse2.c."

Merge "Always allow ZEROMV when SEG_LVL_SKIP is on."

Merge "Fix the all intra modes mask constant."

Merge "Removing this_frame_stats member from TWO_PASS struct."

Re-factor some duplicate code.

Change-Id: I89a1dbea39c50c7633f746d9c93fec3a289f1b42

Merge "Remove brightness weighting in two pass."

Removing undeclared identifier - build fix

Fixes build with --enable-internal-stats

Change-Id: I137169c859f561478e45891defe976d595454166

Using 2 instead of 3 elements for last_q array.

Change-Id: I2c6950e7d79fc89c6f97e6dcf47317ef66c453a5

Always allow ZEROMV when SEG_LVL_SKIP is on.

Change-Id: I6db1dc82f66438ac48f571d2f1a2ac7c39a97a1a

Fix the all intra modes mask constant.

The new constant expands to 0x3fc00808.

Change-Id: Ib5109e4faf035fe0402b59f8a8d2e412628b9276

Merge "Removing ctrl_id parameter from vpx_codec_control_fn_t."

Removing this_frame_stats member from TWO_PASS struct.

Change-Id: Id8877fad1f1e88b145e7c40c43174109b9c4f373

Merge "Fix compiling error in MSVS"

Removing ctrl_id parameter from vpx_codec_control_fn_t.

Change-Id: I2b61c8c17ded1074dea92b4f6ad9be84d128b52a

Removing redundant vp9_zero() call.

rd.tx_select_threshes is cleared in encode_frame_internal().

Change-Id: Ie03776a41c585f13b392a9b62d4e91ef26ebeaf0

Fix compiling error in MSVS

Need to include math.h before tmmintrin.h in some versions of MSVS.

Change-Id: Ia6b83ae599316887ecf30c4e4b9e4355fb8a4219

Merge "vp9_rdopt.c: Removed 2 unused parameters"

Merge "Fix to reduce block artifacts from vp8 temporal denoiser."

Merge "Converting target_bandwidth to Bit/s at very beginning."

Merge "Revert "Making vp9_get_sse_sum_{8x8, 16x16} static.""

vp9_rdopt.c: Removed 2 unused parameters

Change-Id: I935ec0e78570ce3d3585f972350e39043eefa30a

Merge "Turn on unit tests for AVX2 convolve functions"

Cleaning up vp9_variance_sse2.c.

Change-Id: I5ec336848f6489c31cf2b645026fa2025db07466

Revert "Making vp9_get_sse_sum_{8x8, 16x16} static."

This reverts commit e8bbb3d9db797dab7c2f947cc43e8d0f168e4953.

Change-Id: Ie368d36fd249d323d859d208609c711f04537bbc

Merge "Remove Wextra warnings from vp9_sad.c"

Merge "Fix decoder mismatch in sub-pixel AVX2 intrinsic filters"

Merge "Reusing rd_less_than_thresh() function."

Merge "Removing vp8/common/pragmas.h."

Turn on unit tests for AVX2 convolve functions

This patch turned on unit tests for AVX2 convolve functions.

Change-Id: I51b8bfdaa290fb22862c68af61abf2394d00d47c

Merge "neon matches "C" when using increase_denoising"

Remove brightness weighting in two pass.

This code dates from the ancient past and
applied an error score weighting based on pixel
brightness. This not seem to be providing any
benefit metrics wise and could be making some
visual issues in dark frames worse.

The field is left in place in the FIRSTPASS_STATS data
structure in this patch, pending changes to unit tests that
use a pre-defined first pass file.

Change-Id: Id50f04205230234858e7548ce523f11acaf3567d

neon matches "C" when using increase_denoising

If increase_denoising is set,
vp8_denoiser_filter_neon() produced incorrect results.

Change-Id: I645f78e48b8f6657fa8a4b69d2c4d3488a0581dc

Merge "Further first pass allocation changes."

Merge "Re-factor bit allocation in first pass."

Converting target_bandwidth to Bit/s at very beginning.

Change-Id: I1d8c9fe4228e2f1ef67a66883694842a9545e7b9

Fix decoder mismatch in sub-pixel AVX2 intrinsic filters

The subpixel SSSE3 was fixed in this patch:
https://gerrit.chromium.org/gerrit/#/c/70283/
So the equivalent AVX2 is fixed accordingly.

Change-Id: Ieebbc1949c99d34b12b8b47692df71aca5001f3a

Merge changes I4f0f4378,I02250d13

* changes:
  Re-enable unit test on neon implementation of 16x16 idct
  Turn on unit test for inverse 16x16 2D-DCT ssse3

Merge "Inverse 16x16 2D-DCT SSSE3 implementation"

Re-enable unit test on neon implementation of 16x16 idct

The previous change only tunes forward transform. It doesn't affect
the neon implementation of the inverse transform. Hence turn the
unit test on.

Change-Id: I4f0f43783b98814d1eee53182209f9669d538140

Turn on unit test for inverse 16x16 2D-DCT ssse3

Change-Id: I02250d1364ca2e637585a8db020cba9fd4a95664

Inverse 16x16 2D-DCT SSSE3 implementation

This commit enables the SSSE3 implementation of full inverse 16x16
2D-DCT. The unit runtime goes down from 1642 cycles to 1519 cycles,
about 7% speed-up.

Change-Id: I14d2fdf9da1fb4ed1e5db7ce24f77a1bfc8ea90d

Merge "Use extreme values for input in convovle tests"

Merge "Fix decoder mismatch in sub-pixel SSSE3 intrinsic filters"

Use extreme values for input in convovle tests

The intepolation filter functions can be better tested withe extreme
values, especially given the optimization functions are prone to
overflow signed 16 bit intermediate value when operation order is
wrong.

Change-Id: I712142b0bc1e5969c692c0486a57ffa37c9742b5

Removing vp8/common/pragmas.h.

Change-Id: I80630a7350e884ebc4fef73fb5b52ec25f908523

Merge "Removing vp9_pragmas.h."

Further first pass allocation changes.

Further changes to first pass allocation for gf/arf groups.
Three variables removed from TWO_PASS structure as only
now used locally. Dont adjust gf_group_bits in the post
encode update as this will no longer have any effect.

Change-Id: Iff89b225db923fc856f5d2aedbc899f1d7d68b55

Fix decoder mismatch in sub-pixel SSSE3 intrinsic filters

In 8-tap filtering, to guarantee the intermediate results fit in
16 bits, the order of accumulating the products needs to be done
correctly, and the largest product should be added last. This
patch fixed the problem using the method in commit "Correct ssse3
8/16-pixel wide sub-pixel filter calculation".

Change-Id: I79d0ad60c057b15011ece84cda9648eee0809423

Merge "Fixes a bug for uninitialized frame buffers"

Merge "Use offset mode info when filling pc tree."

Merge "Always partition check after keyframe (rt speed 5)"

Re-factor bit allocation in first pass.

Restructuring to allocate the bits for each frame in
a GF group at the time the group is defined.

At the moment the allocation closely mirrors what
we had before.

Also changes the default rate adjustment method to
LONG_TERM_VBR_CORRECTION.

Change-Id: Ie5793c46c6b9c888cead5d8790792efd7d60b7c1

Merge "change to use assembly version of ssse3 filter code"

Fixes a bug for uninitialized frame buffers

Fixes a bug introduced in
https://gerrit.chromium.org/gerrit/#/c/69779/13, where
uninitialized frame buffers due to corrupt and short
buffer sizes, may cause a crash.

This patch fixes the currently failing
video/processing/static_image/vp8_convert_test

Change-Id: I1b09e21482f292c11a2bfb4e570aef1d643410a7

Remove Wextra warnings from vp9_sad.c

As a side-effect, the sad unit tests for VP8 and VP9
had to be separated.

Change-Id: I068cc2391eed51e9b140ea6aba78338c5fec8d71

Merge "Adding several consts to assign_std_frame_bits()."

Merge "Removing unused third-party libraries."

change to use assembly version of ssse3 filter code

As mismatchs were found  between the intrinsic version and c only. The
commit temporarily revert to use the matching assembly version to
allow further investigation.

Change-Id: I08436c47d4888b562c0eac8e8856d90a831442df

Merge "Fix a decoding mismatch in sub-pixel filters"

Always partition check after keyframe (rt speed 5)

Prevents too small partitions from being copied to the next frame.

Change-Id: I4b97c30b27d06051574d54aaaca5434407a0c9ff

Merge "Fix for missing initialization of ratectrl vars"

Use offset mode info when filling pc tree.

Use the appropriate subblock offset mode info rather than the parent
block base, when filling mbmi in the pc tree in nonrd_use_partition.
This mimics what is done in the vertical case and what is done for
both cases in nonrd_pick_partition.

This change has little practical effect at the moment since in speed 5
rt horizontal and vertical partitions are currently only used unpaired
at edges of the picture.

Change-Id: I4632f66ca84086dac56c7d36b45ddbe38a06f42a

Fix for missing initialization of ratectrl vars

Initializes total_actual_bits and total_target_bits to 0

Change-Id: Ia50d3bf5df765146a44aa1f6045e73367ccf50df

Merge "[spatial svc] Remove hard coded rc_end_usage setting"

Fix a decoding mismatch in sub-pixel filters

This did the same correction as the one in commit "Correct ssse3
8/16-pixel wide sub-pixel filter calculation" to avoid saturation
during filtering.

Change-Id: Ife9aa3f62daf9114eb24fe38f7baa3c3f361b2d6

Merge "vp9_ratectrl.c: Fix MSVC warnings."

Merge "Cleaning up vp9_init_second_pass()."

vp9_ratectrl.c: Fix MSVC warnings.

Change-Id: I4bd635949240880ced5f581c24e981ccd0374e40

Merge "Cleaning up calculate_section_intra_ratio()."

Merge "Adjust cq_level in constrained quality mode"

Removing vp9_pragmas.h.

Change-Id: I9120a87e27e73e496932d11716937e2fad246521

Merge "Cleaning up calc_frame_boost()."

Cleaning up vp9_init_second_pass().

modified_error_total from TWO_PASS struct is not required anymore.

Change-Id: I0e07cac1e6d1b6a78418116be725bcd72bfbd847

Removing unused third-party libraries.

We use libwebm instead of libmkv and nestegg.

Change-Id: I339eae081061c2e3eb8b234f14ae1bc846f85011

Merge "Renames x86_64 specific asm files"

Adjust cq_level in constrained quality mode

If we are already saving a lot in bits from the target (maximum)
bitrate in the constrained quality mode, allow the quantizer
to go lower than the cq level. This hopefully will solve issues
with getting too low a bitrate and consequently poor quality for
certain videos in cq mode.

Change-Id: I1c4e8b0171fcf58f95198b3add85eea5f3c8f19f

Adding several consts to assign_std_frame_bits().

Change-Id: I6c27c60f7192b1b397f01882ab68a68cdf767534

Merge "Cleaning up calculate_modified_err()."

Cleaning up calc_frame_boost().

Change-Id: I3ba9374de96dc31fb4e736742603ef988d8aaa5f

Merge "Removing decoded_key_frame flag."

Cleaning up calculate_section_intra_ratio().

Addition of reset_fpf_position() call fixes previous issue with this patch.

Change-Id: I356186d5a1032297a147194e81e9c7db252d14a6

Merge "Revert "Cleaning up calculate_section_intra_ratio().""