Fixes qindex for first frame in 1-pass cq/q modes

Produces sane qindex for the first frame in 1-pass constant and
constrained qualirty modes.

Change-Id: Ib2a5091df15a23489e9bb5534a2019cf2689755e

Merge changes I59ef7c49,I0156d856

* changes:
  Made MACROBLOCK.increase_denoising cond-compiled
  s/INT_MAX/UINT_MAX/ where appropriate

Add x86-iphonesimulator-gcc target.

macho32 i386 with:
- -miphoneos-version-min=5.0
- -isysroot from xcrun --sdk iphonesimulator

Change-Id: I6bb43eebab39a71cdb76264644eba14c22d736c2

Removing unused alt_freq field from VP9EncoderConfig.

Change-Id: I9b683c8647a864e74073161f4aa6f2911b7825e3

Made MACROBLOCK.increase_denoising cond-compiled

Change-Id: I59ef7c49f72d2d40bbe5b56af11bdf5f9ae2f1b8

s/INT_MAX/UINT_MAX/ where appropriate

Change-Id: I0156d85671305326525c4644510e240021eca461

Merge "Enable unit test for partial 16x16 inverse 2D-DCT"

Using 2 instead of 3 elements for avg_frame_qindex array.

The third array element was unused. 2 elements now: key- and interframe.

Change-Id: I5b8b9f5d889cc96a204cedfc432059293256298e

Enable unit test for partial 16x16 inverse 2D-DCT

This commit enables unit test for SSSE3 16x16 inverse 2D-DCT with
10 non-zero coefficients. It includes a new test condition to
cover the potential overflow issue due to extremely coarse quantization.

Change-Id: I945e16f05dfbe19500f0da5f15990feba8e26d99

Merge "Re-enable unit test for SSSE3 forward 8x8 2D-DCT"

Merge "Enable SSSE3 inverse 2D-DCT with 10 non-zero coeffs"

Re-enable unit test for SSSE3 forward 8x8 2D-DCT

This commit enables the unit test for SSSE3 forward 8x8 2D-DCT.

Change-Id: Ie4aae84ac74f6eb1a80b62285c91632bd6db29f1

Merge "Removing lossless field from VP9EncoderConfig."

Merge "Fix potential overflow issue in SSSE3 forward 8x8 2D-DCT"

Merge "Rework unit test for 8x8 transformation"

Fix potential overflow issue in SSSE3 forward 8x8 2D-DCT

The SSSE3 implementation might find a potential overflow issue in
its second 1-D transform, if all input residual pixels are close to
255. This commit fixes the issue and re-enables the unit test on
the SSSE3 version.

Change-Id: I0520478abdab7afd3ff2842516bec951111e9b3c

Rework unit test for 8x8 transformation

This commit reworks the unit test for 8x8 forward/inverse
transformation. It adds extreme input value test to detect overflow
issues in the intermediate steps.

It temporarily disables unit test for the SSSE3 version, which
showed overflow failure in the new test conditions.

Change-Id: I7caf10bba4b6db031add65d8c0eb99426b38aa42

Adding buffer levels to RATE_CONTROL struct.

Change-Id: Ib35ff854378764dc3c6745844c67a33dee545663

Removing lossless field from VP9EncoderConfig.

Right now there is just one place to check: xd->lossless and for the first
pass there is a function is_lossless_requested().

Change-Id: I949a6834e64ce51e422e2892f097f2b871b5429a

Merge "Cleaning up full_pixel_search()."

Merge "Moving first pass related functions to vp9_firstpasss.c."

Merge "Reusing existing vp9_get{8x8, 16x16}var() instead of new ones."

Fix AQ mode 2 bug where delta causes Q 0.

In Aq mode 2 for kf/arf/gf the segment q delta
is calculated and then applied by re-quantization without
going through the rd loop again. If the base Q != 0
but the segment Q == 0 (lossless) this can could give rise
to a situation where we have an illegal combination of
transform size and Q. (Q == 0 requires that all blocks
are coded 4x4 WHT).

Change-Id: I241a58c6494ed442e9e4630070b0cde0fb99ae45

Merge "Remove Wextra warnings from vp9_sad.c"

Merge "Remove an attempt to handle SEG_LVL_SKIP sub8x8."

Remove Wextra warnings from vp9_sad.c

As a side-effect, the sad unit tests for VP8 and VP9
had to be separated.

Fixes a bug in original patch:
(https://gerrit.chromium.org/gerrit/#/c/70163/8)
that was reverted due to a nightly test failure.

Change-Id: Ia2a4e9e278fd3c89d6c3c82fcc6381320ec2a8a6

Fixing failed ARM build.

Change-Id: I3f74418f07c2dfdd7725a5b4a8ef5c5f4aca6289

Merge "Fixed OUTPUT_YUV_SRC behavior for VP8"

Merge "seeing a 10x slowing down, revert now for investigation"

seeing a 10x slowing down, revert now for investigation

Revert "Fix a problem of using an uninitialized parameter"

This reverts commit 538af7db5ffe2ab560511a3bc0ae74dae9316c14

Change-Id: I071aa9b7068ef515abb8ae9584df15067706ccb5

Merge "Revert "Remove Wextra warnings from vp9_sad.c""

Revert "Remove Wextra warnings from vp9_sad.c"

This reverts commit 916550428db803c54c993ff9d3c34b9b0bcebb7c

Change-Id: I500822b03f09c64ff6ec5396c68edee9ca3b75cb

Merge "Converting disable_inter_mode_mask to inter_mode_mask."

Merge "Add overflow check unit test for 16x16 inverse DCT/ADST transform"

Merge "Fix a potential overflow issue in inverse 16x16 full 2D-DCT"

Merge "Fix unused variable warning."

Merge "Refactor the vp9_get_frame code for frame parallel."

Add overflow check unit test for 16x16 inverse DCT/ADST transform

This commit applies quantization process with coarse quantization
step size to the forward transform coefficients and tests all the
inverse 16x16 DCT and ADST implementation versions with the
dequantized coefficients as input, to verify that the outcomes
match the prototype.

Change-Id: I68034a6126b45192c87d8c642155290e89bff8fa

Merge "Fix a problem of using an uninitialized parameter"

Merge "Removing unused ref_frame_mask local var."

Refactor the vp9_get_frame code for frame parallel.

In frame parallel decoding mode,  there will be still several frames inside
the decoder when application stop calling vpx_codec_decode to decode frames.
The application will need to keep calling vpx_codec_get_frame to get all the
remaining decoded frames in the decoder.

Change-Id: I2ce8260a91282f045bb9a6093ff8a606b1990f14

Merge "Do not export non-existant symbols"

Fix unused variable warning.

Change-Id: I52f73943194039697da6880d2da54821b2498336

Fix a problem of using an uninitialized parameter

This commit added a call to set speed feature before initializing
motion search, fixed the problem where unintialized search method
is used before its value being set.

Change-Id: I537e4612bf0d00fd6f51396fd222d4b3bd6fde58

Fixed OUTPUT_YUV_SRC behavior for VP8

By enabling the OUTPUT_YUV_SRC compiler flag, the encoder will write the raw
input to bd.yuv.

The functionality was mostly implemented, but in its previous state did not
compile.

Change-Id: Ia331ad0f4c6e6f9f51e8d42cd33ba8cc146b3dbf

Merge "Re-factor some duplicate code."

Do not export non-existant symbols

Change-Id: Ic0fb8e5016d064c2227cf5d87ffba86a4303c82b

Removing unused ref_frame_mask local var.

Change-Id: Ie11558c076a0161cc9608788e050b1b16e31c490

Merge "Consistent names for intra mask flags."

Merge "Don't update encoder skip count for SEG_LVL_SKIP."

Converting disable_inter_mode_mask to inter_mode_mask.

Making this consistent with intra mode masks: you need to specify
allowed inter/intra modes to use.

Change-Id: Iaecd28bf79047259707d8e7a59a57bb7b856383e

Consistent names for intra mask flags.

Change-Id: Ibdd5255d37200fb8a1d50f71a2a49c6089ae21e7

Remove an attempt to handle SEG_LVL_SKIP sub8x8.

SEG_LEVEL_SKIP requires the block size to be at least 8x8. Attempting to
use it on smaller partitions causes the decoder to reject the bitstream.

Change-Id: Ia7188cdf8ae5ac1df6bd29f3f80dbb0610e1f7b1

Merge "Making speed checks consistent in set_rt_speed_feature()."

Fix a potential overflow issue in inverse 16x16 full 2D-DCT

An overflow issue could potentially happen in the second round 1-D
transform of the SSSE3 full inverse 16x16 2D-DCT. This commit fixes
this issue.

Change-Id: Ia19e4888fda1cc929a28a5f89a5beec612d628dc

Don't update encoder skip count for SEG_LVL_SKIP.

This aligns the encoder behavior with the decoder.

Change-Id: Ifa0840e4b07b19309e0bf1d1182498883249ec45

Merge "Moving itxm_add pointer from MACROBLOCKD to MACROBLOCK."

Reusing existing vp9_get{8x8, 16x16}var() instead of new ones.

Change-Id: I87b7c657d8813d7fb383ab519d150c0ffb1dd377

Making speed checks consistent in set_rt_speed_feature().

Change-Id: Id3d0a49836fe996b806707d29a8130acf9d7ea0e

Merge "Fixing -Wextra warnings in vp9_{cx, dx}_iface.c."

Merge "Fixed a crash windows build"

Fixed a crash windows build

Change-Id: I58baa1da1f3bfc8a6da454399139fe6a7473ff10

Merge "vp8 denoiser: fix to zero_mv mode selection."

vp8 denoiser: fix to zero_mv mode selection.

In the current logic, if the sse for zero motion is smaller
than the sse for new_mv (i.e., best_sse), we may still end up
using the non-zero mv for denoising (if the magnitude of new_mv is above threshold).
This can happen for very noisy content, and can lead to artifacts.

This change ensures that we always use zero_mv (over new_mv) for
denoisng if sse_zero_mv <= best_sse.

Change-Id: I8ef9294d837b077013b77a46c9a71d17c648b48a

Fixing -Wextra warnings in vp9_{cx, dx}_iface.c.

Change-Id: I0abad32551dc534d3db27424c118e4b2f6b50f37

Merge "Using 2 instead of 3 elements for last_q array."

Merge "Removing redundant vp9_zero() call."

Enable SSSE3 inverse 2D-DCT with 10 non-zero coeffs

This commit enables SSSE3 implementation of the inverse 2D-DCT
with only first 10 coefficients non-zero. It reduces the runtime
of SSE2 version from 745 cycles to 538 cycles, i.e., 27% speed-up.

Change-Id: I18ba4128859b09c704a6ee361d69a86c09fe8dfe

Merge "Cleaning up vp9_variance_sse2.c."

Merge "Always allow ZEROMV when SEG_LVL_SKIP is on."

Merge "Fix the all intra modes mask constant."

Merge "Removing this_frame_stats member from TWO_PASS struct."

Re-factor some duplicate code.

Change-Id: I89a1dbea39c50c7633f746d9c93fec3a289f1b42

Merge "Remove brightness weighting in two pass."

Removing undeclared identifier - build fix

Fixes build with --enable-internal-stats

Change-Id: I137169c859f561478e45891defe976d595454166

Cleaning up full_pixel_search().

Change-Id: Ie517ac06385133ffb3bbc449d9f23240f245976d

Using 2 instead of 3 elements for last_q array.

Change-Id: I2c6950e7d79fc89c6f97e6dcf47317ef66c453a5

Always allow ZEROMV when SEG_LVL_SKIP is on.

Change-Id: I6db1dc82f66438ac48f571d2f1a2ac7c39a97a1a

Fix the all intra modes mask constant.

The new constant expands to 0x3fc00808.

Change-Id: Ib5109e4faf035fe0402b59f8a8d2e412628b9276

Merge "Removing ctrl_id parameter from vpx_codec_control_fn_t."

Removing this_frame_stats member from TWO_PASS struct.

Change-Id: Id8877fad1f1e88b145e7c40c43174109b9c4f373

Merge "Fix compiling error in MSVS"

Removing ctrl_id parameter from vpx_codec_control_fn_t.

Change-Id: I2b61c8c17ded1074dea92b4f6ad9be84d128b52a

Removing redundant vp9_zero() call.

rd.tx_select_threshes is cleared in encode_frame_internal().

Change-Id: Ie03776a41c585f13b392a9b62d4e91ef26ebeaf0

Fix compiling error in MSVS

Need to include math.h before tmmintrin.h in some versions of MSVS.

Change-Id: Ia6b83ae599316887ecf30c4e4b9e4355fb8a4219

Merge "vp9_rdopt.c: Removed 2 unused parameters"

Merge "Fix to reduce block artifacts from vp8 temporal denoiser."

Merge "Converting target_bandwidth to Bit/s at very beginning."

Merge "Revert "Making vp9_get_sse_sum_{8x8, 16x16} static.""

vp9_rdopt.c: Removed 2 unused parameters

Change-Id: I935ec0e78570ce3d3585f972350e39043eefa30a

Merge "Turn on unit tests for AVX2 convolve functions"

Cleaning up vp9_variance_sse2.c.

Change-Id: I5ec336848f6489c31cf2b645026fa2025db07466

Revert "Making vp9_get_sse_sum_{8x8, 16x16} static."

This reverts commit e8bbb3d9db797dab7c2f947cc43e8d0f168e4953.

Change-Id: Ie368d36fd249d323d859d208609c711f04537bbc

Merge "Remove Wextra warnings from vp9_sad.c"

Merge "Fix decoder mismatch in sub-pixel AVX2 intrinsic filters"

Merge "Reusing rd_less_than_thresh() function."

Merge "Removing vp8/common/pragmas.h."

Turn on unit tests for AVX2 convolve functions

This patch turned on unit tests for AVX2 convolve functions.

Change-Id: I51b8bfdaa290fb22862c68af61abf2394d00d47c

Merge "neon matches "C" when using increase_denoising"

Remove brightness weighting in two pass.

This code dates from the ancient past and
applied an error score weighting based on pixel
brightness. This not seem to be providing any
benefit metrics wise and could be making some
visual issues in dark frames worse.

The field is left in place in the FIRSTPASS_STATS data
structure in this patch, pending changes to unit tests that
use a pre-defined first pass file.

Change-Id: Id50f04205230234858e7548ce523f11acaf3567d