Merge "Simplify mask checking in loop filters"

Merge branch 'forest'

Bookkeeping. master already contains everything
in forest.

Change-Id: I1471064eef341411c6ed0c9e855fce18cff12ebc

Fix bug in extend_frame chroma extended too far

This fixes issue 667.

In the case where the frame was an odd number of pixels
wide or high, the border was being extended by one col
or row too far.

The calculation of color plane dimensions was modified
to use those already computed at the time the frame
buffer was allocated.

Also freed the temporary scaling buffer in vpxdec to
prevent a memory leak.

Change-Id: I195bc81d84c0fc5d8260c1232200d62399e4b51f

Merge "Moving token-encoding related stuff from common to encoder."

Merge "Moving reaster_block_offset{,_int16} from vp9_blockd.h to vp9_rdopt.h."

Merge "Simplify super_block_yrd()"

Merge "Merge tx selection into RD calculation"

Fixing inadvertent change

Fixes an inadvertant change made in a previous patch while doing
some experiments.

Change-Id: I9961f2157c803676491a3d6daf056ff8a37367b3

Simplify mask checking in loop filters

Considering a horizontal edge, if mask_16x16 is 1 for an even-
indexed 8x8 block, then mask_16x16 is 1 for next 8x8 block in
same row. Similiar to a verticle edge, if mask_16x16 is 1 for
an even-rowed 8x8 block, then mask_16x16 is 1 for the 8x8 block
right below it in next raw. Based on that, the mask_16x16 checking
can be simplified to save cycles. The corresponding 8-pixel
vp9_mb_lpf_horizontal_edge code can also be removed.

Change-Id: Ic3fe7a5674322239208cbe2731dc3216ce2084f3

Moving reaster_block_offset{,_int16} from vp9_blockd.h to vp9_rdopt.h.

Change-Id: I5a5888d4639cc6b7eb266be47581dd15ba08c91e

Merge "Continued rate control clean-ups"

Continued rate control clean-ups

Moves all post encode rate control updates to a separate function
plus other cleanups.

Change-Id: I70e8eccf666c88d8b649b969997fd84d27e4baaa

Moving token-encoding related stuff from common to encoder.

Change-Id: I0e59d320407b3bed0ba3622a7b29975f6fad7ebf

Merge "Moving mode encodings from common to encoder + cleanup."

Merge "vp9_short_fdct32x32_rd vp9_short_fdct32x32 optimized for AVX2"

Removing qcoeff buffers from the decoder.

We only need qcoeff buffers in the encoder. Reducing TileWorkerData struct
and VP9Decompressor struct sizes by 24K.

Change-Id: Id148868461f7ffa3d3dd634b371503ae9c57e207

Simplify super_block_yrd()

Change-Id: Iae16644faeed920e69cd5d1db71e2e1e4bda241c

Moving mode encodings from common to encoder + cleanup.

Change-Id: I248ccb1532e2cd95314d0b95108f2c2e71cf084f

Merge "Amended some comments for clarity"

Merge "Deleting vp9_treereader.h file."

Deleting vp9_treereader.h file.

Renaming treed_read() to consistent vp9_read_tree() and moving it from
deleted vp9_treereader.h to vp9_dboolhuff.h file.

Change-Id: Iedd8655acbe25e4fcf62b79e5a13bdea69b6b004

Merge tx selection into RD calculation

Change-Id: I406021e34b31b899202a99b39d3da4fa06ebee69

Merge "Add a noise test vector"

Merge "thumb: Fix a typo in a comment"

Add a noise test vector

Added the test vector provided by Attila, which caught the bug in
Issue 661 "Decoder produces mismatched outputs with ssse3 enabled
and disabled"

vp90-hantro-stream-001.ivf
size: 320x180; 20 frames

Change-Id: Ic0d2b57ac7596ecb938dd55abc8c706fc2dd6d8f

Merge "Fix unit test failures"

Fix 16 wide neon horz loopfilter.

Multiply by 3 was on 8bit vectors when it should have been on
16bit vectors.

Change-Id: I248c1429b3134dfd171dfab0ebb109fd2437e1fc

Fix unit test failures

Change-Id: Ibc61ef81fafeb20df6df6e5496b6c01760f3dc84

Merge "Do vertical loopfiltering in parallel"

Merge "Some cleanups on rate control"

thumb: Fix a typo in a comment

Change-Id: Ic318be9d74a95793abc41501fe563164de53a6d7

Merge "Moving mv entropy encodings calculation to the encoder side."

Merge "Removing vp9_modecosts.{c, h} files."

Some cleanups on rate control

Removes the active_worst_qchanged variable since it is never
set to 1.

Change-Id: I29a291fd1068fd9b504a2db7768d45644c1eae3e

Moving mv entropy encodings calculation to the encoder side.

Moved arrays:
  vp9_mv_joint_encodings
  vp9_mv_class_encodings
  vp9_mv_class0_encodings
  vp9_mv_fp_encodings

Change-Id: Iaf5008c579fcbd6d77fdd81d1aef8c71b5f308b7

Merge "Removing redundant call of vp9_init_mbmode_probs()."

Removing vp9_modecosts.{c, h} files.

Renaming vp9_init_mode_costs() to fill_mode_costs() and moving it to
vp9_rdopt.c.

Change-Id: Ib2542d216458f6dced9f4b7ccbdd2cd98176aa5a

vpxenc: Move config check code into its own source files.

- Add command line args that allow display of warnings without prompting
  for user input.
- Extend warning code to make it somewhat scalable.

Change-Id: I2bad8f9315f6eed120c2e1bbe0a2a5ede15fbf35

Reusing txfrm_block_to_raster_xy in vp9_xform_quant().

Change-Id: Ib273dfff3be284f3c9ae288e5315fb6c6126f9c2

Merge "Cleaning up vp9_write_nmv_probs() function."

Merge "Adding select_tx_size() function."

Merge "Moving {left, right}_block_mode to vp9_blockd.h."

Merge "Renaming COMPPREDMODE_TYPE enum and its members."

Amended some comments for clarity

Change-Id: I31c3908ba394095deb5d3a5d7b7c9b2b5328c3e8

Merge "In frame Q adjustment experiment."

Merge "Use separate inter predictors for enc/dec"

In frame Q adjustment experiment.

The idea here is to allow "in frame" adjustment of the final Q
value used to encode each SB64, using segmentation.

There is also adjustment of the rd mult in regions of overspend.

Activated using aq_mode=2

Change-Id: I2f140cd898c9f877c32cd6d2e667f5e11ada4b1c

Merge "Fix a build issue with visual c."

Merge "Rename block_yrd_txfm to block_rd_txfm"

Use separate inter predictors for enc/dec

The decoder will construct inter predictor using lazy border extension,
while the encoder, going with multiple runs of motion search in the rate-
distortion optimization loop for each block, does border extension at
frame level. This commit makes separate the inter predictors for encoder
and decoder, respectively.

Change-Id: Ieca2fecba3a7201a6d64ef9f219e5d91e50559c3

Merge "Separate setup_scale_factor/extend_frame_borders"

Fix a build issue with visual c.

Change-Id: Ic8fc16ee1734cfde0d12a2e3abb3e9299382f3b1

Cleaning up vp9_write_nmv_probs() function.

Change-Id: I9af38f1a0e226ee094c17081f044a722ac1caded

Rename block_yrd_txfm to block_rd_txfm

This function is also used with the U and V planes.

Change-Id: Ib6beae0438790bfb690b3a2bda9c5c8b0e89a9b8

Merge "Using partition counts from FRAME_COUNTS struct in the encoder."

Merge "Cleaning up vp9_append_sub8x8_mvs_for_idx."

Merge "Inlining and removing vp9_set_pred_flag_seg_id() function."

Merge "Added cpuid compatibility for older MSVC versions"

Inlining and removing vp9_set_pred_flag_seg_id() function.

Change-Id: I0fd76937e847f78378a7ab3fa0af00a7c2c52b42

Merge "Organizing all scan tables into lookup table."

Added cpuid compatibility for older MSVC versions

Change-Id: I891bf936e03411ca611620e7cb2eb5081993a346

Merge "Fix bug in extend_frame chroma extended too far"

Renaming COMPPREDMODE_TYPE enum and its members.

List of renames:
  COMPPREDMODE_TYPE      => REFERENCE_MODE
  SINGLE_PREDICTION_ONLY => SINGLE_REFERENCE
  COMP_PREDICTION_ONLY   => COMPOUND_REFERENCE
  HYBRID_PREDICTION      => REFERENCE_MODE_SELECT (like TX_MODE_SELECT)
  NB_PREDICTION_TYPES    => REFERENCE_MODES

Change-Id: If723dabe9435325d0165dcd028142a2c78b417b4

Organizing all scan tables into lookup table.

Change-Id: Ie829ee58a55157e6972c63cebe69a5d0a3221349

Cleaning up vp9_append_sub8x8_mvs_for_idx.

Change-Id: Ic92f15d82ff5cfa3df655d08e460335c2ef8a325

Using partition counts from FRAME_COUNTS struct in the encoder.

Change-Id: I6c3d47b00acabe7ffba22ffc73741173aa9a0bff

Separate setup_scale_factor/extend_frame_borders

This commit takes out vp9_extend_frame_borders from
vp9_setup_scale_factors.

The refactoring is for the preparation of the use of lazy border
extension at decoder. This makes it necessary to handle border
extension separately at encoder/decoder. The use of
vp9_extend_frame_borders will be removed, when lazy border extension
is ready.

Change-Id: Ia3baba3d179d5f11eee1634f19b3b319d2a59186

Fix decoder to handle display size correctly

The decoder ignored the display width & height
specified in the frame header.

This patch adds a control, VP9D_GET_DISPLAY_SIZE, to
allow the application to obtain the display width and
height from the frame header.

vpxdec has been modified to scale the output frame to
this size.

Should the request for the display size fail vpxdec will
use the native width and height of the raw decoded
frame instead.

Change-Id: I25db04407426dac730263720c75a7dd6400af68a

Merge "Cleaning up entropy probability update in encoder."

Merge "Removing txfrm_block_to_raster_xy() call from extend_for_intra()."

Merge "Improve vp9_fdct4x4_sse2 (x1.2)"

Do vertical loopfiltering in parallel

This patch followed "Add filter_selectively_vert_row2 to enable
parallel loopfiltering" commit, and added x86 SSE2 optimization
to do 16-pixel filtering in parallel. For other optimizations
(neon and dspr2), current 16-pixel functions were done by calling
8-pixel functions twice, and real 16-pixel functions could be added
later.

Decoder speedup:
tulip clip:     2% speed gain;
old_town_cross: 1.2% speed gain;
bus:            2% speed gain.

Change-Id: I4818a0c72f84b34f5fe678e496cf4a10238574b7

Merge "Fix the cpuid macro for x86_64 non-gcc build"

Fix bug in extend_frame chroma extended too far

This fixes issue 667.

In the case where the frame was an odd number of pixels
wide or high, the border was being extended by one col
or row too far.

The calculation of color plane dimensions was modified
to use those already computed at the time the frame
buffer was allocated.

Also freed the temporary scaling buffer in vpxdec to
prevent a memory leak.

Change-Id: Ied04bdcdfd77469731408c05da205db1a6f89bf5

Merge changes Id1698a35,Idcabd0b9

* changes:
  detokenization speedups
  Don't write 0's to token_cache

Merge "Refactoring of rate control - part 1"

Refactoring of rate control - part 1

Moves all rate control variables to a separate structure,
removes some currently unused variables,
moves some rate control functions to vp9_ratectrl.c,
and splits the encode_frame_to_data_rate function.

Change-Id: I4ed54c24764b3b6de2dd676484f01473724ab52b

Removing txfrm_block_to_raster_xy() call from extend_for_intra().

Change-Id: I6a48d1f35ed5fe7a2c7499675b339994c9c3bdf2

Fix the cpuid macro for x86_64 non-gcc build

Change-Id: I0c44800db10db8d74c1ddfe89abecfd1c53d0f8d

Merge "vpxenc: Add vpxenc.h and move/rename the global_config struct"

detokenization speedups

removed unnecessary ifs and branches ..

Change-Id: Id1698a35292659388f48926791024d1400f2cea9

Merge "Using num_4x4_blocks_* instead of b_{width, height}_log2."

vpxenc: Add vpxenc.h and move/rename the global_config struct

- Rename the struct to VpxEncoderConfig.
- The idea behind this is to enable checking the global settings against
  stream specific settings in source files other than vpxenc.c.

Change-Id: Ic736cbb714845b9466acb34671780d65b83ad1a8

Merge "Removing plane_block_{width, height} functions."

Merge "Using txfrm_block_to_raster_xy() in encoder."

Adding select_tx_size() function.

Change-Id: I9d18b31661a2ccdcd4e25956882c7fc2d4b7002e

Using num_4x4_blocks_* instead of b_{width, height}_log2.

Change-Id: I9ea3946c17b19f511565cd771037abe7db8b3ddb

Merge "Removing PARAMS macro for consistency"

Merge "Revert "Add 16 wide neon horz loopfilter.""

vp9_short_fdct32x32_rd vp9_short_fdct32x32 optimized for AVX2

Change-Id: I6366e84490883b72362f762369d7e5bccb64f02f

Revert "Add 16 wide neon horz loopfilter."

The change caused mismatches with some test vectors on neon.

Original CL: https://gerrit.chromium.org/gerrit/#/c/67863/

Change-Id: I913891636d53783e93cb1865ca78ded1821dc4b0

Correct ssse3 8/16-pixel wide sub-pixel filter calculation

Although no mismatch was indicated for 8/16 wide sub-pixel filters
in issue 661, they had similar problems that could cause mismatch
potentially. This patch fixed calculations in HORIZx8/16
and VERTx8/16.

Change-Id: Ib85412d690bea5609a51f0e50e7c858406b8ff9e

Take out assertion from inverse transforms

Separate the rounding and right shift operations of forward transform
from those of inverse transform. Take out the assertion check from
inverse transforms. If the transform coefficients were constructed to
cause intermediate steps of inverse transform overflow, the codec will
just let it overflow without breaking the decoding flow.

Change-Id: Ia7ce15dfd1a73b4abbaa78cbc74ec718523c5b1b

Fix stack pointer in sub-pixel filters

In commit "3d50da5397d20abc932d81453b26cde758293a40", the stack
pointer was modified while aligning the stack, and it needed to
be pop out at the end.

Change-Id: I39e4adc6b8aa3379854dd264d41aa6f0f15c7953

Fix decoder mismatch with ssse3 enabled

This patch fixed issue 661: "Decoder produces mismatched outputs
with ssse3 enabled and disabled." In sub-pixel filters, a pixel
value was multiplied by a filter coefficient, and the results
were added up. The order of adding up these multiplications had to
be arranged carefully to prevent incorrect overflowing.

Change-Id: Ia78663dfe74a2d46900f1c6fb07c21fac273892f

vpxenc: add --aq-mode flag to control adaptive quantization

Change-Id: I2a08c00e8576099abc84b6ef05cb3567426e29cf

Disable avx/avx2 for Visual Studio 2010

VS2010 only supports avx. There is currently no avx code
in libvpx so don't create a special case for it.

Change-Id: I39a11410367712b98bc6122c5a42fabffcdb94cf

Add support for VC++2013

Change-Id: I5f979135d371c3fc7b9485e29479f112baa5fa3b

Don't write 0's to token_cache

This code only updates the token_cache if the result is non0.

Change-Id: Idcabd0b993a926fea9c29dbec134b9c5c4859b40

Syncing update_coef_probs() implementation with decoder.

Using for loop based on max_tx_size instead of separate checks. Combining
build_coeff_contexts() with update_coef_probs().

Change-Id: Ie335a7db29830677fbc14478a9c190d3c1068665