vpxenc: add --aq-mode flag to control adaptive quantization

Change-Id: I57e1ad4bed3487df12893ced77c49093f8755706

Merge "Syncing write_modes_{b, sb} implementation with decode_modes_{b, sb}."

Merge "Optimizing set_contexts() function."

Merge "Use 1D array to store super block filter levels"

Merge "mips dsp-ase r2 vp9 decoder intra module optimizations (rebase)"

mips dsp-ase r2 vp9 decoder intra module optimizations (rebase)

Change-Id: Ib27fc4f3dbe01fe8adfa04a61aaba21b3480e75c

mips dsp-ase r2 vp9 decoder loopfilter module optimizations (rebase)

Change-Id: Ia7f640ca395e8deaac5986f19d11ab18d85eec2d

Moving q_index from MACROBLOCKD to MACROBLOCK.

Moving because q_index is used only by encoder.

Change-Id: I0b96175614ed4fd3d76ee56a0ba36258e1e896f6

Merge "Enable dual buffer rd search and encoding scheme"

Merge "Add test vector for row/col tile decoding"

Merge "Calculating transform block offsets (x and y) only once."

Merge "Using max_tx_size instead of bsize when possible."

Merge "Moving {sb, mb, b, ab}_index from MACROBLOCKD to MACROBLOCK."

Merge "Adding const to tree pointer inside vp9_extra_bit struct."

Merge "Added optimized vp9_idct32x32_34_add_dspr2"

Adding const to tree pointer inside vp9_extra_bit struct.

Change-Id: I60e02fa3de930ff1f969687ab5af93dee40d86ad

Android.mk file for vpx unittests

These changes are to support automated regressions of vpx on android
new file:   test/android/Android.mk
new file:   test/android/README
new file:   test/android/get_files.py

Change-Id: I52c8e9daf3676a3561badbe710ec3a16fed72abd

Calculating transform block offsets (x and y) only once.

Change-Id: I4b5106bdc08fd4551339b968c13428a8f43122e2

Use 1D array to store super block filter levels

As Jim suggested, 1D array was used to store filter levels instead
of 2D array. This used shift_y in setup_mask directly, and saved
few cycles.

Change-Id: If61ab298784861f1806b1cd396d4e4e2e0f097b9

Add test vector for row/col tile decoding

1920x1080

vp90-2-08-tile-4x4.webm
vp90-2-08-tile-4x4.webm.md5

vpxenc blue_sky_1080p25 --frame-parallel=0 \
--tile-columns=2 --tile-rows=2 \
--lossless=0 --error-resilient=0 \
--min-q=0 --max-q=30 --kf-min-dist=0 --kf-max-dist=9999 \
--cpu-used=0 --codec=vp9 -p 2 --good --fps=25/1 --limit=5

vp90-2-08-tile-4x1.webm
vp90-2-08-tile-4x1.webm.md5

vpxenc blue_sky_1080p25 --frame-parallel=0 \
--tile-columns=0 --tile-rows=2 \
--lossless=0 --error-resilient=0 \
--min-q=0 --max-q=30 --kf-min-dist=0 --kf-max-dist=9999 \
--cpu-used=0 --codec=vp9 -p 2 --good --fps=25/1 --limit=5

Change-Id: I77d0ccf9b721ae5cfa72781fe0d3c534ea43b756

Merge "Removes conditional statements from band getting"

Use lowercase 'b' to branch

iOS doesn't recognize B:
bad instruction `B idct32_pass_loop'

Change-Id: I3cf6aede4639f1d9efa97f7962fa287ba6feaaef

Merge "Rewrite filter_selectively_horiz for parallel loopfiltering"

Merge "Improve loopfilter function"

Removes conditional statements from band getting

Implements scan order to band map with arrays in both the encoder
and decoder to remove conditional statements.

Encoding seems to be about 1% faster at speed 0, tested on football.
Decoding seems to be about 0.5-1% faster on a set of 25 videos.

Change-Id: Idb233ca0b9e0efd790e30880642e8717e1c5c8dd

Merge "Removing redundant assignment."

Enable dual buffer rd search and encoding scheme

This commit enables the dual buffer rate-distortion optimization
and encoding scheme. It stacks the original transform coefficients,
quantized levels, and reconstructed coefficients, in the rate-
distortion optimization search process, hence eliminates the need
to re-run residual generation, forward transform, and quantization
in the encoding stage.

Change-Id: I011bfad3a59a380a869ee552e91dae0394ec492e

Merge "Allocate dual buffer sets for encoding"

Removing redundant assignment.

xd->mi_8x8 is assigned inside set_offsets() for each prediction block.

Change-Id: I20e5974a9eaf105e5a04fc7f99b7a93bd50e3d0a

Syncing write_modes_{b, sb} implementation with decode_modes_{b, sb}.

Change-Id: Iaee740ec3bfb2b5328c24f4641c285e5a4a046dc

Rewrite filter_selectively_horiz for parallel loopfiltering

Added loop filter mask checking, and made the caller function
ready for implementation of parallel loopfiltering in horizontal
direction.

Next, we need to go through the loopfilter functions (both c and
optimized versions), and provide 16-byte wide loopfiltering for
each filter type.

Change-Id: Ifef47e7ef9086ebc2fd6ca7ede8f27c9bbf79e66

Merge "vpxenc: clean up; move stats code out of vpxenc.c"

Merge "Cleaning up joint_motion_search function."

vpxenc: clean up; move stats code out of vpxenc.c

Change-Id: I6b245ef5017c49373ba33e30f8fbf3d1b97409b5

Allocate dual buffer sets for encoding

Allocate memory space of dual buffer sets that store the coeff, qcoeff,
dqcoeff, and eobs. Connect the pointers of macroblock_plane and
macroblockd_plane to the actual buffer in use accordingly.

Change-Id: I2f0b5f482ca879fae39095013eaf8901db20a5a4

Merge "Decouple macroblockd_plane buffer usage"

Cleaning up joint_motion_search function.

Change-Id: I70a0878b23bda0ac3ff8733b4c96d5c636bc551c

Moving {sb, mb, b, ab}_index from MACROBLOCKD to MACROBLOCK.

We use {sb, mb, b, ab}_index only inside encoder, so moving them into
appropriate data structure.

Change-Id: Ib5c1036716354d9d321e11a60c1634c1cb8f9716

Merge "Fixed memory leak with svc_test.cc"

Decouple macroblockd_plane buffer usage

Make the macroblockd_plane contain dynamic buffer pointers instead
static pointers to the memory space allocated therein. The decoder
uses the buffer allocated in pbi, while encoder will use a dual
buffer approach for rate-distortion optimization search.

Change-Id: Ie6f24be2dcda35df7c15b4014e5ccf236fb3f76c

Fixed memory leak with svc_test.cc

was not calling vpx_codec_destroy and delete(decoder_) in TearDown

Change-Id: Iff4fd24a260223d224b3ea3287cdf0227405492f

Fix a bug in the assembly code.

Change-Id: Ic416e3f8a11e82ee298e6f709b2119a9ddf1e2f8

Merge "Replacing (raster_block >> tx_size) with (block >> (tx_size << 1))."

Merge "vpx[dec|enc]: Clean up target OS based IO focused preproc abuse."

vpx[dec|enc]: Clean up target OS based IO focused preproc abuse.

Relocate it to tools_common.h so we can stop duping this code
everywhere.

BUG=https://code.google.com/p/webm/issues/detail?id=660

Change-Id: If8aa49b74d297273cd9fd7006b2767837055a359

Merge "Localizing NEARESTMV special cases in the code."

Merge "Cleaning up vp9_quantize_b_c() function."

Merge "Cleaning up read_mv_probs() function."

Merge "Adding read_reference_mode() function."

Merge "vpxenc: Remove support for IVF input."

Merge "[BITSTREAM]Fix row tile mode_info pointer setup"

[BITSTREAM]Fix row tile mode_info pointer setup

This commit fixes the assignment of mode_info pointer per tile. It
makes recognition of tiles in both row and column formats and properly
arrange the use of mode_info.

The bug was first introduced in
I6226456dd11f275fa991e4a7a930549da6675915
https://gerrit.chromium.org/gerrit/#/c/67492/

Change-Id: Ie12cd209f53241513728c461ee3d7b9599ddb860

Merge "Correct a couple of typos"

vpxenc: Remove support for IVF input.

Change-Id: Ida0e1b2df89e992b8140672b70517d8623cf9ede

Optimizing set_contexts() function.

Inlining set_contexts_on_border() into set_contexts(). The only difference
is the additional check that "has_eob != 0" in addition to
"xd->mb_to_right_edge < 0" and "xd->mb_to_right_edge < 0". If has_eob == 0
then memset does the right thing and works faster.

Change-Id: I5206f767d729f758b14c667592b7034df4837d0e

Correct a couple of typos

Change-Id: Ic470c6c9ce27b615c9645b9cb0d67526417bc374

Merge "Improve vp9_idct4x4_1_add_sse2"

Improve loopfilter function

This patch continued the work done in "Rewrite loop_filter_info_n
struct"(commit:00dbd369c70270428d56da6d15ea5486fc821c52) to further
improve loopfilter function.

1. Instead of storing pointers to thresholds, store loopfilter
levels within 64x64 SB;
2. Since loopfilter levels are already calculated in setup_mask,
we don't need call build_lfi to look up them again. Just save
loopfilter levels in setup_mask.
3. Reorganized and simplified filter_block_plane().

Tests showed a ~0.8% decoder speedup.

Change-Id: I723c7779738bbc2afcb9afa2c6f78580ee6c3af7

Merge "Disable zeroblock forcing for lossless coding mode"

Merge "Unifying tile decoding for both direct and inverse tile order."

Disable zeroblock forcing for lossless coding mode

This to make sure that prediction residue always get coded in lossless
mode.

This commit also fixed lossless unit test

Change-Id: I537726ee55328d4e4cf0a0196393a67e12bfcde1

Merge "Remove TEXTREL from 32bit encoder"

Merge "Removed unused rate parameter."

Replacing (raster_block >> tx_size) with (block >> (tx_size << 1)).

The new expression is much more logical than previous one. Surprisingly
both expressions give exactly the same set of dependent values
-- have_top, have_left, have_right -- in vp9_predict_intra_block.

Change-Id: I63eb1b592b8c37883b3a0dbb1f3daa271e446109

Merge "Add back vp9_short_idct32x32_1_add_neon which is deleted in cleanup I63df79a13cf62aa2c9360a7a26933c100f9ebda3."

Remove TEXTREL from 32bit encoder

This patch fixed the issue reported in "Issue 655: remove textrel's
from 32-bit vp9 encoder". The set of vp9_subpel_variance functions
that used x86inc.asm ABI didn't build correctly for 32bit PIC. The
fix was carefully done under the situation that there was not
enough registers.

After the change, we got
$ eu-findtextrel libvpx.so
eu-findtextrel: no text relocations reported in 'libvpx.so'

Change-Id: I1b176311dedaf48eaee0a1e777588043c97cea82

Merge "Fix the variable naming in encode_block"

Merge "Miscelleneous changes in detokenize for speed"

Merge "disable avx/avx2 for old versions of MSVC"

Fix the variable naming in encode_block

The term x represents macroblock pointer across encode_block. Change
the two local variable names to avoid confusion.

Change-Id: Ic732e73023525d673c0a678ed2708ac1edf5a3f9

Removed unused rate parameter.

Change-Id: I6e4a266fdbad1d222eb45d45b67bbb82d091821a

Unifying tile decoding for both direct and inverse tile order.

Now tile decoding consists of two stages:
1. Find tile buffer start and its size, put this info into tile_buffers.
2. Decode each tile based on information from tile_buffers.

It seems that stage 1 can also be reused by multithreaded tile decoder.

Change-Id: If0cdaefdd6d10bb41c63561346c9ae4cfac081dd

Merge "Move SVC per-frame loop from sample app into libvpx proper"

Merge "Using pd->dqcoeff instead of pd->qcoeff in the decoder."

Using pd->dqcoeff instead of pd->qcoeff in the decoder.

It is more logical to use dqcoeff buffer to put there *dequantized*
transform coefficients (inside inverse_transform_block and
decode_coefs functions). Dequantization happens inside WRITE_COEF_CONTINUE
macro.

qcoeff buffer should be only used in the encoder for *quantized*
transform coefficients.

Change-Id: Ifd54bef272bbf5311ced6669c4f1079f998af5d7

Move SVC per-frame loop from sample app into libvpx proper

SVC multiple layer per frame encoding is invoked with vpx_svc_init and
vpx_svc_encode. These interfaces are designed to be invoked from ffmpeg.
Additional improvements:
- make dummy frame handling a bit more explicit
- fixed bug with single layer encodes
- track individual frame sizes and psnrs instead of averages
- parameterized quantizer, 16th scalefactors, more logging,
- enabled single layer encodes to generate baseline
- include new mode for 3 layer I frame with 5 total layers

Change-Id: I46cfa600d102e208c6af8acd6132e0cc25cda8d4

Merge "Replacing mi_{width,height}_log2 with num_8x8_blocks_{wide,high}_lookup."

Merge "Allow test data path to be set by preprocessor symbol"

Replacing mi_{width,height}_log2 with num_8x8_blocks_{wide,high}_lookup.

Change-Id: I04c55daef89bca2b85cb7db0850f9b052abc5a7c

Merge "Removes stack allocation of token_cache"

Allow test data path to be set by preprocessor symbol

Change-Id: I19c482c7cba34db574b3f33178ba20aede49779e

Merge "Missing _ means no sse3 for vp9_h_predictor_32x32."

disable avx/avx2 for old versions of MSVC

Change-Id: Ifb40757c9c6b353482cfeef929af282ee0136c6c

Removes stack allocation of token_cache

Removes stack-allocation of token_cache in the tokenize
function in the encoder.

Change-Id: Ifdbab76dc2b23384da0080d2e9390533e489db8c

webmenc: Clean up the truly egregious style issues.

I'm sure I could do more, but I don't know how long this code has to
live. I think this at least makes the code a little easier to read and
understand.

Change-Id: I6ca76357f89468d4851a3d1826e7aefa498e51d1

Merge "Move WebM writing support out of vpxenc.c."

Merge "optimize decode_bool operation"

Move WebM writing support out of vpxenc.c.

This is mainly a clean up patchset. It moves the WebM writing support
out of vpxenc and into its own source file. Changes to tools_common and
vpxdec result from relocation of shared bits of code.

Change-Id: Iee55d3285f56e0a548f791094fb14c5ac5346a26

Missing _ means no sse3 for vp9_h_predictor_32x32.

Error in script means vp9_h_predictor_32x32 sse3 version
is not enabled.

Change-Id: Ia43672740da1ecdfb7fcd420490ef424b04accc4

Cleaning up vp9_quantize_b_c() function.

Change-Id: I42c75530a8c9cff68480657f074131e6b60d9fca

Using max_tx_size instead of bsize when possible.

Change-Id: I246364bc4270ca13aefb4bc3445bcf102b3170dc

Simply a macro

Change-Id: I1c0c1b92aab33b1e4321b8e584a934fe58e0b324

Add back vp9_short_idct32x32_1_add_neon which is deleted in
cleanup I63df79a13cf62aa2c9360a7a26933c100f9ebda3.

Change-Id: I034848cf05031618818f7df2e7f9c35102686948

Adding read_reference_mode() function.

Change-Id: I517ad7e1a48910f0d2e95feacd23f143d28b42d6

Cleaning up read_mv_probs() function.

Change-Id: I7a1e88b5977076e22736c0d6af1d4dcc19d39a6a

Merge "Removing old code."

Localizing NEARESTMV special cases in the code.

Removing special case handling from vp9_tree_probs_from_distribution(),
tree_merge_probs(), and vp9_tokens_from_tree_offset() functions. Replacing
inter_mode_offset() function with macro INTER_OFFSET which is used now for
vp9_inter_mode_tree definition.

Change-Id: Iff75a1499d460beb949ece543389c8754deaf178

Merge "Fixes to buffer update for temporal layers."

Merge "Unified approach for backward probability update."

Miscelleneous changes in detokenize for speed

Changes to reduce branching in detokenization  in order
to improve decode speed.

Change-Id: I23a74d072cc14d99f6fc054c1e6a72021e777903