Remove unused member variables from VP9_COMP

Removed three members from the VP9_COMP data structure:
inter_zz_count, gf_bad_count, gf_update_recommended.

These were part of the VP8 real-time mode implementation
that was removed from the initial VP9 codecbase.

Change-Id: I866b083b88ef02c74837277d50ce532ca88492f3

Merge "Add second ref frame check back in rdcost hist"

Add second ref frame check back in rdcost hist

Update best_inter_rd and best_inter_ref_frame only in single ref
frame case.

Change-Id: Id56825b231a62d6852bd83811410c05a7569f715

Merge "vp9 ssse3 d207_predictor_32x32: add missing GLOBAL()"

vp9 ssse3 d207_predictor_32x32: add missing GLOBAL()

removes a textrel for sh_b23456789abcdefff

Change-Id: I80cb9dfd8e49a0fe884c8ff76472275b3a00cb57

Merge "Convert filter kernel choice to lookup"

Convert filter kernel choice to lookup

Also removed unused declaration related 6 tap filter

Change-Id: Ic17f516141d885157918505f4204081e4c951fad

Merge "Cleanup. Adding const to function pointer arguments."

Merge "Cleaning up read_skip_coeff() function."

Two optimizations:

1. Reduced the size memset based on eob for 32x32 transform. The reset
of non-zero coefficient should probably go into where they are read in
inverse transform functions. (TODO)
2. Removed a redundant level of indirection.
vp9_iht4x4_add() checks transform type and call vp9_iht4x4_16_add()
for tranforms other than DCT_DCT. In this case, the DCT_DCT case
has been already handled here.

Change-Id: Iacbc77da761f0b308df5acea0f20c9add9f33d20

Merge "simplify read_coef_prob()"

Merge "Removing is_intra_mode() function."

simplify read_coef_prob()

Change-Id: I529c634db4f81ba5386092c126f53312b1e51b2b

Cleaning up read_skip_coeff() function.

Making code easier to read and avoiding calculation of skip context twice.

Change-Id: I42c376b1a1811bc842bf6420bf81d2de7a1bf980

Merge "Reducing the number of foreach_transformed_block() calls."

Cleanup. Adding const to function pointer arguments.

Change-Id: I12c67c8c0fa1aa7fb3f7d6cc2ef65be29c4ea292

Reducing the number of foreach_transformed_block() calls.

The change doesn't affect the bitstream. It changes the order or function
calls and affects how we reconstruct intra- and inter-blocks. Speed up is
about 1...1.5%.

For intra-blocks:
  Before:
    for each transform block read tokens
    for each transform block do prediction
    for each transform block do inverse transform
  Now:
    for each transform block
      read tokens
      do prediction
      do inverse transform

For inter-blocks:
  Before:
    for each transform block read tokens
    for each transform block do inverse transform
  Now:
    for each transform block
      read tokens
      do inverse transform

Change-Id: I12a79bf1aa5a18c351b8010369bd3ff1deae1570

Merge "mb_lpf_horizontal_edge AVX2 optimization"

Merge "Fix x_offset_q4/y_offset_q4 calculation"

mb_lpf_horizontal_edge AVX2 optimization

This CL contains two AVX2 optimized loop filter functions,
mb_lpf_horizontal_edge_w_avx2_8 and mb_lpf_horizontal_edge_w_avx2_16.

Change-Id: I604e4fe6e99752b7800c2ea98721d97f7e0b931b

Updates to 1-pass:

   -Don't reduce maxQ for gold/alt in CBR mode.

   -Fix to min/maxQ for first/initial key frame.

   -Add more speeds to datarate test and reduce the starting bitrate for test.

Change-Id: Id2a333d76dd3f6a51b322ca984588e2a22159c58

Merge "Enable all-zero coeff block index for sub8x8 blk"

Merge "Reducing the number of recursive calls."

Replacing (SWITCHABLE_FILTERS + 1) with SWITCHABLE_FILTER_CONTEXTS.

Change-Id: I9781a62bc1a4cd9176554d1271d87dbcafda9cb0

Enable all-zero coeff block index for sub8x8 blk

This commit makes zcoeff_blk cache the case where the entire block
is quantized to be zero (without applying zero-forcing) in the rate-
distortion optimization loop, and skip the forward DCT, quantization,
inverse DCT, and reconstruction process in the encode_block stage.

It now works for all the block sizes, including sub8x8 blocks.

Change-Id: I5ae60a9c436ba3637d11666733554bec4580ef98

Reducing the number of recursive calls.

Both decode_modes_sb and decode_modes_b had conditions to immediately
return at the beginning. Eliminating these conditions here and calling
these functions only to do a real work. Also unrolling loop for
PARTITION_SPLIT.

Change-Id: I2fc41cb74ac491f045a2f04fe68d30ff4aaa555d

vp9/decode: align tile worker data allocation

fixes a crash in assembly on 32-bit linux/windows

Change-Id: I0c27e6c0ece9732b5eb2ee5b59ff42c3c8016c50

Merge "vp9_decodframe.c: use vpx_memset instead of cast"

Merge "idct_blk_mmx.c: use vpx_memset instead of cast"

Merge "decodframe.c: use vpx_memset instead of cast"

Merge "threading.c: use vpx_memset instead of cast"

Merge "idct_blk.c: use vpx_memset instead of cast"

Fix x_offset_q4/y_offset_q4 calculation

"<< SUBPEL_BITS" needs to be added in the calculation. Call
set_scaled_offsets() to calculate x_offset_q4 and y_offset_q4.

Change-Id: Ied130ea771510e918f51cd1dc3abe57f4c0962b5

Merge "vp9: add multi-threaded tile decoder"

Merge "vp9/decode: add get_tile()"

vp9: add multi-threaded tile decoder

tiles are decoded in parallel within a single frame

Change-Id: I7aca87cb1c239b74eceef72bdc9f672faebac373

vp9/decode: add get_tile()

factorizes the code in decode_tiles(). reading the offsets backwards
wasn't doing anything to prove tile independence

Change-Id: I0395d3c77205852ebdc55efedc68291e93cef85c

Merge "Adding const to vp9_quantize_b_{32x32,} parameters."

Merge "CL for adding AVX-AVX2 support in libvpx."

Adding const to vp9_quantize_b_{32x32,} parameters.

Change-Id: I56f8c50ac382202f66040cd9cfaa05d889572fc7

CL for adding AVX-AVX2 support in libvpx.

Change-Id: Idc03f3fca4bf2d0afd33631ea1d3caf8fc34ec29

Fixing clang warning.

Warning was: "implicit conversion from enumeration type 'VPX_SCALING_MODE'
(aka 'enum vpx_scaling_mode_1d') to different enumeration type
'VPX_SCALING'".

Change-Id: I45689e439a8775bc1e7534d0ea1ff7c729f2c7f5

Merge "Fixing wrongly initialized tx_type variable."

vp9_decodframe.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Idfac09be1ab328923883e63436577f1018c895b8

idct_blk_mmx.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Ic37013e6477cf213925830d0bd8e6f17364ff7cc

decodframe.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Ic4e511af924247800e87d5f990636565f3dd91d2

threading.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: I43df2781656dd7b3f4c0ec6daa283d7a78928a0c

idct_blk.c: use vpx_memset instead of cast

Fix warning with -Wstrict-aliasing=1

Change-Id: Ibf4af991f2c82b8ccbdc20362da64be669564333

Merge "changed to comply with strict aliasing rule"

Fixing wrongly initialized tx_type variable.

Wrong value was used in get_tx_type_4x4() function, so making
initialization before that call.

Change-Id: Ief30bb1e0c03b2f23d993bbf9ae18d7150ba9a83

Merge "Correct handling of show_bit in uncompressed header."

Correct handling of show_bit in uncompressed header.

"keyframe" variable in the current code actually means that previous
frame is a keyframe because cm->frame_type has not been initialized
in read_uncompressed_header.

Change-Id: I5645b0816c70abdef5dfc70113018d06276dac77

changed to comply with strict aliasing rule

The clamp operation may not affect the values of the final assigned mv
where compiler may make use of strict aliasing rule to optimize out the
clamp operation. This change made the code segments to better comply
the strict aliasing rule.

Change-Id: I24502ff18bd4f9e62507a879cc8760a91a0fd07e

Merge "Disable aliasing when building with Clang"

Merge "Cleaning up vp9_regular_quantize_b_4x4."

Merge "Making get_tx_counts() similar to get_tx_probs()."

Merge "Resolved Doxygen warnings."

Merge "Rewrite loop_filter_info_n struct"

Resolved Doxygen warnings.

Added comments to make the codebase build cleanly in Doxygen.

Change-Id: I01e000ceac57dbafa04342858c8f1be250ba20d1

Merge "vp9_decode_frame: group assignments/setup calls"

vp9_decode_frame: group assignments/setup calls

group error checking at the top followed by allocations, setup then
decode.

Change-Id: I877d21326bb767885520511ecea70e5fd1e28054

Removing is_intra_mode() function.

It is enough to check just block type: intra or inter. Intra block implies
intra prediction mode, and inter block implies inter mode.

Change-Id: I3cf98731a3935f670a3cd8e2b2443483eb944be4

Making get_tx_counts() similar to get_tx_probs().

Change-Id: I5b17f40e515c4bcf9ebef5380270a214af4e0115

Disable aliasing when building with Clang

When building with new versions of Clang we encounter some issues. Work
around them by adding -fno-strict-aliasing when we detect Clang.

https://code.google.com/p/webm/issues/detail?id=603

Change-Id: I8e945a18a7215bcc627e7a1ee110078413259cc7

Adding {read, write}_partition() instead of check_bsize_coverage().

Making partition read/write logic more clear.

Change-Id: I1981e90327257d37095567c62d72a103cda1da33

Cleaning up vp9_regular_quantize_b_4x4.

Passing scan & iscan as parameters, adding useful local variables.

Change-Id: Ia2a87906941db9557350d273669ce5c3cdb7235d

Merge "add tile test vectors"

vp9: add TileInfo

replaces use of cur_tile_mi_(row|col)_(start|end) by VP9_COMMON, making
it less stateful and more reusable for parallel tile decoding

Change-Id: I1df09382b4567a0e5f4434825d47c79afe2399be

vp9_decodframe: limit scope of private function params (2)

replace VP9D_COMP usage with the (slightly) more targeted
VP9_COMMON/MACROBLCKD structures.

Change-Id: Ifdd9034f44d69eb94e232dd03c922de763b96a30

Merge changes If9b16f7d,I75aab21c,I9cbb768c,If5cea3d3,I96940657,I025595d8,Ie0bc3935,I3ebb172d

* changes:
  vp9: remove partition+entropy contexts from common
  vp9: add above/left_context to MACROBLOCKD
  vp9: add above/left_seg_context to MACROBLOCKD
  vp9: add above/left_context to encoder
  vp9: add above/left_seg_context to encoder
  vp9: pass entropy context directly to set_skip_context
  vp9: pass context directly to partition functions
  vp9/decode: add alloc_tile_storage()

Merge "Replacing is_inter_mode with is_inter_block."

add tile test vectors

1920x1080

vp90-2-08-tile_1x2_frame_parallel.webm
vp90-2-08-tile_1x2.webm
vp90-2-08-tile_1x4_frame_parallel.webm
vp90-2-08-tile_1x4.webm

vpxenc blue_sky_1080p25.y4m \
  --codec=vp9 -p 2 \
  --frame-parallel=${fpm} \
  --tile-columns=${tc} \
  --limit=10 \
  --auto-alt-ref=1 \
  --lag-in-frames=5 \
  --target-bitrate=2500

Change-Id: Id9c94b722cc553a6865d443a94e8482c78b038bb

Merge "vp9 decode: defer loop filter allocation"

Merge "vp9_thread_test: quiet some msvc int->bool warnings"

vp9: remove partition+entropy contexts from common

these are now handled separately by the encoder and decoder

Change-Id: If9b16f7d734e992fb94a510a6d88f2690d7fb7cb

vp9: add above/left_context to MACROBLOCKD

Change-Id: I75aab21c1692cbad717564cbb436578fddbc348d

vp9: add above/left_seg_context to MACROBLOCKD

Change-Id: I9cbb768c5f857a096cf6c29d6755d0e5e6728435

Merge "Adding fht{4x4, 8x8, 16x16} functions."

vp9 decode: defer loop filter allocation

wait until do_loopfilter_inline is true before committing the resources

Change-Id: I01661bd40599b47362bb3fb534668471f2a9d8d7

vp9_thread_test: quiet some msvc int->bool warnings

Change-Id: I2ed1cb537831c8b595c74ec641296d13d38ef622

Adding fht{4x4, 8x8, 16x16} functions.

Adding these functions to encapsulate tx_type check. Changing TX_TYPE to
int to match the declaration in vo9_rtch.h.

Change-Id: I6f3a2df6e35595ca73b6aaa9e3909ee7bc3fd16f

Merge "Adding get_frame_new_buffer() function to replace duplicated code."

Merge "Making input pointer constant for all fdct/fht functions."

Rewrite loop_filter_info_n struct

Restructured the storing of loopfilter information. Deleted
loop_filter_info struct and reduced copying happened in every
superblock.

Tests showed a 0.5% ~ 0.8% decoder speed gain.

Change-Id: Ie6a8e46bae71dc3a3cd8c6054f5de540b8e0ef5e

vp9: add above/left_context to encoder

Change-Id: If5cea3d389bb1135ee490d273e57cc2c43325d01

vp9: add above/left_seg_context to encoder

Change-Id: I969406574c6658936e9f6db5752f1b295025aab5

vp9: pass entropy context directly to set_skip_context

this will allow for separate storage to be used in tile decoding

Change-Id: I025595d83118bdc82a545dae69bc6602e8d2a6e3

vp9: pass context directly to partition functions

update_partition_context / partition_plane_context: this will allow for
separate storage to be used in tile decoding

Change-Id: Ie0bc393531ab7e9d2ce35c95111849b294aad4ed

vp9/decode: add alloc_tile_storage()

Change-Id: I3ebb172d4f2ae7db73b72fb42eb93833a295fb55

Adding COLOR_SPACE enum.

Change-Id: If5711eb166609cce0a88b3cb5b56b3afeebc4fb0

Updating gtest from 1.6.0 to 1.7.0.

This is required in order to build libvpx on OS X Mavericks where gcc
compiler is deleted, clang (3.3) is the default now.

Using unmodified source files from gtest-1.7.0/fused-src folder.

Change-Id: I3d5f7278149c904e48737327daf7097a8bb0b390

Merge "Add 32x32 idct function for eob<=34 case"

Merge "Separate encode_block for pass 1 and 2"

Add 32x32 idct function for eob<=34 case

When only upper-left 8x8 area has non-zero dct coefficients, we
could skip 1D IDCT for 9th to 32th rows to save operations. This
function is called when eob <= 34.

Change-Id: I9684b75947bdde346cfe3720f08a953aa7a13fb5

Merge "mips dsp-ase r2 vp9 decoder idct module optimizations (rebase)"

Adding get_frame_new_buffer() function to replace duplicated code.

Change-Id: I6e0e19231a48364c1de7dfab730b121ab227f111

Merge "Adding get_frame_ref_buffer() function + cleanup."

Making input pointer constant for all fdct/fht functions.

Change-Id: I78f7012f967a777ddd39bae6671eb501df6bbfe8

Replacing is_inter_mode with is_inter_block.

It should be only a check based on the block type (inter vs intra), not on
the mode value.

Change-Id: I0378cb4ba7c9a1631c1e870a537187b8650fa30a

Merge "vpxdec: Fix webm fps check."