Merge loop over all macroblock modes into encode_sb_row().

Rename pick_mb_modes to pick_mb_mode, since it now handles only a
single macroblock. This is consistent with pick_sb_mode handling a
single non-macroblock.

Change-Id: I896fdfa06436b2d8c24d6474718cc74420df6b3b

Remove subtract_mb* functions.

Use subtract_sb* instead.

Change-Id: I3f34140ab97061063a4452945347ef1fe37e13d1

Remove unused macroblock versions of reconstruction functions.

More specifically, remove vp9_quantize_mb*, vp9_optimize_mb*,
vp9_inverse_transform_mb* and vp9_transform_mb*. Instead, use the
generic _sb* functions that take a size argument, and call them with
BLOCK_SIZE_MB16X16.

Change-Id: I33024afea95d3a23ffbc1df7da426e4645110f29

Remove "tplist" from VP9_COMP.

It is write-only.

Change-Id: I2412344688d96593cc01c038e7f51410d0f85ed0

Merge pick_sb_modes and pick_sb64_modes.

Change-Id: Iad69e7a3b7e470acf6094f6a52e7da69066fd552

Slight simplification of SB RD loop recursion conditions.

Change-Id: I87a406fcd18ab043253ca0c009d1182fdc5c3046

A few more cases where sb_type was used arithmetically.

With these fixed, the codec produces identical results regardless of
what literal values are used for the enum members in BLOCK_SIZE_*.

Change-Id: I26db8e08019b58ba432af1f0950ebe6b0eb4ad8c

Remove copying of coefficients and predictor in i8x8 RD loop.

The resulting values are never used.

Change-Id: I688caf30da9aab87aa280cce913eda4f33172293

Make usage of sb_type independent of literal values.

Change-Id: I0d12f9ef9d960df0172a1377f8e5236eb6d90492

Make RD superblock mode search size-agnostic.

Merge various super_block_yrd and super_block_uvrd versions into one
common function that works for all sizes. Make transform size selection
size-agnostic also. This fixes a slight bug in the intra UV superblock
code where it used the wrong transform size for txsz > 8x8, and stores
the txsz selection for superblocks properly (instead of forgetting it).
Lastly, it removes the trellis search that was done for 16x16 intra
predictors, since trellis is relatively expensive and should thus only
be done after RD mode selection.

Gives basically identical results on derf (+0.009%).

Change-Id: If4485c6f0a0fe4038b3172f7a238477c35a6f8d3

Merge "Make dequant/idct block size independent" into experimental

Make dequant/idct block size independent

The unified dequantization, inverse transform, and adding functions
support rectangular block sizes. Also separate the operations on
luma and chroma components, in the consideration of the txfm_size
for uv components in rectangular block sizes.

Change-Id: I2a13246b2a9086b37d575d346070990d854cc110

Merge "Remove obselete code" into experimental

Remove obselete code

The strategy to run fast loop filter picking for encoder speed-up
should be revisited at a later stage.

Change-Id: I3b75e06d767cff41be952a42e63b3292f4eab996

Merge "Make SB Decoding units size-independent" into experimental

Merge "Fixing upper case names." into experimental

Make SB Decoding units size-independent

Unify the sb32x32 and sb64x64 decoding units, which also allow for
other rectangular block sizes.

Change-Id: Ia5187ab2af56f98c3f99272bdf4dbcabe798ad5d

Merge "Code cleanup in bitstream code." into experimental

Merge "Adding setup_quantization function." into experimental

Merge "Renaming inverse hybrid transform functions." into experimental

Merge "Cleanup of set_offsets function." into experimental

Merge "Configure: make --enable-gprof work" into experimental

Merge "Make SB coding size-independent." into experimental

Merge "Don't use BLOCKD in vp9_invtrans.c." into experimental

Make SB coding size-independent.

Merge sb32x32 and sb64x64 functions; allow for rectangular sizes. Code
gives identical encoder results before and after. There are a few
macros for rectangular block sizes under the sbsegment experiment; this
experiment is not yet functional and should not yet be used.

Change-Id: I71f93b5d2a1596e99a6f01f29c3f0a456694d728

Adding setup_quantization function.

Change-Id: I8fe25a905717a3cd2da5f87ba0403357536183cf

Merge "Fix an issue in set_refs()" into experimental

Merge "detokenize: use consistent structure for all block sizes" into experimental

Configure: make --enable-gprof work

Modified for option "--enable-gprof".

Change-Id: I07f78f28c1b789c0b3e9e7db3561463551ae5460

Fix an issue in set_refs()

Scale factor for second ref frame wasn't assigned in the code.

Change-Id: I6ef3f3f71bd652a879ad847369c54c744782ea37

Renaming inverse hybrid transform functions.

Renaming vp9_ht_dequant_idct_add* functions to vp9_dequant_iht_add*.

Change-Id: Ie427b322b1cc7c8f39d1155f5df91dedfbd944af

Fixing upper case names.

Renaming Y1dequant to y_dequant, UVdequant to uv_dequant, QIndex to qindex.

Change-Id: I1c356e5f886deb3f8807dc212de9799b55b09d58

Cleanup of set_offsets function.

Adding ALLOWED_REFS_PER_FRAME constant instead of hard coded number 3.

Change-Id: I46146aa837896936f920c748c7d4aa4c27f026e4

Merge "Simplification of decoder's code." into experimental

Merge "Clamp inferred motion vectors only" into experimental

Code cleanup in bitstream code.

Lower case variable names, less code.

Change-Id: I1abc8f592ad2343ab5c76fe2d16262741a4a894a

detokenize: use consistent structure for all block sizes

Restructure the code to avoid the majority of per-block-size
switches, code duplication, etc. All block types (mb/sb32/sb64)
can be handled by the same code.

Change-Id: I4022718d66e31a15a7074e43f3b98cd0a5124ea7

Simplification of decoder's code.

Removing several commented code blocks, using uint32_t and uint8_t types,
removing redundant code.

Change-Id: Ifc5cc9863897925ea2a7cab4f7309ccf28d80bfe

Don't use BLOCKD in vp9_invtrans.c.

Change-Id: I40524170334109e2864b06e3c73c8b34e5aa8b0f

Clamp inferred motion vectors only

Clamp only the motion vectors inferred from neighboring reference
macroblocks. The motion vectors obtained through motion search in
NEWMV mode are constrained during the search process, which allows
a relatively larger referencing region than the inferred mvs.
Hence further clamping the best mv provided by the motion search may
affect the efficacy of NEWMV mode.

Synchronized the decoding process. The decoded mvs in NEWMV modes
should be guaranteed to fit in the effective range. Put a mv range
clamping function there for security purpose.

This improves the coding performance of high motion sequences, e.g.,
derf set:
foreman 0.233%
husky   0.175%
icd     0.135%
mother_daughter 0.337%
pamphlet        0.561%

stdhd set:
blue_sky 0.408%
city     0.455%
also saw sunflower goes down by -0.469%.

Change-Id: I3fcbba669e56dab779857a8126a91b926e899cb5

Fix typo which breaks 4x4 splitmv compound prediction RD code.

0.15% quality increase on derf, particularly noticeable on hard clips
at the higher bitrate end.

Change-Id: I02415a96eb9bbc361cba923069625fae71844bc9

Merge "Small cleanup inside setup_loopfilter function." into experimental

Merge "Segmentation code cleanup." into experimental

Merge changes Ibbfa68d6,Idb76a0e2 into experimental

* changes:
  Move EOB to per-plane data
  Move qcoeff, dqcoeff from BLOCKD to per-plane data

Merge "Remove full-pixel-related code." into experimental

Merge "Remove some unused macros." into experimental

Merge "Remove struct POS." into experimental

Merge "Remove unused vpx_log() function prototype." into experimental

Merge "Remove "tx_type" member from union b_mode_info." into experimental

Merge "Removed a speed feature no longer used" into experimental

Merge "make one_shot_q an experiment" into experimental

Remove full-pixel-related code.

This is a VP8-only feature (part of profile 3) that is unsupported in
VP9.

Change-Id: I78016eede8d9c834d44d4c517f3e8b8fc2a378b1

Small cleanup inside setup_loopfilter function.

Change-Id: If7fa8aea02f26c2c2bb5daf4e65c3e661d7031ca

Remove some unused macros.

Change-Id: Ic219e7878428128e4bb1b3995e8151f92b6bd9c3

Remove struct POS.

It is never used.

Change-Id: If7462357c0498ed05af2645f0c272124381d3aab

Remove unused vpx_log() function prototype.

Change-Id: Icd6b4322841fefcc86f06645e6aaf1ea42fdfabd

Remove "tx_type" member from union b_mode_info.

It is never used.

Change-Id: Ibae898c52c766aabf65868611060f9c38fb85b35

Segmentation code cleanup.

Cleaning up the code, removing unused vp9_check_segref_inter function and
useless comments.

Change-Id: Ia0e1a3878dc0f9789cba84aeb507a83d9dccd26b

Removed a speed feature no longer used

Change-Id: Id0c2e44daa936f1d6fb76469fd1bd72a4d7c19fd

Merge "Simplifying get_delta_q function." into experimental

Move EOB to per-plane data

Continue migrating data from BLOCKD/MACROBLOCKD to the per-plane
structures.

Change-Id: Ibbfa68d6da438d32dcbe8df68245ee28b0a2fa2c

Move qcoeff, dqcoeff from BLOCKD to per-plane data

Start grouping data per-plane, as part of refactoring to support
additional planes, and chroma planes with other-than 4:2:0
subsampling.

Change-Id: Idb76a0e23ab239180c818025bae1f36f1608bb23

make one_shot_q an experiment

so it is configurable to faciliate testings

Change-Id: I247b62736c3a08ec2934793959d1ae605a05efa3

Fixing the newbintramodes experiment

Adds back special casing B_PRED mode decoding but protected
within the experimental macro.

Change-Id: If98dc8e56b0ecfb1202540c2b7dfdd070cb81ca0

Simplifying get_delta_q function.

Change-Id: I3a1e9cc5c3ed5be01ff75a84a6c82ec02c75af9c

Merge "Bugfix in encode_inter_mb_segment_8x8" into experimental

Bugfix in encode_inter_mb_segment_8x8

Fixes an indexing bug. Looks like the bug has been there for a while.

Change-Id: I9fc04b0c30754bcb47366ad94a08112925600c4d

Fixing bug introduced by previous commit.

Inside decode_sb_4x4 it should be
"get_tx_type_4x4(mb, y_idx * y_size + x_idx)"
but it was
"get_tx_type_4x4(mb, y_idx * (2 * y_size) + x_idx)".
Also making code of decode_sb_4x4, decode_sb_8x8, and decode_sb_16x16
formatted in the same way.

Change-Id: I15c7bef4fb575f7e9da19f953912324cb35d24dd

Merge "Remove special case vp9_decode_coefs_4x4" into experimental

Fixed incorrect use of compute_qdelta()

This function expects real Q values as inputs
not index values.

The use-age her impacts the Q chosen for force key
frames. Though this is a bug fix I have not yet verified
whether following the bug fix the q multiplier value used is
correct.

Change-Id: I49f6da894d90baeb1e86c820c335f02dc80d3b66

Merge "Adding decode_sb_16x16 function." into experimental

Merge "Reimplementation of setup_frame_size." into experimental

Merge "Adding setup_pred_probs and read_txfm_mode functions." into experimental

Merge "General code cleanup." into experimental

General code cleanup.

Making code more readable in different places.

Change-Id: Iea92c9a35e64d257ee358879fc04fc926843d52e

Adding decode_sb_16x16 function.

Moving command code from decode_sb32 and decode_sb64 into new
decode_sb_16x16 function.

Change-Id: I57a161300af085557adec2fe600f3c10a145faf2

Merge "Motion vector decoder cleanup." into experimental

Motion vector decoder cleanup.

Better formatting, shorter code, adding read_switchable_filter_type
function.

Change-Id: Ib919b529385cae34c2d682b1c3093518b6942fc1

Remove special case vp9_decode_coefs_4x4

This code was only called in the BPRED case, but had no real special
case associated with it. Made BPRED behave like all other modes. No
bitstream change.

Change-Id: I87ba11fe723928b6314d094979011228d5ba006f

Merge "Modify vp9_setup_interp_filters function" into experimental

Modify vp9_setup_interp_filters function

Took vp9_setup_scale_factors_for_frame() out from
vp9_setup_interp_filters(), so that it is only called once per
frame instead of per macroblock. Decoder tests showed a 1.5%
performance gain.

Change-Id: I770cb09eb2140ab85132f82aed388ac0bdd3a0aa

Reimplementation of setup_frame_size.

General code cleanup in loopfilter code. Modification of setup_frame_size,
so now VP9_COMMON is modified in one place after all width/height checks
passed.

Change-Id: Iedf32df43a912d7aae788ed276ac6c429973f6fe

Adding setup_pred_probs and read_txfm_mode functions.

Decomposition vp9_decode_frame function, moving code into read_txfm_mode
and setup_pred_probs functions.

Change-Id: I90970dea43cbcef4d6d61fdef267c2094ddee65d

Merge "Fix overlapping writes by copy_and_extend_plane" into experimental

Merge "Remove unused inplace idct_add functions" into experimental

Merge "Renaming sb32_coded and sb64_coded fields." into experimental

Merge "Lower case names for struct members." into experimental

Merge "Adding functions with common code for superblock decoding." into experimental

Merge "Code cleanup in vp9_onyx_if.c." into experimental

Renaming sb32_coded and sb64_coded fields.

Renaming sb32_coded to prob_sb32_coded and sb64_coded to prob_sb64_coded.

Change-Id: I6de5cad00a57c3e066d53467f8c38cb6073dce11

Fix overlapping writes by copy_and_extend_plane

Broken by refactoring commit 180cd5faa52e00a77df13da15d846cfd909fc531

Change-Id: I307f6e54d93219a31e7336f1633103ecb25e4832

Merge branch 'master' into experimental

Conflicts:
vp9/vp9_common.mk

Change-Id: I2cd5ab47dc31c4210cefc23a282102123d5e2221

Lower case names for struct members.

Lower case member names inside VP9D_CONFIG and VP9D_COMP structs.

Change-Id: I75af9ad2d929a35c357207a3fd9ebedddabf79c3

Demux vp9_loopfilter_x86.c

Allow more careful targeting of compiler flags.

Change-Id: I963ab4a6479dedb165419310dfca52a58a9877b8

Remove unused inplace idct_add functions

Change-Id: I1c29e041d6db4af4508356315cd65718acb1f668

vp9_sadmxn_x86 only contains SSE2 functions

Rename the file and clean up includes. In the future we would like to
pattern match the files which need additional compiler flags.

Change-Id: I2c76256467f392a78dd4ccc71e6e0a580e158e56

Adding functions with common code for superblock decoding.

Adding decode_sb_8x8 and decode_sb_4x4 with common code for superblock
decoding. Renaming decode_superblock32 to decode_sb32 and
decode_superblock64 to decode_sb64.

Change-Id: Id006d7e398b9bfa3acec4326e1e0c537ebfefdd3

Code cleanup in vp9_onyx_if.c.

Using clamp and MIN/MAX functions instead of plain C code. Lower case
variable names. Removing redundant parenthesis.

Change-Id: Ibf7cc5fbe4fbdb5029049a599af71534176e6f42

Merge "Code cleanup." into experimental

Merge "Removing redundant function arguments." into experimental