Merge "Fix mi_row argument to update_stats()." into experimental

Merge "Factor out assigning correct partitioning seg_context pointers." into experimental

Merge "Use recursive function in resetting txfm_size for skip-blocks." into experimental

Merge "Use recursive function in choosing segmentation map coding method." into experimental

Fix mi_row argument to update_stats().

This doesn't change output, because the argument isn't actually used
ATM. However, we should fix it for consistency.

Change-Id: I7b7326a8e92c0d411c999ec2c781204b516ed53d

Factor out assigning correct partitioning seg_context pointers.

Change-Id: I6e787915a92e0abdea86adaa3e1106aa9c165034

Use recursive function in resetting txfm_size for skip-blocks.

This is shorter than fully writing out all cases (52 vs. 84 LOC), and
is easier to extend.

Change-Id: Ic75f86f15cf037543c3dc6234d9ac088205a0ed1

Use recursive function in choosing segmentation map coding method.

This is shorter than fully writing out all cases (55 vs. 84 LOC), and
is easier to extend.

Change-Id: Ibad1bf6463198cad9188c5507181d4b03d393e6d

Merge "Immigrate tokenize_mb into tokenize_sb" into experimental

Merge "Change above/left_context to use an 8x8 basis." into experimental

Immigrate tokenize_mb into tokenize_sb

Unify the tokenize_ function and enable configurable block size for
superblock 8x8. We are immigrating the functionalities of
macroblock handles into superblock ones, and eventually will remove
encode_mb and decode_mb. To be continued on detokenize_ module.

Change-Id: I9f81e8c2291082535cf5e0c4b662eb24fb7c8a7f

Change above/left_context to use an 8x8 basis.

Output changes slightly because of a minor bug in (at least) the sb32x16
block2above tx16x16 tables that previously existed in vp9_blockd.c.

Change-Id: I624af28ac200a8322d64454cf05c79e9502968cc

Merge "Turning model based reverse update on for coefs" into experimental

Turning model based reverse update on for coefs

Turns model based reverse updates on for coefficients in an
effort to reduce the memory requirement for counters.

With this patch the counters needed will be reduced by about
75% since only 3 counts are needed instead of 12.

The impact in performance is:
derf300: -0.252%
stdhd250: -0.046%

However retraining should alleviate some of the drop in
performance.

Change-Id: I6f2b3e13f6d5520aa3400b0b228fb5e8b4a43caa

Unify decode_sb for >16x16 in vp9_decodframe.c

First patch to make sb decoding based on the transform size. This patch
is working for the sb modes, combining the parts of decode_mb that fit
into this framework will come as a second patch.

Change-Id: I26123416a7a87e096bbdb5eb944ce5bb198384f8

Merge "Minor tweak to implicit segmentation experiment." into experimental

Add forward probability model update for partition

Enable forward model update for partition syntax coding.

Change-Id: If47b423b6d12f34614c57f25d235dc9ba688efc5

Merge "Grow MODE_INFO array to use an 8x8 basis." into experimental

Merge "Merge branch 'master' into experimental" into experimental

Merge branch 'master' into experimental

Conflicts:
vp9/common/vp9_findnearmv.c
vp9/common/vp9_rtcd_defs.sh
vp9/decoder/vp9_decodframe.c
vp9/decoder/x86/vp9_dequantize_sse2.c
vp9/encoder/vp9_rdopt.c
vp9/vp9_common.mk

Resolve file name changes in favor of master. Resolve rdopt changes in
favor of experimental, preserving the newer experiments.

Change-Id: If51ed8f457470281c7b20a5c1a2f4ce2cf76c20f

Grow MODE_INFO array to use an 8x8 basis.

Change-Id: I087e08e7909a406b71715b8525c104208daa6889

Merge "Code cleanup inside vp9_decodframe.c." into experimental

Merge changes I7ff2fa72,I7907230d into experimental

* changes:
  Remove BLOCKD structure
  Remove destination pointers from BLOCKD

Merge "Restore vp9_asm_enc_offsets.c" into experimental

Remove BLOCKD structure

All members can be referenced from their per-plane counterparts, and
removes assumptions about 24 blocks per macroblock.

Change-Id: I7ff2fa72d22c29163eb558981c8193765a8113d9

Remove destination pointers from BLOCKD

Access these members from MACROBLOCKD instead.

Change-Id: I7907230dd473ff12ebe182b9280d8b7f12a888c4

Restore vp9_asm_enc_offsets.c

The previous commit 15255ee "Move dequant from BLOCKD to per-plane MACROBLOCKD"
removed the vp9_asm_enc_offsets.c file, but didn't update the various secondary
build systems that special case these files. Restore it for now, to ensure any
in-progress changes and builds continue working, to allow time to more carefully
coordinate removal of these files.

Change-Id: I24b78db3fb874d5fbd226548b7366a05ed98e536

code cleanup for arm_cpudetect.c

Change-Id: I5c49a983ced45197e1035fa5615d71b0bdad4109

Merge "quantize: make 4x4, 8x8 common with larger transforms" into experimental

Removed bmi from blockd

This originally was "Removed update_blockd_bmi()".  Now,
this patch removed bmi from blockd and uses the bmi found
in mode_info_context.  Eliminates unnecessary bmi copies between
blockd and mode_info_context.

Change-Id: I287a4972974bb363f49e528daa9b2a2293f4bc76

Merge "Normalize more intrinsic filenames"

Normalize more intrinsic filenames

vp9_dequantize_x86 has only sse2 functions.

vp9_dct_sse2_intrinsics has no namespace collision and can drop
_intrinsics.

vp9_idct_mmx.h is unused.

Change-Id: Ic16e31fb372a1d1e841a62ecb4189fe8f95808ec

Code cleanup inside vp9_decodframe.c.

Change-Id: I8447565feeadda1a4a06df907b0156728b1ad5bf

quantize: make 4x4, 8x8 common with larger transforms

There were 4 variants of the quantize loop in vp9_quantize.c, now
there is 1.

Change-Id: Ic853393411214b32d46a6ba53769413bd14e1cac

Remove duplicate code in RD handle_inter_mode() function.

Change-Id: I552d53f7e7331e9246d8a32d6c6dcc0cfa0cbeb0

Remove implicit assumption that mode_info_stride == mb_cols + 1.

Change-Id: I3030d7adac73109aeaa1ecc0f78ac968c092d9aa

Remove write-only variables that store refframe, signbias and mv.

These were superseeded by prev_mip.

Change-Id: Ide240475350ce003d68aa990eddc2ee30920663a

Use b_width/height_log2 instead of mb_ where appropriate.

Basic assumption: when talking about transform units, use b_; when
talking about macroblock indices, use mb_.

Change-Id: Ifd163f595d4924ff892de4eb0401ccd56dc81884

Merge "Change default iOS dev path"

Fix incorrect dequant used in detokenize

The quantizer can vary per-plane, and the dequantization vector is
available in the per-plane part of MACROBLOCKD. The previous code would
incorrectly use the Y quantizer for the whole macroblock.

Change-Id: I3ab418aef9168ea0ddcfa4b7c0be32ae48b536d7

Remove predictor pointers from BLOCKD

Access these members from MACROBLOCKD instead.

Change-Id: I2574622e577bb9feede47f6b7ccbb11f3e928ca8

Remove diff from BLOCKD

The underlying storage for these buffers is in the per-plane MACROBLOCKD
area, so read it from there directly.

Change-Id: Id6bd835117fdd9dea07db95ad06eff9f12afaaf7

Move dequant from BLOCKD to per-plane MACROBLOCKD

This data can vary per-plane, but not per-block.

Change-Id: I1971b0b2c2e697d2118e38b54ef446e52f63c65a

Remove BLOCK structure

All members can be referenced from their per-plane counterparts, and
removes assumptions about 24 blocks per macroblock.

Change-Id: I593fb0715e74cd84b48facd1c9b18c3ae1185d4b

Rename vp9_idct_x86.c

Remove similarly named header file. It is obsolete.

Move file to match naming style.

Adjust make file to include the file correctly and remove extra
unnecessary #if guard.

Change-Id: Ifba07ba9938a5df08a9f4eda54a3ac4d6983f7bf

Adding is_inter_mode function.

Change-Id: I2d32d46002cb92c63050c2b8328865c406103621

Merge "Removing unused mi_mv_pred_row and mi_mv_pred_col functions." into experimental

Merge "Using ROUND_POWER_OF_TWO macro inside vp9_loopfilter_filters.c." into experimental

Merge "Handling frame references and scale factors in one for loop." into experimental

Merge "Move sbsegment out of experimental list" into experimental

Merge "Moved dequantization into the token decoder" into experimental

Handling frame references and scale factors in one for loop.

Using ALLOWED_REFS_PER_FRAME constants instead of hard coded 3, replacing
memcpy with plain struct assignment.

Change-Id: Ibc86f5d175fcb3f3a3eddacf593525370f1f854c

Merge two similar functions into one

Function set_mb_row() and set_mb_col() do similar work and are always
called together, this commit merged them into a single function for
clarity and easy maintainence.  This was a TODO item.

Change-Id: I956bd9ed6afb8b2b0469b20fd8bc893b26f8a0f3

Merge "Fixing PRED_SWITCHABLE_INTERP case in vp9_get_pred_context function." into experimental

Move sbsegment out of experimental list

Move rectangular superblock coding out of experimental list.

Change-Id: I96c37547d122330d666a67b4bf577ae54547857f

Change default iOS dev path

This can be manually overridden with --libc=

Change-Id: I0b857c751d5dc5423f79785e934bc8a714758e75

Contextual entropy coding of partition syntax

This commit enables selecting probability models for recursive block
partition information syntax, depending on its above/left partition
information, as well as the current block size. These conditional
probability models are reasonably stationary and consistent across
frames, hence the backward adaptive approach is used to maintain and
update the contextual models.

It achieves coding performance gains (on top of enabling rectangular
block sizes):
derf:   0.242%
yt:     0.391%
hd:     0.376%
stdhd:  0.645%

Change-Id: Ie513d9673337f0d27abd65fb566b711d0844ec2e

Using ROUND_POWER_OF_TWO macro inside vp9_loopfilter_filters.c.

Change-Id: Icb671cd011f645a3361684207840d14330ca7488

Merge "Change chroma loopfilter to skip inner SB edges for tx16x16 also." into experimental

Merge "Minor indent changes in loopfilter code." into experimental

Merge "Add basic building blocks for 8x8 superblocks experiment." into experimental

Fixing PRED_SWITCHABLE_INTERP case in vp9_get_pred_context function.

Adding xd->up_available as additional check for above context.

Change-Id: If5654e4cae184b9c369b7b2e08076cb2951d00ed

Merge "Rename quantize_sse2_intrinsics.c"

Change chroma loopfilter to skip inner SB edges for tx16x16 also.

Change-Id: I6ea9e110b5c5b07ab7d092886dbd51a6eccc0217

Merge "Extension of segmentation to 8 segments." into experimental

Merge "Simplify Segment Coding" into experimental

Rename quantize_sse2_intrinsics.c

The only reason for the _intrinsics part of the file name was for the
interim period where only one of the functions was redone and the base
file name was the same.

Change-Id: I7851154f1633d48821bee885b1cadb2148e65a23

Merge "Fix in token allocation with zerogroup expt" into experimental

Minor tweak to implicit segmentation experiment.

This minor tweak makes segment 0 neutral and used by
key frames and also extends beyond 4 segments.

Change-Id: Ife4744602aba66ac9432746db3113cc5cd88a482

Extension of segmentation to 8 segments.

Also some further simplification following removal
of top node code.

There is an issue in regards to the shared file vp8cx.h
in regard to the roi_map as this interface assumes that
there are only 4 segments. I have left the value here as
4 for now meaning that the roi_map interface is broken
for VP9.

Note that this change would have been easier if I hadn't
had to search for hard wire instances of the number 4
and <= 3.

Change-Id: Ia8b6deea4be4dbd20deb1656e689dd43a5f190e8

Simplify Segment Coding

Remove top node optimization.
The improvement this gives is not sufficient to justify
the extra complexity.

Change-Id: I2bb4a12a50ffd52cacfa4a3e8acbb2e522066905

Simple implicit segmentation experiment.

Change-Id: Iaef16122732c2a81e0927f9862b51b68dc788712

Merge "Move skip_block from BLOCK to MACROBLOCK" into experimental

Merge "Move quantizer data from BLOCK to MACROBLOCK" into experimental

Merge "Code cleanup inside vp9_get_pred_context function." into experimental

Merge "Simple cleanup inside vp9_decodframe.c and vp9_entropymode.c." into experimental

Merge "Removing redundant code in vp9_entropymode.c." into experimental

Move skip_block from BLOCK to MACROBLOCK

This data is fixed at the MB level, so move it to the common part
of MACROBLOCK.

Change-Id: Idd8c87118e501cdf0a202bd84c28b502a8234edf

Move quantizer data from BLOCK to MACROBLOCK

Quantizers can vary per plane, but not per block. Move these values to
the per-plane part of MACROBLOCK.

Change-Id: I320a55e38b7b28b29aec751a4aca5ccd0c9b9326

Merge "Remove coeff from BLOCK" into experimental

Merge "Convert coeff to per-plane MACROBLOCK data" into experimental

Merge "Enable rectangular support for comp inter-intra" into experimental

Remove coeff from BLOCK

Lookup the data per-plane from the MACROBLOCK struct.

Change-Id: I9253c4d3cf886aa9ab4aeab23a2156bfcf994ede

Removing unused mi_mv_pred_row and mi_mv_pred_col functions.

Change-Id: If8ba37bf0b86e8dea88c27d911e8ddb0f6d5a3c5

Convert coeff to per-plane MACROBLOCK data

This commit moves the coeff storage from the MACROBLOCK struct to its
per-plane part. The next commit will remove the coeff member from the
BLOCK structure so that it is consistently accessed per-plane.

Also refactors vp9_sb_block_error_c and vp9_sb_uv_block_error_c to be
variable subsampling aware.

Change-Id: I18c30f87f27c3a012119b6c1970d5fa499804455

Merge "Move src_diff to per-plane MACROBLOCK data" into experimental

Code cleanup inside vp9_get_pred_context function.

Change-Id: Id06b7a299a26ed944a401faae51907537f722a7e

Removing redundant code in vp9_entropymode.c.

Change-Id: Ia7266b8d3aa3d5cff2db0c3b2f014def045759af

Simple cleanup inside vp9_decodframe.c and vp9_entropymode.c.

Change-Id: I62dde981f5201c5fbc22001609ee4b5fd0a9bdf5

Enable rectangular support for comp inter-intra

This commit enables rectangular block prediction of compound
inter-intra mode. It combines the mb/sb32/sb64 prediction functions
into a unified version with configurable block width and height.
This fixes the enc/dec mismatch of the codebase when
comp-interintra-pred is enabled.

Change-Id: I1d0db2f1f184007802df04fcd12b9dadb3189ff0

Merge changes I54acef34,I72d42971 into experimental

* changes:
  Make some sb_type comparisons independent of literal enum values.
  Make loopfilter aware of rectangular blocks.

Merge "Adding select_txfm_size function + vp9_decode_frame cleanup." into experimental

Merge "Remove the unused gf_active_ptr from MACROBLOCK" into experimental

Remove the unused gf_active_ptr from MACROBLOCK

The variable gf_active_ptr is not used anywhere, hence is removed.

Change-Id: I6badc20fade48ae12fd19e7e4cd8fe5e051c20ac

Merge "Adding get_scan_{4x4, 8x8, 16x16} functions." into experimental

Resolve declaration and implementation.

Clean Windows build warnings:
warning C4028: formal parameter <N> different from declaration

This was fixed independently in master and experimental but the fixes
were in opposite directions. One added const to the declaration and the
other removed it from the implementation.

Also update the variable names. This doesn't modify the data so call it
ref, matching the functions in the vicinity, rather than dst.

Change-Id: I2ffc6b4a874cb98c26487b909d20a5e099b5582c

Improve sign consistency.

Fix warning on windows: signed/unsigned mismatch on lines 415, 454

Comparison was between size_t data_sz >= int index_sz on 415 and
unsigned int data_sz >= int index_sz on 454. Both might be changed to
size_t but that would be tracing and replacing all comparisons is
outside the scope of this change.

In the rest of these two functions ensure unsigned values are used
consistently.

Change-Id: I922b399ceca612a92f44b9d1d331c1c6bae9d768

Minor indent changes in loopfilter code.

Change-Id: I0cdc951558e4d7748f63df8c03b1c9dce086acb0

Add basic building blocks for 8x8 superblocks experiment.

Change-Id: I274a1d2e461e6ffdb106bac4ad6951692ace314e

Make some sb_type comparisons independent of literal enum values.

Change-Id: I54acef342b8e787e05af0febd7cf0d7d10288383