vp9: apply loopfilter inline if possible

excludes tiled content currently

Change-Id: I44155253e8d6771e5e039d663be5f21cc9d0355d

Merge "filter_block_plane: remove MACROBLOCKD param"

Merge "Using update_ct and update_ct2 functions for probability update."

Merge "fix a build error"

Merge "configure: default configure log to config.log"

Merge "VP[89]_COMMON: remove golden/altref frame counts"

fix a build error

Change-Id: I3b05687f439ff6a7c426d2c97a6c58c831fa51ac

Merge "Skip buffer update in sub8x8 rd loop"

Merge "Optimize operation flow in sub8x8 rd loop"

Using update_ct and update_ct2 functions for probability update.

Update logic for both mode and mvref was the same, so using MODE_COUNT_SAT,
MODE_MAX_UPDATE_FACTOR, update_ct, update_ct2 for both cases. Removing
function update_tx_ct because it was identical to update_mode_ct2.

Change-Id: Iff566be27dbd6cde4c2ec04e8d988f207046b8f0

Merge "tests: silence a few type related warnings"

Merge "cosmetics: idct_test.cc: fix formatting"

Merge "Re-order mode search in rd."

Optimize operation flow in sub8x8 rd loop

Stack the rate-distortion statistics in the sub8x8 rd loop. This allows
the encoder to skip the forward transform, quantization, and coeff cost
estimation, in the sub8x8 rd optimization search, if the motion
vector(s) are of integer pixel value, and have been tested in the
previous prediction filter type rd loops of the same block.

This gives about 2% speed-up for bus_cif at 2000 kpbs, for speed 0.
Its efficacy depends how frequently the motion search will select an
integer motion vector.

Change-Id: Iee15d4283ad4adea05522c1d40b198b127e6dd97

Re-order mode search in rd.

Mode search order in rd loop changed to better reflect
observed hit counts.

Also some adjustment of the baseline mode rd thresholds
to reflect the order change and observed frequencies.

Change-Id: I47a131cc83e11551df8add6d6d8d413d78d3a63c

Merge "fix left over overflow"

fix left over overflow

This cl fixes issues rbultje brought up. that I somehow neglected when I
submitted yaowu's patch.

Change-Id: I07ad18796317822510b96e951c88d29f194a3c2e

Fix build error.

When CONFIG_POSTPROC is set there was a now
invalid reference to cm->filter_level.

Changed to cpi->mb.e_mbd.lf.filter_level in line with
change Iaf5fb71c33719cdfa1b991f671caf071be9ea035

Change-Id: If746e60044903f7ba8d0d346225b3d015226c7d0

Merge "Removing pre probabilities from FRAME_CONTEXT."

Merge "Moving all loop filter related variables into new struct."

Merge "Consistent names for inter mode probabilities and encodings."

Merge "Removing frame_type field from MACROBLOCKD struct."

Merge "Removing unused static arrays from vp9_reatectrl.c."

Merge "Moving vp9_reader into decode_tiles function."

Skip buffer update in sub8x8 rd loop

This commit allows the encoder to skip a few buffer update steps in
rd_pick_best_mbsegmentation, when early breakout has been triggered
in the rd_check_segment_txsize. It provides about 1% speed-up for
bus_cif at 2000 kbps, in the settings of speed 0.

Change-Id: Ica034f10a24dec572b397d8389a2b81020ebc0b9

added checks to prevent rate/distortion overflow

At speed 2, due to the threshold scheme used, it is possible the rate
and distortion assigned with INT_MAX value. The patch added checking
to prevent the INT_MAX value is used in further calculation of RD
scores. The patch also changed the assertion in rd_use_partition() to
be mirror similar assertion in rd_pick_partition().

Change-Id: Idb52c543cc1e10abdf6e6a5d6e9cb535a42214dc

Removing pre probabilities from FRAME_CONTEXT.

Using cm->frame_contexts[cm->frame_context_idx] as source of previous
probabilities.

Change-Id: Ie03778acf0e7bebdc3a1f6a51854d4a0712f24a1

Moving all loop filter related variables into new struct.

Adding loopfilter struct with fields from MACROBLOCKD and VP9Common.
Eventually it will be moved to vp9_loopfilter.h for better code structure.

Change-Id: Iaf5fb71c33719cdfa1b991f671caf071be9ea035

Merge "Fixing problem introduced in one of my previous commits."

Removing unused static arrays from vp9_reatectrl.c.

Removed arrays: kf_boost_seperation_adjustment,
                gf_adjust_table,
                gf_intra_usage_adjustment,
                gf_interval_table.

Change-Id: I62e400cb6e4d039787615169a3779e31ebf95893

Merge "Moving Scale2Ration function from vp9_onyx.h to vp9_onyx_if.c."

Fixing problem introduced in one of my previous commits.

Changing fc->tx_probs back to fc->pre_tx_probs. This change actually
affects the bitstream but current test vectors work. Chrome branch is not
affected at all. Broken since:

cc662dd Adding struct tx_probs and struct tx_counts to cleanup the code.

Change-Id: I36dd4b3678e902e10aba8dd49b0012eb558c209d

filter_block_plane: remove MACROBLOCKD param

replace with direct use of the plane and MODE_INFO

Change-Id: Icce57bc398a6e3607aedde0573d977e192040696

Merge "Make libvpx compile on OSX 10.9 (Mavericks)"

Moving vp9_reader into decode_tiles function.

Change-Id: Ic741054836d6c1b89c4f1c75cc6bd938a7d56723

Make libvpx compile on OSX 10.9 (Mavericks)

Change-Id: Ibf2555f1c0d00e91d416eb39201a5a91df7fab27

Merge "Renaming TXFM_MODE to TX_MODE (like TX_SIZE, TX_TYPE)."

Removing frame_type field from MACROBLOCKD struct.

Change-Id: Ia4e83913251c1cdc7aa2abd64bf01ecb1a962119

Renaming TXFM_MODE to TX_MODE (like TX_SIZE, TX_TYPE).

Moving TX_MODE enum to vp9_enums.h. Renaming txfm_mode variables to
tx_mode.

Change-Id: I459d1af6dd928ce7fccdf8ce30b6f1ca057bef92

Removing redundant VP9_COMMON* from function signatures.

Functions: vp9_get_pred_context_switchable_interp,
           vp9_get_pred_context_intra_inter,
           vp9_get_pred_context_single_ref_p1,
           vp9_get_pred_context_single_ref_p2.

Change-Id: I3d6fb8aee23c9062270768e1e6da416dd9bb8f96

Consistent names for inter mode probabilities and encodings.

Renaming vp9_sb_mv_ref_tree to vp9_inter_mode_tree, and
vp9_sb_mv_ref_encoding_array to vp9_inter_mode_encodings.

Change-Id: I0e91fbf81350d3ec5a2599064c74089b5d06133a

Merge "cosmetics: tile_independence_test: fix formatting"

Merge "Alignment of THR_MODES to vp9_mode_order[]"

Merge "Block index variables in MACROBLOCKD reduced to chars."

Merge "Add neon optimize vp9_short_idct8x8_add."

Alignment of THR_MODES to vp9_mode_order[]

Change-Id: I4032dd0442043543954dcb3724df974b7cc7e515

Block index variables in MACROBLOCKD reduced to chars.

Change-Id: I9a4df095732d561807de01a41dcb1a1960726a3c

Merge "Removing kf_{y, uv}_mode_prob arrays from VP9Common."

Merge "Fix slightly quality drop caused at speed 1."

Merge "Removing unused int_mv32 union."

Fix slightly quality drop caused at speed 1.

We would skip the rectangular blocks for sub8x8 partitions because
we would conclude that PARTITION_NONE was better than PARTITION_SPLIT,
however, that conclusion was made before we actually really tested
PARTITION_SPLIT.

Change-Id: I8fa91e59894badc1d8cee3ba8a49e40ae4c4a489

Merge "Add best_rd breakout to keyframe partition selection also."

Merge "Merge scale_factors and scale_factors_uv."

Merge "Do in-place UV intra mode selection."

Merge "Change break statement in a 2d loop to a return statement."

Merge "Using VP9_REF_NO_SCALE instead of (1 << VP9_REF_SCALE_SHIFT)."

Add neon optimize vp9_short_idct8x8_add.

Change-Id: Ic32acf3e2939c6d12d9c2bf192a5f5da59705fda

tests: silence a few type related warnings

Change-Id: If908328c1dbbb5bd84c57e30fab1cda1804933e4

cosmetics: tile_independence_test: fix formatting

Change-Id: Ifd48f796fa70fe1dc9b87a6f2bdc715bc0ea5ad3

cosmetics: idct_test.cc: fix formatting

clang-format -style=Google

Change-Id: Ic85f2cd2a1d65d9cf18a0f8bc515c0a0f5161747

Using VP9_REF_NO_SCALE instead of (1 << VP9_REF_SCALE_SHIFT).

Change-Id: Ide58a74d31ff948319445a6337d2c05e98720e34

Merge "Remove motion vectors from PARTITION_INFO."

Merge "Removing unused mv_bias and check_mv_bounds functions."

Merge "Removing unused members of VP9Decompressor: mbc, prob_skip_false."

configure: default configure log to config.log

this is consistent with autoconf

Change-Id: I1860831693789259ee35d644775653d6a460cc77

Add best_rd breakout to keyframe partition selection also.

Change-Id: I96b8058f6dfecf8aa3e152cdcbfd7e10071fbbc9

Merge scale_factors and scale_factors_uv.

This prevents a duplicate memcpy of a 128-byte struct every time
set_scale_factors() is called (which is a lot), thus leading to a
decrease from 3.7 MB to 1.85 MB of struct copying per 64x64 block
RD/partition loop.

Overall, this decreases encoding time of the first 50 frames of bus
@ 1500kbps (speed 0) from 1min5.9 to 1min4.9, i.e. about a 1.5%
overall speedup. We can likely get more gains by removing the copy
of the other struct (and replacing it with an indexing) as well.

Change-Id: I3dceb7e79f71e6fe911b11cc994cf89a869dde7a

Do in-place UV intra mode selection.

This means we only do UV intra mode selection if we find any intra
mode to actually be useful at all; in addition, we only do UV intra
mode selection for the transform sizes that were selected, rather
than all sizes available in this partition.

First 50 frames of bus @ 1500kbps (speed 0) gains about 5% with this
change.

Change-Id: I7b461eb8b803247f57896c5a9505f745b55502b3

Change break statement in a 2d loop to a return statement.

The break statement only breaks out of the nested loop, not the
top-level loop, so it doesn't always work as intended. Changing it
to a return statement does what's intended.

Change-Id: I585419823b39a04ec8826b1c8a216099b1728ba7

Remove motion vectors from PARTITION_INFO.

The same information already exists in union b_mode_info.

Change-Id: Iac5086b99a3c3cc270380138062bb693e58f9e6d

VP[89]_COMMON: remove golden/altref frame counts

these are only used in the encoder.
frames_since_golden / frames_till_alt_ref_frame -> VP[89]_COMP

Change-Id: Ie14a6f46987bced685ddb449b85dc261caba6dfe

Moving Scale2Ration function from vp9_onyx.h to vp9_onyx_if.c.

Change-Id: Idfe2a850f72b38f519aea1aac1266d8c3aa813ee

Merge "Fix bug where we don't choose any mode in RD selection."

Fix bug where we don't choose any mode in RD selection.

This could happen during golden overlay frame coding from a previous
alt-ref frame if the special overlay code was triggered.

Change-Id: I3056d0c547cd26903b260ef93c94026e96bd9868

Removing unused members of VP9Decompressor: mbc, prob_skip_false.

Change-Id: Id5480a4fd56c184ad046c2192b30d190debb3de0

Removing unused mv_bias and check_mv_bounds functions.

Change-Id: I1558fd969d9ad112bf6480bdd16ef87edd396ab5

Merge "libvpx: enable building for iOS devices (armv7)"

libvpx: enable building for iOS devices (armv7)

Allow output of gas syntax assembly directly from obj_int_extract

Change-Id: I33a747e87ef1c590a8766dea17f8cb2497e54591

Merge "Fix horz loopfilter loops"

Merge "Fix bug which skips zeromv even if near/nearest is not 0,0."

Fix horz loopfilter loops

If count was greater than 1 the src pointer would be off on
the second loop.

Change-Id: I8e09037e68dc4ae92076a8067f7b6dacbbef8263

Fix bug which skips zeromv even if near/nearest is not 0,0.

Change-Id: Id4f454831f3f11099f39c30246adeaa52857d08d

Use mv_check_bounds in sub8x8 rd loop

Make the use of mv_check_bounds consistent for mvs of both ref_frame[0]
and ref_frame[1].

Change-Id: I1ca24865cc7232ca9cbe5db566c53abad1592211

Removing unused int_mv32 union.

Change-Id: Ie692ed6e5fa1d2122e3a03573914d0fcce842f9e

Removing kf_{y, uv}_mode_prob arrays from VP9Common.

These arrays have constant values (no any updates). Removing two
corresponding memcpy calls. Making a little cleanup in vp9_entropymode.h
as well: removing redundant 'extern' keyword and moving all function
declarations at the end.

Change-Id: Ia16b38b46aec2e2500f5df29c40a297ae241dede

Merge "Add a best_yrd shortcut in splitmv mode search."

Merge "Skip redundant nearest/near/zero encodes in splitmv."

Merge "Skip nearest/near/zero redundant encodes."

Merge "Best_rd breakout in rd partition search."

Merge "Remove unnecessary calling of vp9_init_quantizer()"

Remove unnecessary calling of vp9_init_quantizer()

vp9_init_quantizer() is called in vp9_create_compressor(), and
should not be called in vp9_set_speed_features().

Change-Id: Ic2f1f4b0531b9d46bb841d7e1d8da9812207dad6

Merge "Remove unnecessary buffer copy in idct4x4."

Merge "changed mode checking order"

Merge changes Ieffea49e,Idf610746

* changes:
  Removing two unused arguments from vp9_inc_mv signature.
  Changing signature of vp9_get_pred_probs_tx_size.

Merge "Removing experimental code from vp9_entropymv.c."

Merge "Adding read_comp_pred function."

Add a best_yrd shortcut in splitmv mode search.

Encoding of first 50 frames of bus (speed 0) @ 1500kbps goes from
1min6.2 to 1min5.9, i.e. 0.5% faster overall.

Change-Id: I59d8a3b2f0a75010fa041d5e2646c8caac5bd683

Remove unnecessary buffer copy in idct4x4.

Change-Id: I386066b9bcfb4bffb582e6827af36ca0181f6a83

Skip redundant nearest/near/zero encodes in splitmv.

Encode of first 50 frames of bus @ 1500kbps (speed 0) goes from
1min7.3 to 1min6.2, i.e. 1.7% faster overall.

Change-Id: I19d2deacfbffadd61d32551cee9586757ab4a987

changed mode checking order

Change-Id: Ic4c4b363ed840935e42f495f13ea5e601a56f1b2