Take out assertion for block_yrd in rtc coding flow

The internal behavior of block_yrd differs in high bit depth
settings from 8-bit one. This causes the assertion condition not
true for high bit depth.

Change-Id: I15dc02e7162d27cabe78c451941d769d488b1174

Merge "Fix integer overflow issue in rtc coding flow intra mode search"

Fix integer overflow issue in rtc coding flow intra mode search

The overflow issue affects a variable that is only used in inter
mode. This commit fixes the ioc warning triggered in the intra
mode. It does not affect the compression performance.

Change-Id: I593d1b5650599de07f3e68176dd1442c6cb7bdbc

Merge "mips msa vp9 fdct 16x16 optimization"

Merge "Moved has_rows, has_cols in vp9_decodeframe.c"

Moved has_rows, has_cols in vp9_decodeframe.c

from read_partition() to decode_partition().

Change-Id: I6bee2a0e9ff315290a690c9d773c9648dd2a200d

Remove duplicate calls for set_frame_size in 1 pass mode.

set_frame_size() is being called twice, once before entering
encode_encode_frame_to_data_rate(), and once again in that function.
No need to call it twice for one-pass mode.

Change-Id: I5fabaf0a90482d4f42cd89ef7ae1402c31aec600

Merge "Eliminated frame_type check in get_partition_probs()"

Eliminated frame_type check in get_partition_probs()

Moved the frame_type check to the tile level and stored
the prob ptr in MACROBLOCKD.

Change-Id: I10b5a4abd58213dc7610e3ade1a1583c01526842

Merge "Update use_prev_frame_mvs flag in decoder."

mips msa vp9 fdct 16x16 optimization

average improvement ~4x-6x

Change-Id: Id3b2243e5b3c7844c90c4231a5e75fa69911362c

Merge "vp9_ethread: create enough threads while using SVC"

Merge changes I19588f9e,I6dc338a6

* changes:
  vp9_encodeframe: make coord_lookup[] static
  vp9_resize: make vp9_filteredinterp_*[] static

Merge "vp9_entropy: delete vp9_coefmodel_tree[]"

Merge "vp9_entropymode: make vp9_init_mode_probs private"

Merge "enable vp9_d153_predictor_32x32_ssse3"

vp9_ethread: create enough threads while using SVC

This patch modified the thread creating code. When use_svc is true,
the number of threads created is decided by the highest resolution.
This resolved WebM issue 1018.

Change-Id: I367227b14d1f8b08bbdad3635b232a3a37bbba26

Remove redundant second declaration in svc_layercontext.c

Change-Id: Ia3b1c1db54204fd92a56b7f698a9f26d27ee572a

enable vp9_d153_predictor_32x32_ssse3

unused since its initial commit
~91% faster over 20M pixels

Change-Id: Ic8b5b3246bc97c8406be8bc4496601370403b70a

vp9_encodeframe: make coord_lookup[] static

Change-Id: I19588f9e674c8635b6e58e4633120be736d256a6

vp9_resize: make vp9_filteredinterp_*[] static

+ drop the vp9_ prefix

Change-Id: I6dc338a69265dcaa8c6fe071e5757312bf92efca

vp9_entropy: delete vp9_coefmodel_tree[]

it's been unused since:
4ac6a25 Moving vp9_tree_probs_from_distribution() to encoder.

Change-Id: Ieae65864277fc3dbe993c5c08d75c6c5fcaa3a2d

vp9_entropymode: make vp9_init_mode_probs private

rename to init_mode_probs

Change-Id: Id451d7763b784ed37e43f2c35073a778078d3d0f

Merge "decode_tiles_mt: remove incorrect TODO"

Merge changes I342075eb,I222eaa4e

* changes:
  vp9_decodeframe: simplify init_read_bit_buffer signature
  vp9_decode_frame: remove explicit read_bit_buffer init

Merge changes Iedb5b6a3,Iaea98508,I36580cea,Ia0574320

* changes:
  vp9_decodeframe.h: remove unused prototype
  vp9_decodeframe: move public funcs to end of file
  vp9_decodeframe: reorder some functions
  vp9_decodeframe: hide vp9_dec_build_inter_predictors_sb

Merge "variance_test: fix build w/--disable-vp8-encoder"

Merge "Fix potential overflow issue in hadamard_16x16()"

Merge "Add dynamic range comment to hadamard_8x8()"

Merge "mips msa vp9 filter by weight optimization"

Fix potential overflow issue in hadamard_16x16()

This commit fixes a potential integer overflow issue in function
hadamard_16x16. It adds corresponding dynamic range comment.

Change-Id: Iec22f3be345fb920ec79178e016378e2f65b20be

Add dynamic range comment to hadamard_8x8()

Add comment to assist SIMD optimization.

Change-Id: I300d5a848e6e9947e451de2a871a88940703fc9f

Merge "Allocate tile data adaptively to accommodate the frame size increase"

mips msa vp9 filter by weight optimization

filter by weight - average improvement ~2x-3x

Change-Id: I4832033335d339cdafdce697f07ce3e643920057

Merge "test_intra_pred_speed: add ClearSystemState() call"

variance_test: fix build w/--disable-vp8-encoder

s/CONFIG_VP8\b/CONFIG_VP8_ENCODER/

Change-Id: I616aace9cf8f18d7e83f00f7aef3b8a26fc4c17b

vp9_filter: restore vp9_bilinear_filters alignment

the declaration containing the alignment in vp9_filter.h was removed in:
eb88b17 Make vp9 subpixel match vp8

fixes a crash in 32-bit builds

Change-Id: I9a97e6b4e8e94698e43ff79d0d8bb85043b73c61

Merge "inline vp9_get_segdata()"

Allocate tile data adaptively to accommodate the frame size increase

If the frame size increases, the tile data buffer needs to be
re-allocated according to the number of tiles existing in current
frame. This patch makes the multi-tile encoding work in spatial
SVC usage case, and partially solved WebM issue 1018.

Change-Id: I1ad6f33058cf5ce6f60ed5024455a709ca80c5ad

inline vp9_get_segdata()

and change name.

Change-Id: I706645cf9d9dc04f1b3b6ac80df80edb7f101854

Move adjustment of some CR parameters to existing function.

Refactor/no change in behavior.

Change-Id: Idb3c55b1304feaf689b90403f79bc96dba26f060

Merge "inline vp9_segfeature_active()"

inline vp9_segfeature_active()

and changed name.

Change-Id: Ie023ca66cc2c823032f58d4faeb53fd1863c94f3

Merge "mips msa vp9 intra-pred optimization"

decode_tiles_mt: remove incorrect TODO

all allocated workers are used, the final one in the main thread.

Change-Id: I04647d4fb2e01d6d404790e7899515289047f553

vp9_decodeframe: simplify init_read_bit_buffer signature

Change-Id: I342075eb5a4ba2a85d36d47ae52d1f3476039e31

vp9_decode_frame: remove explicit read_bit_buffer init

this is done by init_read_bit_buffer()

Change-Id: I222eaa4e9758ff9f7e1e4122106c5c4652ffa99c

vp9_decodeframe.h: remove unused prototype

vp9_init_dequantizer() was deleted in:
bdd249b Optimize the dequantization process on decoder side.

Change-Id: Iedb5b6a3a03964dd6901c1e3b2325194d94bc708

vp9_decodeframe: move public funcs to end of file

Change-Id: Iaea9850890b726c7b5552c5f02b3a309086edc85

vp9_decodeframe: reorder some functions

removes the need for a prototype for the static function
dec_build_inter_predictors_sb

Change-Id: I36580ceae061d27f341ab0a16ece479f92e98004

vp9_decodeframe: hide vp9_dec_build_inter_predictors_sb

+ strip 'vp9_' prefix

Change-Id: Ia057432095e5741473275d4da03ab665c37e924e

test_intra_pred_speed: add ClearSystemState() call

fixes instability; noticed on mingw

Change-Id: Idef4349339444ec84916e5fcd908ee9633d28aaa

Merge "vp9_reconintra/d45_predictor: remove temp storage"

Merge "test/android/Android.mk: fix build w/ENABLE_SHARED=0"

Merge changes I89a8440f,Ifa3926e1

* changes:
  libs.mk: relocate TEST_INTRA_PRED_SPEED_OBJS init
  test_intra_pred_speed: remove #if w/in another macro

Merge "Changes to active maxq calculation in two pass."

Merge "Reducing size of MODE_INFO struct"

libs.mk: relocate TEST_INTRA_PRED_SPEED_OBJS init

allows the visual studio project to be generated

Change-Id: I89a8440fb0bcaef11ff89dd967aa37bfe200758d

test_intra_pred_speed: remove #if w/in another macro

fixes the compile under visual studio

Change-Id: Ifa3926e198af97d73250540c6d0ef692f5e354ff

test/android/Android.mk: fix build w/ENABLE_SHARED=0

add a dependency on *_rtcd.h to ensure they're generated before
attempting to build the test files

Change-Id: Ibbbd1f6ea77912bfd297129e7c83b9a80923ea12

Merge "Adjust some parameters for cyclic refresh for low bitrates."

Adjust some parameters for cyclic refresh for low bitrates.

Reduce motion threshold and boost factor for second segment,
for low bitrates, at low resolutions for now.
This is to reduce the rate fluctuation/frame dropping that occurs
at these low bitrates.

Change-Id: Ia66c3be41831882fca8c1e4fe104f5ea8fbe7142

Merge "Prevent dividing by 0 when target-bitrate is 0."

Changes to active maxq calculation in two pass.

Some initial experiments into discounting dead zone
formating bars and intra skip blocks (common in some
types of animation and graphics) in the calculation of
the active max Q for each ARF/GF group.

TODO: check for vertical formating bars and validate the
horizontal bar at the bottom edge of the image.

As expected, this change as it stands, does not make much
difference for the natural videos in the std-hd and derf sets.
However, for the yt and yt hd set there is a significant rise
in the average PSNR with overall PSNR and SSIM remaining
neutral.

The mean rise for the YT-HD test set was > 6%. This is mainly
because the change allows Q to drop further on titles and
other graphics sections where spending a small number of
extra bits gives a sharp rise in PSNR.

Change-Id: I3f878ae91fc1854312d7ecf9fa792c17bc1aa6b7

Enable more split modes for animated content.

For content that is identified as likely to contain some
animation or graphics content, increase the availability
of split modes for good quality speeds 1-3.

On a problem test animation clip this improves metrics
results by about 0.25 db and makes a noticeable difference
visually. It also causes a small drop in file size (~0.5%) but
a rise in encode time of about 5-6% at speed  2.

For more normal content it should have no effect.

Change-Id: Ic4cd9a8de065af9f9402f4477a17442aebf0e439

Prevent dividing by 0 when target-bitrate is 0.

Change-Id: I05b7fb378b6b0c5f263e7839f96ba6830ee34fd2

Merge "Animation and dead zone detection."

Update use_prev_frame_mvs flag in decoder.

Added check to see if last frame was all intra.  This will
eliminate two checks in find_mv_refs_idx().  Also, do not
update the frame mvs if the current frame is all intra.

This improved performance on material with frequent
intra-only frames.

Change-Id: I44a4042c3670ab0d38439d565062a0e2a1ba9d1e

mips msa vp9 intra-pred optimization

intra pred - average improvement ~2x-3x

Change-Id: Ie3f7d6eded5ecb7ed7ee506ba8e4d98f93803b09

Merge "vpxdec: cosmetics: break some long lines"

Merge "vpxenc: relocate vp8/vp9 only options"

Merge "disable vp8_sub_pixel_variance8x8_neon"

Merge "vs/armv7: use -oldit armasm flag"

disable vp8_sub_pixel_variance8x8_neon

fails unit tests:
[  FAILED  ] NEON/VP8SubpelVarianceTest.ExtremeRef/0, where GetParam() = (3, 3, 0x14e36d, 0)
[  FAILED  ] NEON/VP8SubpelVarianceTest.Ref/0, where GetParam() = (3, 3, 0x14e36d, 0)

the tests were recently enabled in:
eb88b17 Make vp9 subpixel match vp8

the functions likely haven't changed since being converted from assembly

Change-Id: I6141717b111b8f735f436c160d74270af53ef722

vpxdec: cosmetics: break some long lines

Change-Id: I95827a6f5e585d2accbb8fc09501f2d38db585e4

vpxenc: relocate vp8/vp9 only options

move them under their respective config check to avoid some unused
variable warnings when disabled

Change-Id: Ic5e5280cf1bc1f56e8349676f0bedae4acef34ea

Optimize the decode_partition. About 0.7% gain on N10.

Change-Id: Ia689c254bd2d4f274abcc451a9b758f62e3a2b1f

vs/armv7: use -oldit armasm flag

this quiets warnings from armv6 code [1].
from msdn [2]:
-oldit
Generate ARMv7-style IT blocks. By default, ARMv8-compatible IT blocks
are generated.

a new configuration would be needed for armv8 in any case as the neon
assembly is being built, so removing this should be harmless

[1] A4509: This form of conditional instruction is deprecated
[2] https://msdn.microsoft.com/en-us/library/hh873189.aspx

Change-Id: I4c3b838b52a87401c6daecd83d22ab148ed7c5d9

Merge "vp9_reconintra: simplify d63_predictor"

Merge "BUG FIX: Remove counts param"

BUG FIX: Remove counts param

member access within null pointer of type 'FRAME_COUNTS'

Change-Id: Id3bf75e0a6f2a1abf8522cf9fbb98b3a4443de38

Merge "Add control to skip loop filter in VP9 decoder."

Merge "vpxenc: Add support for pixel aspect ratio."

Add control to skip loop filter in VP9 decoder.

This control allows the application to skip the loop filter in the
decoder. This is an advanced control that should only be used in
extreme circumstances as it may introduce and accumulate decode
artifacts.

Change-Id: I278c65c60826f84c9141ebe06c6eeed3c2335fa8

vpxenc: Add support for pixel aspect ratio.

WebM files will adjust the display width and height according to the
input pixel aspect ratio. The default pixel aspect ratio is 1:1.

BUG=https://code.google.com/p/webm/issues/detail?id=1005

Change-Id: I23e0a601b7259fa9513cb86110c41b8437769808

Merge "Duplicate reference variance code"

Fix to spatial svc: set reference_frame masking.

For real-time mode: keep reference_frame masking off
for spatial svc.

Change-Id: I15e123c06f67ea040172b8d4042a672f3525b9d8

Merge "mips msa vp9 loopfilter 4, 8 optimization"

mips msa vp9 loopfilter 4, 8 optimization

average improvement ~3x-4x

Change-Id: I59279293ce4b2a1e99bd10579ac97740e943643f

Merge "Bugfx in setting layer framerate."

vp9_reconintra/d45_predictor: remove temp storage

dst row 0 can be reused in the same way

Change-Id: Id977da62545dcc4a89cebbcbad90ba84f8ff5d6b

vp9_reconintra: simplify d63_predictor

calculate the averages needed for even and odd rows once; this removes a
conditional from the inner loop
the final average calculated currently relies on above[] being extended,
it could be reduced to use
above[block_size - 2] + 3 * above[block_size - 1]

Change-Id: I70f5eac8d8a2a959c7114844a95826f445c3dd4d

Merge "mips msa vp9 loopfilter 16 optimization"

Merge "vp9_reconintra: use AVG[23] consistently"

Merge "vp9_reconintra_neon_asm/tm4x4: simplify left load"

Merge "vp9_reconintra: fix d45/d63 discrepancies"

Merge "Remove cm parameter from vp9_decode_block_tokens() part 2"

vp9_reconintra: fix d45/d63 discrepancies

the final index in rows 2, 3 differ from vp8

Change-Id: I0fcea907b4ab44e266c0f1fd77b290d2236b280a

Bugfx in setting layer framerate.

Index for ts_rate_decimator should be temporal layer (tl) index.

Change-Id: I0320b7f7ae987ef64fdfe7c45099e7978a8fef17

Make vp9 the default codec for vpxenc

Change-Id: Ic3b4f3c9a6d8f9b04efb8b5ee080880895063564