Change to limit the mv search range

As the pixel values beyond image border are duplicates of pixels
on edge, the change limits the mv search range, any mv beyond
the limits no longer produce new/different prediction values
as entire block with pixels used for subpel interpolation are
outside image border.

Change-Id: I4c6fdf06e33c1cef1489f5470ce0fb4e5e01fb79

fix a bug when null function pointer is used.

For certain partition size, the function poniter may not be intialized
at all. The patch prevent the call if the pointer is not set.

Change-Id: I78b8c3992b639e8799a16b3c74f0973d07b8b9ac

Merge "Fix potential use of uninitialized value"

Merge "Fix the returned distortion value in rd_pick_intra"

Using plane_bsize instead of bsize.

This change set is intermediate. The next one will remove all repetitive
plane_bsize calculations, because it will be passed as argument to
foreach_transformed_block_visitor.

Change-Id: Ifc12e0b330e017c6851a28746b3a5460b9bf7f0b

Fix potential use of uninitialized value

Initialize the best mode and tx_size values in the rate-distortion
optimization search loop.

Change-Id: Ibfb5c0895691f172abcd4265c23aef4cb99fa8af

Fix the returned distortion value in rd_pick_intra

Return the distortion value in vp9_rd_pick_intra_mode_sb as sum of
dist_y and dist_uv. Remove the right shift operation on dist_uv,
and make it consistent with that of vp9_rd_pick_inter_mode_sb.

Change-Id: I9d564e242d9add38e32595d33b0e0dddb1d55e5b

Removing unused or redundant arguments from *_args structures.

Redundant dst, pre[2] from build_inter_predictors_args, unused cm from
encode_b_args.

Change-Id: I2c476cd328c5c0cca4c78ba451ca6ba2a2c37e2d

Merge "Moving from ss_txfrm_size to tx_size."

Merge "Renaming d27 predictor to d207."

Merge "Reduce the instructions of idct8x8. Also add the saving and restoring of D registers."

Merge "Reduce instructions of idct4x4."

Merge "vp9: neon: optimise vp9_wide_mbfilter_neon"

Reduce instructions of idct4x4.

Change-Id: Ia26a2526804e7e2f656b0051618a615fca8fc79d

Reduce the instructions of idct8x8. Also add the
saving and restoring of D registers.

Change-Id: Id3630c90fcb160ef939fef55411342608af5f990

Merge "vp9: neon: use aligned stores in convolve functions"

Fixed typos and formatting

Change-Id: I3814984a624bc64147c57efa74fbdda8eda47262

Merge "Added resizing & initialization of last frame segment map"

vp9: neon: use aligned stores in convolve functions

The destination is block-aligned so it is safe to use aligned
stores.

Change-Id: I38261e4fa40bc60e6472edffece59e372908da7e

Moving from ss_txfrm_size to tx_size.

Updating foreach_transformed_block_visitor and corresponding functions
to accept tx_size instead of ss_txfrm_size. List of functions per file:

vp9_decodframe.c
  decode_block
  decode_block_intra

vp9_detokenize.c
  decode_block

vp9_encodemb.c
  optimize_block
  vp9_xform_quant
  vp9_encode_block_intra

vp9_rdopt.c
  dist_block
  rate_block
  block_yrd_txfm

vp9_tokenize.c
  set_entropy_context_b
  tokenize_b
  is_skippable

Change-Id: I351bf563eb36cf34db71c3f06b9bbc9a61b55b73

Merge "Refactor rd loop for chroma components"

Added resizing & initialization of last frame segment map

When the frame size changes the last frame segment map must
be resized to match and initialized to 0.

Change-Id: Idc10de109f55dbe9af3a6caae355a2974712243d

Merge "Converting code from using ss_txfrm_size to tx_size."

Merge "Moving segmentation struct from MACROBLOCKD to VP9_COMMON."

Merge "vp9: neon: add vp9_convolve_avg_neon"

Merge "vp9: neon: add vp9_convolve_copy_neon"

Refactor rd loop for chroma components

This commit makes the rate-distortion optimization search of chroma
components consistent across all block sizes. It removes redundant
codes.

Change-Id: I7e76f54d045e8efdd41d84a164c71f55b484471b

Merge "Remove unused RDCOST_8X8 macro"

Merge "Unify luma and chroma rd-cost estimation"

Converting code from using ss_txfrm_size to tx_size.

Updated function signatures:
  txfrm_block_to_raster_block
  txfrm_block_to_raster_xy
  extend_for_intra
  vp9_optimize_b

Change-Id: I7213f4c4b1b9ec802f90621d5ba61d5e4dac5e0a

Using { 0 } for initialization instead of memset.

Change-Id: I4fad357465022d14bfc7e13b348c6da267587314

Renaming d27 predictor to d207.

27 degrees intra predictor is actually 207 degrees, so renaming it.

Change-Id: Ife96a910437eb80ccdc0b7a5b7a62c77542ae5be

vp9: neon: optimise vp9_wide_mbfilter_neon

Break up long dependency chains to improve instruction scheduling.

Change-Id: I0e0cb66943df24af920767bb4167b25c38af9630

Merge "vp9_dx_iface: check for NULL/0-size input"

Merge "vpxenc: open output file after setting pass #"

Moving segmentation struct from MACROBLOCKD to VP9_COMMON.

VP9_COMMON is the right place to segmentatation struct because it has
global segmentation parameters, not something specific to macroblock
processing.

Change-Id: Ib9ada0c06c253996eb3b5f6cccf6a323fbbba708

Remove unused RDCOST_8X8 macro

Change-Id: I17c7d7eaa60fe69c543403c340f7c1078bfd339f

Merge "Quantization code cleanup."

Speed feature to skip split partition based on var

Adds a speed feature to disable split partition search based on a
given threshold on the source variance. A tighter threshold derived
from the threshold provided is used to also disable horizontal and
vertical partitions.

Results on derfraw300:
threshold = 16, psnr = -0.057%, speedup ~1% (football)
threshold = 32, psnr = -0.150%, speedup ~4-5% (football)
threshold = 64, psnr = -0.570%, speedup ~10-12% (football)

Results on stdhdraw250:
threshold = 32, psnr = -0.18%, speedup is somewhat more than derf
because of a larger number of smoother blocks at higher resolution.

Based on these results, a threshold of 32 is chosen for speed 1,
and a threshold of 64 is chosen for speeds 2 and above.

Change-Id: If08912fb6c67fd4242d12a0d094783a99f52f6c6

Unify luma and chroma rd-cost estimation

This commit unifies the rate-distortion cost calculation process of
luma and chroma components. It allows early termination to be enabled
later in the rd search loop of chroma components, in consistent with
luma pixels.

Change-Id: I2e52a7c6496176bf2a5e3ef338d34ceb8aad9b3d

Merge "Renaming in MB_MODE_INFO"

Merge "Get rid of bashisms in armlink_adapter.sh"

Get rid of bashisms in armlink_adapter.sh

Change-Id: If3cd84bb873fbad5622172c9b79ad8ae5485235a

Merge "Get rid of bashisms in the main build scripts"

vp9_dx_iface: check for NULL/0-size input

avoids a crash caused by issue #585

Change-Id: I301595ee0227699b0da6f0dad6d870dd546e94ef

vpxenc: open output file after setting pass #

write_ivf_file_header would incorrectly skip writing the file header in
the 2nd pass, causing the initial frame header to be overwritten on
close potential causing an overly large frame header to be read and a
crash.

most likely broken since:
9e50ed7 vpxenc: initial implementation of multistream support

fixes issue #585

Change-Id: I7e863e295dd6344c33b3e9c07f9f0394ec496e7b

Merge "Add neon optimize vp9_short_idct16x16_add."

Add neon optimize vp9_short_idct16x16_add.

Change-Id: I27134b9a5cace2bdad53534562c91d829b48838d

foreach_transformed_block_in_plane cleanup, explicit tx_size var.

Making foreach_transformed_block_in_plane more clear (it's not finished
yet). Using explicit tx_size variable consistently instead of
(ss_txfrm_size / 2) or (ss_txfrm_size >> 1) expression.

Change-Id: I1b9bba2c0a9f817fca72c88324bbe6004766fb7d

Adding const to arguments of intra prediction functions.

Adding const to above and left pointers. Cleanup.

Change-Id: I51e195fa2e2923048043fe68b4e38a47ee82cda1

vp9: neon: add vp9_convolve_avg_neon

Change-Id: I33cff9ac4f2234558f6f87729f9b2e88a33fbf58

vp9: neon: add vp9_convolve_copy_neon

Change-Id: I15adbbda15d1842e9f15f21878a5ffbb75c3c0c9

Renaming in MB_MODE_INFO

The macro block mode info context originally contained an
entry for each 16x16 macroblock. In VP9 each entry refers
to an 8x8 region not a macro block, so the naming is misleading.

This first stage clean up changes the names of 3 entries in the
structure to remove the mb_ prefix.

TODO clean up the nomenclature more widely in respect of
mbmi and bmi.

Change-Id: Ia7305c6d0cb805dfe8cdc98dad21338f502e49c6

Merge "Honor min_partition_size properly for non-square splits"

Get rid of bashisms in the main build scripts

The conversion was done with the help of the checkbashisms script
and https://wiki.ubuntu.com/DashAsBinSh .

Change-Id: Id64ecefb35c8d72302f343cd2ec442e7ef989d47

Honor min_partition_size properly for non-square splits

Don't do vertical or horizontal splits if subsize < min_partition_size,
except for edge blocks where it makes sense.

Change-Id: I479aa66ba1838d227b5de8312d46be184a8d6401

Merge "Little cleanup inside decode_tile() function."

Merge "Trivial clean up."

Use lookup table to find largest txfm size

Refactor choose_largest_txfm_size_ and make it find the largest
transform size via lookup table.

Change-Id: I685e0396d71111b599d5367ab1b9c934bd5490c8

Merge "Using is_inter_block() instead of repetitive code."

Merge "Refactor model based tx search in super_block_yrd"

Trivial clean up.

Delete unused / commented out  variable references.

Change-Id: Iaf20c0c3744f89adb296d153b516b5ea41b4f3b4

Merge "Honor min_partition_size properly"

Merge "Broken loop filter case."

Merge "SSE2 high precision 32x32 forward DCT"

Little cleanup inside decode_tile() function.

Change-Id: I3ed4beb59371fe21ca3e82253aa98e0cbd5e0630

Merge "vp9: neon: optimise convolve8_vert functions"

Merge "vp9: neon: optimise convolve8_horiz functions"

Using is_inter_block() instead of repetitive code.

Change-Id: If0b04c476c34fb8c102c9f750d7fe5669a86a532

SSE2 high precision 32x32 forward DCT

Enable SSE2 implementation of high precision 32x32 forward DCT. The
intermediate stacks are of 32-bits. The run-time goes down from
32126 cycles to 13442 cycles.

Change-Id: Ib5ccafe3176c65bd6f2dbdef790bd47bbc880e56

Refactor model based tx search in super_block_yrd

Remove unnecessary conditional branches in model-based transform
size search.

Change-Id: Ic862dc33ed6710a186f6248239dd5f09b5c19981

Merge "Simplifying vp9_mvref_common.c."

Merge "Removing foreach_predicted_block_uv function."

Merge "Using MV* instead of int_mv* as argument of vp9_clamp_mv_min_max."

Simplifying vp9_mvref_common.c.

Change-Id: I272df2e33fa05310466acf06c179728514dd7494

Quantization code cleanup.

Change-Id: I77b42418b852093f79260cbd880533a0bd86678f

Merge "Entropy context related cleanups."

Merge "Making scaling code more clear."

Removing unused convolve_avg_c function + cleanup.

Change-Id: Id2b126c6456627c25e4041a82e304d0151d951ba

Using MV* instead of int_mv* as argument of vp9_clamp_mv_min_max.

Change-Id: I3c45916a9059f11b41e9d798e34ffee052969a44

Removing foreach_predicted_block_uv function.

Adding function build_inter_predictors_for_planes to build inter
predictors for specified planes. This function allows to remove
condition "#if CONFIG_ALPHA" and use MAX_MB_PLANE for general case.
Renaming 'which_mv' local var to 'ref', and 'weight' argument to 'ref'.

Change-Id: I1a97160c9263006929d38953f266bc68e9c56c7d

Making scaling code more clear.

Reusing existing functions, using constants instead of magic numbers.

Change-Id: Idc689ffba52c9a8b203fcf26bd67110ecb5635f9

Broken loop filter case.

Loop filter level moved to common but this case missed.

Change-Id: I7fcb557e46ef4ed8e2b5e9c3e82cb042b55bbd7f

Fix a compile failure in vp9_get_compressed_data

The lf struct is now with VP9_COMMON, instead of MACROBLOCKD.

Change-Id: Idfdd4f91f78f486078a138322d58bb61e93e1bc9

Entropy context related cleanups.

Adding set_skip_context() function used from both encoder and decoder.

Change-Id: Ia22cfad3211a00a63eb294f64f857b78f4aa9b85

vp9: neon: optimise convolve8_vert functions

Invert loops to operate vertically in the inner loop.  This allows
removing redundant loads.

Also add preloading of data.

Change-Id: I4fa85c0ab1735bcb1dd6ea58937efac949172bdc

Merge "Removing redundant code and function arguments."

vp9: neon: optimise convolve8_horiz functions

Each iteration of the horizontal loop reuses 7 of the 11 source
values.  Loading only the 4 new values saves some time.

Also add preload for source data.

Overall 4% faster on Chromebook.

Change-Id: I8f69e749f2b7f79e9734620dcee51dbfcd716b44

Renaming BLOCK_SIZE_TYPES constant to BLOCK_SIZES.

There will be another change set to rename BLOCK_SIZE_TYPE enum to
BLOCK_SIZE.

Change-Id: I8d1dfc873d6186fa5e554262f5169e929978085e

Honor min_partition_size properly

It represents the minimum partition size, so don't split if
bsize == min_partition_size .

Change-Id: Id77c32d6afef7d2ddec0368eaae18fb13227d30e

Removing redundant code and function arguments.

Change-Id: Ia5cdda0f755befcd1e64397452c42cb7031ca574

Merge "Inlining 16 as a stride for BLOCK_OFFSET macro."

Merge "vp9_rd_pick_inter_mode_sb: fix uninitialized value"

Inlining 16 as a stride for BLOCK_OFFSET macro.

Change-Id: I7f23d174eb089e5500f268a10db09648634c1b82

vp9_rd_pick_inter_mode_sb: fix uninitialized value

'skippable' can remain unset and negatively affect later decisions

address one aspect of issue #599

Change-Id: Iffdf0ac2e49ac481c27dc27c87fa546d4167bb28

Merge "Using MV struct instead of int[2] array."

Merge "Removing plane_block_{width, height}_log2by4 functions."

Merge "Moving loopfilter struct to VP9_COMMON."

Moving loopfilter struct to VP9_COMMON.

Loop filter configuration doesn't belong to macroblock, so moving it from
MACROBLOCKD to VP9_COMMON. Also moving the declaration of loopfilter struct
from vp9_blockd.h to vp9_loopfilter.h.

Change-Id: I4b3e34be9623b47cda35f9b1f9951f8c5b1d5d28

Moving scale_factors and related code to separate files.

Change-Id: I531829e5aee2a4a7a112d528ecccbddf052d0e74