Refactor rd loop for chroma components

This commit makes the rate-distortion optimization search of chroma
components consistent across all block sizes. It removes redundant
codes.

Change-Id: I7e76f54d045e8efdd41d84a164c71f55b484471b

Merge "Remove unused RDCOST_8X8 macro"

Merge "Unify luma and chroma rd-cost estimation"

Using { 0 } for initialization instead of memset.

Change-Id: I4fad357465022d14bfc7e13b348c6da267587314

Merge "vp9_dx_iface: check for NULL/0-size input"

Merge "vpxenc: open output file after setting pass #"

Remove unused RDCOST_8X8 macro

Change-Id: I17c7d7eaa60fe69c543403c340f7c1078bfd339f

Merge "Quantization code cleanup."

Speed feature to skip split partition based on var

Adds a speed feature to disable split partition search based on a
given threshold on the source variance. A tighter threshold derived
from the threshold provided is used to also disable horizontal and
vertical partitions.

Results on derfraw300:
threshold = 16, psnr = -0.057%, speedup ~1% (football)
threshold = 32, psnr = -0.150%, speedup ~4-5% (football)
threshold = 64, psnr = -0.570%, speedup ~10-12% (football)

Results on stdhdraw250:
threshold = 32, psnr = -0.18%, speedup is somewhat more than derf
because of a larger number of smoother blocks at higher resolution.

Based on these results, a threshold of 32 is chosen for speed 1,
and a threshold of 64 is chosen for speeds 2 and above.

Change-Id: If08912fb6c67fd4242d12a0d094783a99f52f6c6

Unify luma and chroma rd-cost estimation

This commit unifies the rate-distortion cost calculation process of
luma and chroma components. It allows early termination to be enabled
later in the rd search loop of chroma components, in consistent with
luma pixels.

Change-Id: I2e52a7c6496176bf2a5e3ef338d34ceb8aad9b3d

Merge "Renaming in MB_MODE_INFO"

Merge "Get rid of bashisms in armlink_adapter.sh"

Get rid of bashisms in armlink_adapter.sh

Change-Id: If3cd84bb873fbad5622172c9b79ad8ae5485235a

Merge "Get rid of bashisms in the main build scripts"

vp9_dx_iface: check for NULL/0-size input

avoids a crash caused by issue #585

Change-Id: I301595ee0227699b0da6f0dad6d870dd546e94ef

vpxenc: open output file after setting pass #

write_ivf_file_header would incorrectly skip writing the file header in
the 2nd pass, causing the initial frame header to be overwritten on
close potential causing an overly large frame header to be read and a
crash.

most likely broken since:
9e50ed7 vpxenc: initial implementation of multistream support

fixes issue #585

Change-Id: I7e863e295dd6344c33b3e9c07f9f0394ec496e7b

Merge "Add neon optimize vp9_short_idct16x16_add."

Add neon optimize vp9_short_idct16x16_add.

Change-Id: I27134b9a5cace2bdad53534562c91d829b48838d

foreach_transformed_block_in_plane cleanup, explicit tx_size var.

Making foreach_transformed_block_in_plane more clear (it's not finished
yet). Using explicit tx_size variable consistently instead of
(ss_txfrm_size / 2) or (ss_txfrm_size >> 1) expression.

Change-Id: I1b9bba2c0a9f817fca72c88324bbe6004766fb7d

Adding const to arguments of intra prediction functions.

Adding const to above and left pointers. Cleanup.

Change-Id: I51e195fa2e2923048043fe68b4e38a47ee82cda1

Renaming in MB_MODE_INFO

The macro block mode info context originally contained an
entry for each 16x16 macroblock. In VP9 each entry refers
to an 8x8 region not a macro block, so the naming is misleading.

This first stage clean up changes the names of 3 entries in the
structure to remove the mb_ prefix.

TODO clean up the nomenclature more widely in respect of
mbmi and bmi.

Change-Id: Ia7305c6d0cb805dfe8cdc98dad21338f502e49c6

Merge "Honor min_partition_size properly for non-square splits"

Get rid of bashisms in the main build scripts

The conversion was done with the help of the checkbashisms script
and https://wiki.ubuntu.com/DashAsBinSh .

Change-Id: Id64ecefb35c8d72302f343cd2ec442e7ef989d47

Honor min_partition_size properly for non-square splits

Don't do vertical or horizontal splits if subsize < min_partition_size,
except for edge blocks where it makes sense.

Change-Id: I479aa66ba1838d227b5de8312d46be184a8d6401

Merge "Little cleanup inside decode_tile() function."

Merge "Trivial clean up."

Use lookup table to find largest txfm size

Refactor choose_largest_txfm_size_ and make it find the largest
transform size via lookup table.

Change-Id: I685e0396d71111b599d5367ab1b9c934bd5490c8

Merge "Using is_inter_block() instead of repetitive code."

Merge "Refactor model based tx search in super_block_yrd"

Trivial clean up.

Delete unused / commented out  variable references.

Change-Id: Iaf20c0c3744f89adb296d153b516b5ea41b4f3b4

Merge "Honor min_partition_size properly"

Merge "Broken loop filter case."

Merge "SSE2 high precision 32x32 forward DCT"

Little cleanup inside decode_tile() function.

Change-Id: I3ed4beb59371fe21ca3e82253aa98e0cbd5e0630

Merge "vp9: neon: optimise convolve8_vert functions"

Merge "vp9: neon: optimise convolve8_horiz functions"

Using is_inter_block() instead of repetitive code.

Change-Id: If0b04c476c34fb8c102c9f750d7fe5669a86a532

SSE2 high precision 32x32 forward DCT

Enable SSE2 implementation of high precision 32x32 forward DCT. The
intermediate stacks are of 32-bits. The run-time goes down from
32126 cycles to 13442 cycles.

Change-Id: Ib5ccafe3176c65bd6f2dbdef790bd47bbc880e56

Refactor model based tx search in super_block_yrd

Remove unnecessary conditional branches in model-based transform
size search.

Change-Id: Ic862dc33ed6710a186f6248239dd5f09b5c19981

Merge "Simplifying vp9_mvref_common.c."

Merge "Removing foreach_predicted_block_uv function."

Merge "Using MV* instead of int_mv* as argument of vp9_clamp_mv_min_max."

Simplifying vp9_mvref_common.c.

Change-Id: I272df2e33fa05310466acf06c179728514dd7494

Quantization code cleanup.

Change-Id: I77b42418b852093f79260cbd880533a0bd86678f

Merge "Entropy context related cleanups."

Merge "Making scaling code more clear."

Removing unused convolve_avg_c function + cleanup.

Change-Id: Id2b126c6456627c25e4041a82e304d0151d951ba

Using MV* instead of int_mv* as argument of vp9_clamp_mv_min_max.

Change-Id: I3c45916a9059f11b41e9d798e34ffee052969a44

Removing foreach_predicted_block_uv function.

Adding function build_inter_predictors_for_planes to build inter
predictors for specified planes. This function allows to remove
condition "#if CONFIG_ALPHA" and use MAX_MB_PLANE for general case.
Renaming 'which_mv' local var to 'ref', and 'weight' argument to 'ref'.

Change-Id: I1a97160c9263006929d38953f266bc68e9c56c7d

Making scaling code more clear.

Reusing existing functions, using constants instead of magic numbers.

Change-Id: Idc689ffba52c9a8b203fcf26bd67110ecb5635f9

Broken loop filter case.

Loop filter level moved to common but this case missed.

Change-Id: I7fcb557e46ef4ed8e2b5e9c3e82cb042b55bbd7f

Fix a compile failure in vp9_get_compressed_data

The lf struct is now with VP9_COMMON, instead of MACROBLOCKD.

Change-Id: Idfdd4f91f78f486078a138322d58bb61e93e1bc9

Entropy context related cleanups.

Adding set_skip_context() function used from both encoder and decoder.

Change-Id: Ia22cfad3211a00a63eb294f64f857b78f4aa9b85

vp9: neon: optimise convolve8_vert functions

Invert loops to operate vertically in the inner loop.  This allows
removing redundant loads.

Also add preloading of data.

Change-Id: I4fa85c0ab1735bcb1dd6ea58937efac949172bdc

Merge "Removing redundant code and function arguments."

vp9: neon: optimise convolve8_horiz functions

Each iteration of the horizontal loop reuses 7 of the 11 source
values.  Loading only the 4 new values saves some time.

Also add preload for source data.

Overall 4% faster on Chromebook.

Change-Id: I8f69e749f2b7f79e9734620dcee51dbfcd716b44

Renaming BLOCK_SIZE_TYPES constant to BLOCK_SIZES.

There will be another change set to rename BLOCK_SIZE_TYPE enum to
BLOCK_SIZE.

Change-Id: I8d1dfc873d6186fa5e554262f5169e929978085e

Honor min_partition_size properly

It represents the minimum partition size, so don't split if
bsize == min_partition_size .

Change-Id: Id77c32d6afef7d2ddec0368eaae18fb13227d30e

Removing redundant code and function arguments.

Change-Id: Ia5cdda0f755befcd1e64397452c42cb7031ca574

Merge "Inlining 16 as a stride for BLOCK_OFFSET macro."

Merge "vp9_rd_pick_inter_mode_sb: fix uninitialized value"

Inlining 16 as a stride for BLOCK_OFFSET macro.

Change-Id: I7f23d174eb089e5500f268a10db09648634c1b82

vp9_rd_pick_inter_mode_sb: fix uninitialized value

'skippable' can remain unset and negatively affect later decisions

address one aspect of issue #599

Change-Id: Iffdf0ac2e49ac481c27dc27c87fa546d4167bb28

Merge "Using MV struct instead of int[2] array."

Merge "Removing plane_block_{width, height}_log2by4 functions."

Merge "Moving loopfilter struct to VP9_COMMON."

Moving loopfilter struct to VP9_COMMON.

Loop filter configuration doesn't belong to macroblock, so moving it from
MACROBLOCKD to VP9_COMMON. Also moving the declaration of loopfilter struct
from vp9_blockd.h to vp9_loopfilter.h.

Change-Id: I4b3e34be9623b47cda35f9b1f9951f8c5b1d5d28

Moving scale_factors and related code to separate files.

Change-Id: I531829e5aee2a4a7a112d528ecccbddf052d0e74

Merge "Bug fix: call set_offsets before rd_auto_partition_range"

Merge "Using buf_2d struct instead of separate buffer and stride vars."

Bug fix: call set_offsets before rd_auto_partition_range

The set_offsets call is necessary inorder to set the
mode_info_context ptr correctly.

Change-Id: I644910cc5bacc50ee9cd78458843274ad8ee636d

Merge "Correct bug in loopfilter initialization"

Correct bug in loopfilter initialization

The memset sets 16 bytes rather than the correct size of the
final array dimension (MAX_MODE_LF_DELTAS).

(In response to bug posted by Manjit Hota to codec-devel
and webm-discuss lists)

Change-Id: I8980f5aa71ddc9d7ef57c5b4700bc28ddf8651c7

Added lpf level picking using partial frame

Change-Id: I599ab1bd22b5f3f10d5962c609952abdef8ff67a

renamed vp8_yv12_copy_y to vpx_yv12_copy_y

Becuase the routine is used by both vp8 and vp9

Change-Id: I2d35b287b5bc2394865d931a27da61f4ce7edeeb

added a speed feature on lpf level picking

Change-Id: Id578f8afdeab3702fc8386969f2d832d8f1b5420

Merge "fix unit test failure on win32 vs2008 build"

Using buf_2d struct instead of separate buffer and stride vars.

Change-Id: Id5cc3566cc16d1e3030ddb4d1c58459320321dca

General code cleanup.

Removing redundant parenthesis and curly braces. Combining declarations
with initializations. Adding useful intermediate variables instead of
recalculating expressions every time.

Change-Id: I00106f404afd60bfc189905b0fded881684f941a

fix unit test failure on win32 vs2008 build

The mix use of double type and simd code caused invalid values stored
in double variables, further caused unit tests to fail. The failures
were only observed on x86-win32-vs9 build with vs2008.

Change-Id: If0131754a3bf217a5ace303b7963e8f5162c34b5

Merge "Cleanup inside vp9_reconinter.c."

Merge "Adds a new subpel motion function"

Merge "Removing unneeded intermediate entropy_nodes_adapt var."

Using MV struct instead of int[2] array.

Change-Id: Iab951c555037e36b154f319f351c5e67f9abb931

Removing unneeded intermediate entropy_nodes_adapt var.

Change-Id: I541a178d997b4541e0e2d4d5b854e2ed6b113c3a

Adds a new subpel motion function

Adds a new subpel motion estimation function that uses a 2-level
tree-structured decision tree to eliminate redundant computations.
It searches fewer points than iterative search (which can search
the same point multiple times) but has the same quality roughly.

This is made the default setting at speeds 0 and 1, while at
speed 2 and above only a 1-level search is used.

Also includes various cleanups for consistency and redundancy removal.

Results:
derf: +0.012% psnr
stdhd: +0.09% psnr
Speedup of about 2-3%

Change-Id: Iedde4866f5475586dea0f0ba4cb7428fba24eee9

Moved fast motion search level decision to function

Moving this block of code into a function makes the
code easier to read and change.

Change-Id: If4ede570cce1eab1982b188c4d3e4fd3d4db236e

Simplify & fix potential bug in rd_pick_partition

Different partitionings were not being evaluated against
best_rd and there were unnecessary calls to RDCOST. This
could have resulted in a non-optimal partioning being
selected.

I simplified the variables used to track the rate,
distortion and RD values throughout the function.

Change-Id: Ifa7085ee80d824e86791432a5bc6d8fea5a3e313

Merge "Use low precision 32x32fdct for encodemb in speed1"

Removing plane_block_{width, height}_log2by4 functions.

Change-Id: I040b82b8e32aee272d10cbb021c7ba1c76343d7a

Cleanup inside vp9_reconinter.c.

Using block width and block height instead of their logarithms. Using
SUBPEL_BITS and SUBPEL_SHIFTS constants instead of magic numbers.

Change-Id: I4e10e93c907c8a5e1cb27dfe74d1fcdcc4995448

Merge "Using only one scale function in scale_factors struct."

Merge "Adding ss_size_lookup table."

Use low precision 32x32fdct for encodemb in speed1

The low precision 32x32 fdct has all the intermediate steps within
16-bit depth, hence allowing faster SSE2 implementation, at the
expense of larger round-trip error. It was used in the rate-distortion
optimization search loop only.

Using the low precision version, in replace of the high precision one,
affects the compression performance by about 0.7% (derf, stdhd) at
speed 0. For speed 1, it makes derf set down by only 0.017%.

Change-Id: I4e7d18fac5bea5317b91c8e7dabae143bc6b5c8b

Adding ss_size_lookup table.

Removing the old one bsize_from_dim_lookup. Now we have a way to determine
block size for plane using its subsampling values (ss_size_lookup). And
then we can find the number of pixels in the block (num_pels_log2_lookup).

Change-Id: I6fc981da2ae093de81741d3d78eaefed11015db9

Merge "Removing NMS_STATS defines."

Neon version of vp9_short_idct4x4_add.

Change-Id: Idec4cae0cb9b3a29835fd2750d354c1393d47aa4

Merge "Clean ups of the subpel search functions"

Clean ups of the subpel search functions

Removes some unused code and speed features, and organizes the
interfaces for fractional mv step functions for use in new speed
features to come.

In the process a new speed feature - number of iterations per
step during the subpel search - is exposed.

No change when this parameter is set as the original value of 3.

Results:
subpel_iters_per_step = 3: baseline
subpel_iters_per_step = 2: psnr -0.067%, 1% speedup
subpel_iters_per_step = 1: psnr -0.331%, 3-4% speedup

Change-Id: I2eba8a21f6461be8caf56af04a5337257a5693a8

Merge "Motion vector code cleanup."