Make coefficient skip condition an explicit RD choice.

This commit replaces zrun_zbin_boost, a method of biasing non-zero
coefficients following runs of zero-coefficients to be rounded towards
zero, with an explicit skip-block choice in the RD loop.

The logic is basically that if individual coefficients should be rounded
towards zero (from a RD point of view), the trellis/optimize loop should
take care of it. If whole blocks should be zero (from a RD point of
view), a single RD check is much more efficient than a complete
serialization of the quantization loop.

Quality change: derf +0.5% psnr, +1.6% ssim; yt +0.6% psnr, +1.1% ssim.
SIMD for quantize will follow in a separate patch. Results for other
test sets pending.

Change-Id: Ife5fa641163ac5150ac428011e87188f1937c1f4

Merge "Minor cleanups"

Merge "Optimize partition search order"

Minor cleanups

Change-Id: I379617c1c731a686b3f7e032b8805860c1055b12

Optimize partition search order

This commit change the partition search order to allow checking of
rectangular partition to be done after square partitions. It also
added a speed feature to skip rectangular partition check when
NONE is better than SPLIT in RD sense.

This feature roughly speed up encoder by 1.5X with loss on compression
-0.91% on cif set
-0.56% on stdhd set

Change-Id: I0d2d06993041aa9ea9073fcc39c54f73a127dfa4

Merge "Fix tile independence with both column tiling and static_thresh set."

Merge "variance_test: add missing ClearSystemState..."

Fix tile independence with both column tiling and static_thresh set.

Change-Id: I0b2be0ec2c410a527f88b95a44f24ac967b2dac1

Add Neon optimized loop filter functions.

- Added vp9_loop_filter_horizontal_edge_neon and
  vp9_loop_filter_vertical_edge_neon.
- The functions are based off the vp8 loopfilter
  functions.
- Matches x86 md5 checksum.

Change-Id: Id1c4dddb03584227e5ecd29f574a6ac27738fdd0

Merge "General cleanup in segmentation-related code."

Merge "Moving subexp encoding functions in separate vp9_dsubexp.c file."

Inline quantize so idiv instruction gets removed from inner loop.

Encoding time of first 50 frames of bus @ 1500kbps (speed 0) goes from
3min15.0 to 3min10.9, i.e. 2.1% faster overall.

Change-Id: If592ee99be09bcd34a7c8498347f44e7305e982c

Merge "Auto adapt step size feature."

Merge "Start adaptive threshold for each mode at max."

Merge "Change meaning of cpi->sf.first_step and rename."

Merge "Make intra predictor reference buffer configurable"

Merge "Make update_partition_context faster"

variance_test: add missing ClearSystemState...

...to recently added SubpelVarianceTest

Change-Id: I8775e39fd5dbfba81ad42b79b47bf6dd6ca8cc0e

Merge "Change to use LUT for mode-to-txfm conversion"

Make intra predictor reference buffer configurable

This commit enables configurable reference buffer pointer for intra
predictor. This allows later removal of spatial dependency between
blocks inside a 64x64 superblock in the rate-distortion optimization
loop.

Change-Id: I02418c2077efe19adc86e046a6b49364a980f5b1

Merge "Remove empty function vp9_build_block_offsets"

Make update_partition_context faster

Use vpx_memset for updating the partition contexts. Thanks to Noah
for pointing out the need of refactoring in this part.

Change-Id: I67fb78429d632298f1cd8a0be346cc76f79392a6

Remove unused macro RDTRUNC_8x8 from encodemb.c.

Change-Id: I0c097567adab24215d807963ccb34810a2afe007

Remove empty function vp9_build_block_offsets

This function is empty, hence is removed.

Change-Id: Ia9d01710806bffe0398a6dc9405f8a5a81b27d74

Change to use LUT for mode-to-txfm conversion

Change-Id: Ieb989830f49e6708ee7728eddebf7a2144c37c6f

Merge "Fix aligned memory allocation in unit tests"

Fix aligned memory allocation in unit tests

Change-Id: I38fac90e0ed25cb747453ab1d6396187cf5ef3b9

Merge "fixed a compiling problem with MSVC win32 build"

Auto adapt step size feature.

Also tweaks to other features and experiments with
what is on and off at different speed settings.

Change-Id: I3e1d0be0d195216bf17c2ac5df67f34ce0b306b2

test/fdct*: fix some warnings

comment out some unused parameters and adjust the format to avoid:
./test/fdct4x4_test.cc|27| warning C4138: '*/' found outside of comment

Change-Id: I60f93b4c3cd7e8d61f0de80019f3404b40161f03

General cleanup in segmentation-related code.

Using consistent function and variable names.

Change-Id: I2deb3fded8797453a2081836c9ce2e79ade06eb7

Merge "Using get_plane_block_{width, height} instead of custom code."

fixed a compiling problem with MSVC win32 build

The aligned array in parameter list caused win32 build to report
c2719 error. This commit fixed the issue by make the parameter
type a pointer instead of an array.

Change-Id: I4ed654ce4eba2db4995d9cdc136c68e9a6acc992

Start adaptive threshold for each mode at max.

Each frame we reset all adaptive thresholds to MAX
rather than base. As modes are picked their thresholds
drop down.

Change-Id: Ia37f03a73003c2d9bfcda57edea07205e9a0e5e8

Change meaning of cpi->sf.first_step and rename.

Renamed cpi->sf.first_step to cpi->sf.reduce_first_step_size
and changed its meaning such that it is a delta applied to
reduce the default first step size (>> x) in the motion search
rather than an absolute value.

The default first step size is already changed according to the image
dimensions (smaller for smaller images). cpi->sf.reduce_first_step_size
now applies a further correction from the default.

Change-Id: Ia94e08bc24c67b604831f980909af7e982fcd16d

Merge "vpxenc: send usage to stderr"

Merge ".gitignore: add gcov files"

Merge "Move vp9_counts_to_nmv_context to encoder"

Merge "Move vp9_full_to_model_counts to encoder"

Merge "make: add libvpx_test_srcs.txt target"

Merge "tests/*source: test file pointer before reading"

Merge "encode_test_driver: check for fatal failures"

Merge "Refactor intra predictor block"

tests/*source: test file pointer before reading

if the caller did not abort after an ASSERT failure in Begin()
FillFrame() would segfault.

Change-Id: I2d3f5a0918611bbd081be6f686dea19c56695073

encode_test_driver: check for fatal failures

Make the base test be:
!(fatal || abort_) removing some redundancy in the encode tests

Change-Id: I8ffaf33fcf9a3030b38ea3e8eb94704cdc2fc920

Refactor intra predictor block

Remove vp9_intra4x4_predict(). Use the common intra prediction
function for all block sizes.

Change-Id: Ibd19d51dfa3da8bbdfb79ddeb81530b2e2089560

Renaming "nmv" to "mv".

Change-Id: I8299f55c3b930221e52c2237f2ddea65b94fd33b

Using get_plane_block_{width, height} instead of custom code.

Change-Id: I453ed11b965e857a14c18ea5c0f4a0a48e7dc0d9

Merge "Only do metrics on cropped (visible) area of picture."

Merge "Don't skip right/bottom border pixels in SSIM calculations."

Merge "Add averaging-SAD functions for 8-point comp-inter motion search."

make: add libvpx_test_srcs.txt target

same application as libvpx_srcs.txt

Change-Id: I1f096cc3c180d205365663c1aa5533b52561d811

Merge "Cosmetic changes in 4x4 fwd transform unit test"

Merge "Tune the rounding operations in 8x8 ADST/DCT sse2"

Merge "I420VideoSource: normalize framerate types"

Only do metrics on cropped (visible) area of picture.

The part where we align it by 8 or 16 is an implementation detail that
shouldn't matter to the outside world.

Change-Id: I9edd6f08b51b31c839c0ea91f767640bccb08d53

Don't skip right/bottom border pixels in SSIM calculations.

Change-Id: I75acb55ade54bef6ad7703ed5e691581fa2f8fe1

Add averaging-SAD functions for 8-point comp-inter motion search.

Makes first 50 frames of bus @ 1500kbps encode from 3min22.7 to 3min18.2,
i.e. 2.3% faster. In addition, use the sub_pixel_avg functions to calc
the variance of the averaging predictor. This is slightly suboptimal
because the function is subpixel-position-aware, but it will (at least
for the SSE2 version) not actually use a bilinear filter for a full-pixel
position, thus leading to approximately the same performance compared to
if we implemented an actual average-aware full-pixel variance function.
That gains another 0.3 seconds (i.e. encode time goes to 3min17.4), thus
leading to a total gain of 2.7%.

Change-Id: I3f059d2b04243921868cfed2568d4fa65d7b5acd

Merge "intrapred_test: add virtual dtor to IntraPredBase"

Tune the rounding operations in 8x8 ADST/DCT sse2

Improve the round-trip precision to meet the unit test setttings.

Change-Id: I303febae56b4b990ea3798b8ebed94c0510ecf79

Merge "Add SAD unit tests for all rectangular sizes."

Merge "Don't re-allocate comp_pred buffers for each call to comp motion search."

Moving subexp encoding functions in separate vp9_dsubexp.c file.

Change-Id: Idbb2ea80f764fa830fe2ddcfc54ef7fe232f05a8

Merge "Removing unused code."

Cosmetic changes in 4x4 fwd transform unit test

Change-Id: I7a9ea03b92160f1052e56665b19a155211ee241f

Merge "Add 8x8 dct/adst unit tests"

Merge "Changed size of mb_mode_context to 8 bits"

Merge "Small mode_info_context cleanup in filter_block_plane"

Removing unused code.

Removing block index (ib) parameter from get_tx_type_{8x8, 16x16}
functions.

Change-Id: Ia213335aae7a7cb027f97b9cc9b04519840250f1

Merge "Removing find_seg_id and using vp9_get_pred_mi_segid instead."

Merge "Transforming scale_mv_component_q4 into scale_mv_q4 function."

Add 8x8 dct/adst unit tests

This commit enables 8x8 DCT and hybrid transform unit tests. It
also tunes the forward hybrid transform rounding opertions for
more precise round-trip performance.

Change-Id: If05c1ce59d75d641b9c6c91527d02d3a6ef498c3

Merge "Use aligned buffer operations in 8x8/16x16 2D-DCT"

Small mode_info_context cleanup in filter_block_plane

Unnecessary updates to xd->mode_info_context.

Change-Id: I36d2d68ca48366f727548526726b1b5437f62968

vpxenc: send usage to stderr

Thanks to hiiragikei AT gmail.com for the fix.

Change-Id: Iab6c0822593fc5557d86efbb014ff6409ff05b35

Merge "Enable sse2 implmentation of 8x8 ADST/DCT"

Merge "change to enable use_largest_txform feature"

Use aligned buffer operations in 8x8/16x16 2D-DCT

This reduces 16x16 2D-DCT runtime from 865 cycles to 837 cycles.

Change-Id: I137758b81cd127b936175284310e81378db64552

Enable sse2 implmentation of 8x8 ADST/DCT

This commit makes use of the butterfly structure to enable the sse2
version implementation of 8x8 ADST/DCT hybrid transform coding.

The runtime of hybrid transform module goes down from 1170 cycles
to 245 cycles. Overall speed-up around 1.5%.

Change-Id: Ic808ffd21ece8a9d0410d8c0243d7b6c28ac3b3f

change to enable use_largest_txform feature

for all regular inter frames at speed 1

Change-Id: I0a8b301273ecf2b8730ab1f6b7a05f89f4d498e0

.gitignore: add gcov files

Change-Id: I0a58578e7cf27f3de839eb62a334e343eaed12c5

Move vp9_counts_to_nmv_context to encoder

This function only used from within vp9_encodemv.c.

Change-Id: Ib3fc7c30b1e2d27321397ac474cbc8976bc1f4b1

Move vp9_full_to_model_counts to encoder

This function is not called from the decoder, so it doesn't need to be
in common/.

Change-Id: I6977dd462a25b4ff39c9c7e1b0b5b16aa58ee733

Merge "Remove unused vp9_build_intra_predictors_sb{y,uv}_s"

Merge "Remove unused vp9_model_to_full_probs_sb()"

Changed size of mb_mode_context to 8 bits

This reduced the size of the MODE_INFO array (mip and prev_mip)
by 425,568 bytes each for 1080p resolutions.

Change-Id: Ifa513ec2d0a49e8ec0867ec90620762fb7f1261d

Add SAD unit tests for all rectangular sizes.

Change-Id: I47e81b51f072abdb276bdec85423febba34b5f81

Don't re-allocate comp_pred buffers for each call to comp motion search.

Instead, just allocate a few bytes on the stack, this is 4k, which isn't
all that much.

Change-Id: I82af6ee89e6ed01faaa23ff891ee7ced76df8c16

Merge "Fix loopfilter of leftmost 4x4 edges in SB"

Fix loopfilter of leftmost 4x4 edges in SB

For cases where there's no transform set in bit 0 (the left edge of
the SB) but bit 0 of mask_4x4_int is set (the edge 4 pixels from the
left edge needs filtering), it was incorrectly being skipped before.
This situation only happens on the leftmost edge of the image, as
the edge at column 0 is intentionally skipped since there aren't
pixels to the left to read.

Change-Id: Ib2fbbcb40166e90af31b1a0e13b85b68c226cbd3

Merge "Allocate memory using appropriate expected alignment in unit tests."

I420VideoSource: normalize framerate types

ctor inputs are ints as are vpx_rational_t members

Change-Id: I62a39bf3df123727a872e40b74e3ee9e55ef2ede

intrapred_test: add virtual dtor to IntraPredBase

classes with virtual functions should have virtual destructors

Change-Id: If54e2f8384f0bfcbf812cc727eb9d0a586173674

Allocate memory using appropriate expected alignment in unit tests.

Fixes crashes of test_libvpx on 32-bit Linux.

Change-Id: If94e7628a86b788ca26c004861dee2f162e47ed6

Merge "Add some unaligned test vectors"

Remove unused vp9_build_intra_predictors_sb{y,uv}_s

The functions no longer referenced.

Change-Id: If2705dfbc607f79ec8ec2242d5e03bec27a35aaf

Merge "Remove emms - that shouldn't be there."

Remove unused vp9_model_to_full_probs_sb()

This function never referenced.

Change-Id: I1c42cd355bfa88e17d169f7335a44be682af58cc

Transforming scale_mv_component_q4 into scale_mv_q4 function.

Using MV instead of int_mv for function arguments.

Change-Id: Ic25e13dccbc98fac1fa1b3255127e00cca2a57f6

Remove emms - that shouldn't be there.

Change-Id: I8fcab81e390f93dc17e9666bbf8f77883b5aa897