Merge "Adds high bitdepth convolve, interpred & scaling"

Adds high bitdepth convolve, interpred & scaling

Change-Id: Ie51c352a6b250547207cbc1ebba833a01ed053e3

Substantial reworking of code for arf and kf groups.

Substantial restructuring of the way we estimate
the rate of decay in prediction quality and determine
the arf interval and amount of boost used.

Also other changes to support moving to a lower first pass
Q which exposes some new features and allows us to better
distinguish genuinely static blocks from low motion or noisy
blocks.

Net gains now visible on all the test sets with std-hd PSNR up
1.87%. There are still some bad outlier cases but most of these
are low motion or slide show type content where the metrics
are already high at any given rate. The best + case is up by
more than 10%.

Change-Id: I18e25170053bdf3188f493ff8062f48a74515815

Merge "Improved mb_lpf_horizontal_edge_w_sse2_16() #2"

Improved mb_lpf_horizontal_edge_w_sse2_16() #2

The decoder performance improved up to 1% for the
test clips used.

Change-Id: I4621112bdccfba01640322facfa4ba8da8290ea5

Merge "Resolves a few gcc warnings"

Merge "vp8: common: postproc: fix signed overflow of statement of (X +c) >= X when '-Werror=strict-overflow' is set."

Resolves a few gcc warnings

clang is fine.

Change-Id: Ia4e9ff17ea3b86bc87dca35828ee7ce45bea6994

Merge "arm: Fix building vp8_mse16x16_neon.c with MSVC"

Merge "Adding high-bitdepth intra prediction functions"

Merge "Remove memset of every external frame buffer."

Merge "Speeding up decode_coeffs()."

Adding high-bitdepth intra prediction functions

Change-Id: I6f5cb101e2dc57c3d3f4d7e0ffb4ddbed027d111

Adds high bitdepth quantization functions

Adds various high bitdepth quantization functions.

Change-Id: I36fc0bf75a1bd15128ed271df8723de0ac134b0c

Merge "Use non-zero mode threshold for NEARESTMV modes"

Merge "Fix a performance regression"

arm: Fix building vp8_mse16x16_neon.c with MSVC

Use the right return values - vadd_s64 returns int64x1_t, not
a normal int64_t.

Change-Id: Ife17213087c1dfb5faaa647f804d2fd140f3a0eb

Merge "Fix ARF construction when scaling"

Speeding up decode_coeffs().

1080p decoding speedup -- 1.25%, 4K decoding speedup -- 2.5%.

Change-Id: I5f02f521cbf7758d4d1886a93bc5b074abdff03d

Merge "Move call to vp9_rc_get_second_pass_params()."

Fix a performance regression

This commit adds back sse2 or ssse3 optimized versio of a couple of
functions, fixes a ~10% performance regression.

Change-Id: I049786906e5a641224dced63c6492aec9d86d183

Fix ARF construction when scaling

The ARF frame should always be the same size as the
native resolution of the input frames.

It will be scaled to the required resolution at
encode time.

Change-Id: I0afe858129aa6ef65b1648f43476331715346896

Merge "build/make/iosbuild.sh: Be more explicit about armv7."

Use non-zero mode threshold for NEARESTMV modes

This commit makes the encoder to use non-zero mode threshold for
NEARESTMV modes. The runtime for test clips of speed 3 is reduced
by about 1%.

pedestrian 1080p 2000 kbps, 143239 ms -> 141989 ms
bus CIF 1000 kbps, 7835 ms -> 7749 ms

The compression performance change is about -0.02% for both derf
and stdhd.

Change-Id: Ib71808922c41ae2997100cb7c561f68dcebfa08e

Merge "Add ARF validation for compound inter mode check"

Merge "Remove redundant reference frame check in sub8x8 RD search"

Merge "Replace best_ref_index table fetch with best_mbmode"

Merge "Simplify the skip flag cost code"

Merge "Set the skip flag to 1 for skippable blocks"

Simplify the skip flag cost code

Code refactoring.

Change-Id: Idad53cb80497d13551a142a642f7529fc305b0bc

Set the skip flag to 1 for skippable blocks

If the partition block is skippable, which means no coefficients
for Y, U, and V planes, its skip flag is set to 1. No quality
change (verified by borg tests), and no noticeable speed change.

Change-Id: I9231f720f8dd6364384cf05aa148ca24d75450f1

Merge "vp8/vp9: neon: msvc: move the 'ifdef _MSC_VER' bit to vpx_ports/mem.h.                      fix compiling warning."

Remove memset of every external frame buffer.

Libvpx was memseting every external frame buffer before decode. This
was to work around a valgrind issue in our C loop filter. Most of
the time this was not needed and we have noticed some significant
performance loss on some platforms. Now we require the application to
zero out the buffers if it is using external frame buffers.

Change-Id: I7330d00a315e65137ed30edd5f813e8929b76242

Merge "Fix format in vp9_rd_pick_inter_mode_sub8x8"

Add ARF validation for compound inter mode check

This commit enforces ARF validation check for compound inter modes.
It avoids potential access to ARF in the encoding process if it
is not allowed.

Change-Id: I055fec946b5d19d97937dc9001e1e564923e2439

Remove redundant reference frame check in sub8x8 RD search

The valid reference frame check in sub8x8 rate-distortion
optimization search has been included in the ref_frame_skip_mask
scheme. This commit removes the later further validation checks
that are not in effect.

Change-Id: I853b477c44037d3dc0afec6cbfce08a96c597a75

VP8 encoder for ARMv8 by using NEON intrinsics 1

Add vp8_mse16x16_neon.c
- vp8_mse16x16_neon
- vp8_get4x4sse_cs_neon

Change-Id: I108952f60a9ae50613f0ce3903c2c81df19d99d0
Signed-off-by: James Yu <james.yu@linaro.org>

Replace best_ref_index table fetch with best_mbmode

This commit replaces the best_ref_index table fetch with the use
of best_mbmode in vp9_rd_pick_inter_mode_sub8x8.

Change-Id: I882ee9ee6a8c0e61befcca1f4dba6d2ea8de8f13

Merge "Visual Studio build (warning) fix"

Fix format in vp9_rd_pick_inter_mode_sub8x8

Change-Id: I9b6a74bdf003b39235f14f8b5b7f3b861f6bf131

Merge "Refactor encode_superblock function"

Move call to vp9_rc_get_second_pass_params().

Call to vp9_rc_get_second_pass_params() moved from
Pass2Encode() to earlier in vp9_get_compressed_data(),
to ensure that two pass stats and parameters are
available before decisions such as frame scaling.

Change-Id: If21537f0073919b04696a7d5e9aac78e23d76f39

Visual Studio build (warning) fix

Explicit type casting to prevent warning.

Change-Id: Ib5be4ad6d4126d88f7c67d246bb085df1e813329

Merge "Remove redundant reference frame threshold settings"

vp8/vp9: neon: msvc: move the 'ifdef _MSC_VER' bit to vpx_ports/mem.h.
                     fix compiling warning.

Change-Id: If8706a9046436f704c597e4275a6810c76ba7daa

Merge "Refactor reference frame control in sub8x8 block RD search"

Merge "Format fixes in vp9_rd_pick_inter_mode_sb"

Merge "Remove unused best_inter_rd variable"

Merge "Remove unused speed feature"

Merge "Add a note for enum values of MV_REFERENCE_FRAME"

vp8: common: postproc: fix signed overflow of statement of (X +c) >= X when '-Werror=strict-overflow' is set.

Change-Id: I2f78417cc100973c732426f7b6bd10d7304a1a5f

Merge "Change the control function of VP9 denoiser."

Merge "Use bigdia search with pruned subpel search"

Change the control function of VP9 denoiser.

Change from VP8E_SET_NOISE_SENSITIVITY to VP9E_SET_NOISE_SENSITIVITY

Change-Id: Ia210a7029b26924e30973f0f9798a338e0412407

Merge "[spatial svc] Remove useless APIs and variables"

Merge "Remove unused vp8_strict_quantize"

Merge "Remove unused vp8 quantize functions"

Refactor encode_superblock function

The code covers both x->skip=0 & x->skip=1 cases.

Change-Id: I09745c10e5994dc700ae4c01b4b62979cdaf3306

Merge "Enabling example code build for both VP8 and VP9."

Remove unused vp8_strict_quantize

Change-Id: I4c35ed2de8b54751b69f4801454a1ccc35b500b0

Remove redundant reference frame threshold settings

When a reference frame type is not in the frame buffer, the mode
search threshold will be set to INT_MAX, so as to effectively
turn off the mode entries in the rate-distortion optimization loop
that involves this reference frame type. This operation is now
integrated in the ref_frame_skip_mask scheme. This commit hence
removes the redundant mode search threshold setting.

Change-Id: Ib18f45da611afda2af275201efd367df7f5101ab

Refactor reference frame control in sub8x8 block RD search

This commit unifies the reference frame control in the rate-
distortion optimization search loop of sub8x8 block size to remove
the control dependency on mode search order.

Change-Id: I3a174099f71a7cc176ede9fd60e2374243ae9232

[spatial svc] Remove useless APIs and variables

Change-Id: If8cd3879aa2a498a2b1b97cedb88b2b3bd97f0ba

Merge "[spatial svc] Output psnr for all layers in one packet."

Use bigdia search with pruned subpel search

Improves function to return sad of integer pels by reusing integer
pels already visited in the smallest scale.
Turns on BIGDIA search for speed 4. Also, turns on the
first version of the pruned subpel search at this speed.

derf: -0.32% (speed 4)

Speed seems to improve by at least 5% but subject to verification.

Change-Id: Iaec8eaffd61d6237ac029e6a2a1b0a88b2a35271

Merge "Unify intra mode mask into mode_skip_mask scheme"

Adds high bitdepth transform functions and tests

Adds various high bitdepth transform functions and tests.
Much of the changes are related to using typedefs tran_low_t
and tran_high_t for the final transform cofficients and intermediate
stages of the transform computation respectively rather than fixed
types int16_t/int. When vp9_highbitdepth configure flag is off,
these map tp int16_t/int32_t, but when the flag is on, they map
to int32_t/int64_t to make space for needed extra precision.

Change-Id: I3c56de79e15b904d6f655b62ffae170729befdd8

Adds high bit depth sad and variance functions

Moves high bit depth sad/var functions from highbitdepth
branch to master.

Change-Id: If03845d8ef9c9c494e13350e7a587c289306b94d

Format fixes in vp9_rd_pick_inter_mode_sb

Change-Id: Ie45687405dcaa34ba465dce2aa14f76017d3a794

[spatial svc] Output psnr for all layers in one packet.

Change-Id: I97d0cf095e9cfefdfa0f65eb5e96d6848cc9ffca

Remove unused best_inter_rd variable

The variable best_inter_rd is effectively not in use in the rate-
distortion mode search loops of both regular block sizes and sub8x8
block sizes.

Change-Id: I178f909f8c9629772e13adc6257908653b2adf31

Merge "Allow specifying opt dependencies"

Remove unused speed feature

The speed feature that skips compound inter prediction modes was
subsumed by other speed features and effectively was not in use.
This commit removes it.

Change-Id: I22b0c71a8ddd15d93b25d86fa63a1dce2ba6a1a9

Enabling example code build for both VP8 and VP9.

Change-Id: I1bf7e34e6735461e4e587b6b806c2abc3fe63013

Merge "vp9_picklpf: search_filter_level: remove filt_err"

Merge "[spatial svc] Remove handling frame and stats packets in the codec"

Allow specifying opt dependencies

If optimizations use more than one cpu feature, allow
specifying them so that '--disable-X' still works

https://code.google.com/p/webm/issues/detail?id=854

Change-Id: I3108ea37b397371a2be84dd5f2380b304db23f18

Merge "Adding lossless encoding example."

Merge "Remove inter_mode_mask from rate-distortion search loop"

vp9_picklpf: search_filter_level: remove filt_err

inspect ss_err[] directly, removes an unnecessary assignment

Change-Id: I14db5e8e567e7e541a57fce73389ffe7651d5614

[spatial svc] Remove handling frame and stats packets in the codec

1. svc_encodeframe.c will not handle frame or stats packets anymore.
   The app will process them.
2. Remove APIs that related to these packets.

Change-Id: Id0d7f8b458dc09c6f77064c0878fd4e572db001b

Adding lossless encoding example.

Change-Id: Ib8498c3127c397b453beff140503b2aca0d11cfc

Merge "Move intra block size skip outside mode search loop"

Merge "Fix format in vp9_rd_pick_inter_mode_sub8x8"

Merge "Move overlay frame speed feature setting out of mode search loop"

Merge "Refactor to remove speed feature dependency on mode search order"

Add a note for enum values of MV_REFERENCE_FRAME

Change-Id: Ifaf6738f26e86ded6eb6ea1465bad7a229612999

Unify intra mode mask into mode_skip_mask scheme

Integrate intra mode mask speed feature with the mode_skip_mask
scheme. Move it outside the mode search loop in the
vp9_rd_pick_inter_mode_sb function.

Change-Id: I7738fea749bfdc08ad05d7f2524feb8ff67568d9

Merge "[spatial svc]Add golden frame to first pass rate control"

Remove inter_mode_mask from rate-distortion search loop

This speed feature is used in real-time setting only. Remove the
related condition check in the rate-distortion optimization search
loop.

Change-Id: Iaacc1e268214634e6f95c5048c28a60cec6c42fc

Move intra block size skip outside mode search loop

Unify this speed feature in the ref_frame_skip_mask scheme.

Change-Id: I7ea5646da02d3ea643680c22d50dabd448d55a27

Fix format in vp9_rd_pick_inter_mode_sub8x8

Change-Id: I0da29c858c6c1eb5ef07cee8f599329f5a002da9

Move overlay frame speed feature setting out of mode search loop

Refactor overlay frame speed-up related function. Make it unified
with the ref_frame_skip_mask system and Move it out of the mode
search loop.

Change-Id: I0dde9baf44354f6ba00b4679cba02fa6a30c7316

Merge "Fix the bug which made VP8 denoiser not bit-exact between C code and SSE code."

[spatial svc]Add golden frame to first pass rate control

Change-Id: If3035f0e7dfcfe88c4bbf4eec66761e070476df0

Refactor to remove speed feature dependency on mode search order

This commit refactor the rate-distortion optimization search for
regular block sizes to remove the speed feature dependency on mode
search order.

Change-Id: Ied033ee484c2957e17baa7b6450b720fe7dd0e7d

Merge "vp9: wait for key/intra-only frame after corruption"

Fix the bug which made VP8 denoiser not bit-exact between C code and SSE code.

This issue is found when the denoising mode is set to kDenoiserOnYUVAggressive.
Updated the C code to make it the same with SSE version.

I also changed several lines in VP9 denoiser for the code style.

Change-Id: I640d48cf946fe8c6a400e6e252107501d1e226d3

Merge "Fix a bug in vp9_rd_pick_inter_mode_sb"

Merge "Remove redundant ref frame pointer assignment"