vpx_mem: Refactor code

Change-Id: I2da9cd5da48ae97e770bccfd1233bcc70b484688
(cherry picked from aom: 83c95f5 aom_mem: Refactor code)

vp8_decoder_create_threads: check sem/pthread returns

Change-Id: I353da4a2f988ca51d48d0ca91236e8cc0bb48ff5

vp8_create_decoder_instances: add missing setjmp

vp8_decoder_create_threads() has allocations that expect one is set.

Change-Id: I423f2153a2969c88d48ba45cc9ead4a01443ce65

vp8: fix decoder crash with invalid leading keyframes

decoding the same invalid keyframe twice would result in a crash as the
second time through the decoder would be assumed to have been
initialized as there was no resolution change. in this case the
resolution was itself invalid (0x6), but vp8_peek_si() was only failing
in the case of 0x0.
invalid-vp80-00-comprehensive-018.ivf.2kf_0x6.ivf tests this case by
duplicating the first keyframe and additionally adds a valid one to
ensure decoding can resume without error.

BUG=b/30593765

Change-Id: If0859035908b7870d67a7f3f646b5a080252eb6d

Merge "Disable split mode in 4k video encoding"

Disable split mode in 4k video encoding

Disabled the split mode while encoding 4k video to speed
up the encoder.

Borg test result on 4k set:
Overall PSNR: +0.029%; SSIM: +0.009%.
Average encoder speedup at speed 2 is 2.5%.

Change-Id: I1519c658f07c3ac838affbe5aff0ed9b94f3f8f4

Correct CHECK_MEM_ERROR macro

The previous macro doesn't work with &cpi->common as a first argument

Change-Id: Ic3f5c49a94cf8b17de6569811b957c963341bb58

Merge "Revert "vp8: Move loopfilter synchronization to end of encode_frame call.""

Revert "vp8: Move loopfilter synchronization to end of encode_frame call."

This reverts commit c2fe9acceda922ca1d9f0d6185b340560b93597a.

This change break linux browser test in chromium:
https://build.chromium.org/p/chromium.webrtc/builders/Linux%20Tester

Change-Id: I226782fad480c17a99ec6c785ad93cf4ab88f0ae

Merge "Adjust speed features for 4k video encoding"

Adjust speed features for 4k video encoding

Adjusted speed 2 features to speed up 4k video encoding.
BDBR results from borg test:
PSNR: +0.313%; SSIM: +0.268%.
Average speedup: 8.5%

Change-Id: I1e2695a01fb3f3817c1df4480e184c2aed8f2eba

vp9_pickmode: quiet float conversion warnings

Change-Id: I591e4f958955b3f2edb2f95a83c54cd83c8ef075

vp9_alloc_context_buffers: clear cm->mi* on failure

this fixes a crash in vp9_dec_setup_mi() via
vp9_init_context_buffers() should decoding continue and the decoder
resyncs on a smaller frame

BUG=b/30593752

Change-Id: I9ce8d94abe89bcd058697e8bd8599690e61bd380

Merge "vp9 svc: SVC encoder speed up."

Merge "Remove '-chromium' flag from ads2gas_apple.pl"

vp9 svc: SVC encoder speed up.

Bias towards base_mv and skip 1/4 pixel motion search when using base mv.
2~3% speed up for 2 spatial layers, 3~5% speed up for 3 spatial layers.
PSNR loss:
(2 layers) 0.07dB for gips_stationary, 0.04dB for gips_motion;
(3 layers) 0.07dB for gips_stationary, 0.06dB for gips_motion.

Change-Id: I773acbda080c301cabe8cd259f842bcc5b8bc999

Merge "vp9 non-rd pickmode: Add limit on newmv-last and golden bias."

Merge "vp8: Move loopfilter synchronization to end of encode_frame call."

vp9 non-rd pickmode: Add limit on newmv-last and golden bias.

Add option, for newmv-last, to limit the rd-threshold update for early exit,
under a source varianace condition.
This can improve visual quality in low texture moving areas,
like forehead/faces.

Also add bias against golden to improve the speed/fps,
will little/negligible loss in quality.

Only affects CBR mode, non-svc, non-screen-content.

Change-Id: I3a5229eee860c71499a6fd464c450b167b07534d

Remove '-chromium' flag from ads2gas_apple.pl

The flag was added because Apple clang and Chromium clang disagreed
for certain versions of instructions.

qsubaddx, qaddsubx, ldrneb and ldrneh were used in armv6 assembly
which was removed in d55724fae9cb27e070add7952394fc0427ef2061

vqshrun was used in some neon assembly but superseded by
dcbfacbb984cdcd5b5a5030103305fa3669dfece

.include was used for obj_int_extract/asm_offsets and removed in
6eec73a747f3d14d327cdc33279de96d0deb48c8

Change-Id: I32f4c9b536d0318482101c0b8e91e42b8f545f18

Add casting to fix warning.

Frame bits can safely be stored int but group bits
(kf or arf) use 64bit.

Change-Id: I0800f2a28070f8749110a95721c116fc56987885

Add {} to try and keep Jenkins happy.

Change-Id: If1ca3cf83e058317c9751d7da6caa7cd75eb6845

vp8: Move loopfilter synchronization to end of encode_frame call.

Change-Id: I5bdfea7f51df1f1fa5d9c1597e96988acce6c2f2

NEON asm of vpx_lpf_{horizontal,vertical}_8_dual_neon()

Also expose the NEON intrinsics version.

BUG=webm:1261, webm:1266.

Change-Id: I8c4ae658467dcf66ebf7a75982b2ef712dbb4535

Change default recode rule for good speed 0 and best.

Changes the default recode rule for Speed 0 and best quality
from ALLOW_RECODE to ALLOW_RECODE_KFARFGF.

Tested on the NF, hdres, midres and lowres test sets, this setting
when combined with patch I40cb559... now performs "as well" in
metrics terms (in fact it came out a tiny amount better overall)
but encode time is 9.6%  faster (measured as the average
from 27 mid rate local encodes on clips in the derf/lowres set.

Change-Id: I8c781c0cdfa3a9929cd9406d15582fce47d6ae3b

Change to recode rules.

Allow recodes for the first inter frame in each arf group
even when the recode rule is set to ALLOW_RECODE_KFARFGF.

Small gains of 0.05%.

Change-Id: I40cb559d36a2bf0ebf5cf758c3f92e452b480577

Merge "Modified ARF group allocation."

Merge "Fix another motion vector out of range bug"

Merge "variance_impl_avx2: restore table layout"

variance_impl_avx2: restore table layout

disable clang-format for bilinear_filters_avx2

restores the row layout prior to:
099bd7f vpx_dsp: apply clang-format
but keeps the justification used by clang-format

Change-Id: Icf1733a37edb807e74c26b23a93963c03bd08fd7

NEON intrinsics for 4 loopfilter functions

New NEON intrinsics functions:
vpx_lpf_horizontal_edge_8_neon()
vpx_lpf_horizontal_edge_16_neon()
vpx_lpf_vertical_16_neon()
vpx_lpf_vertical_16_dual_neon()

BUG=webm:1262, webm:1263, webm:1264, webm:1265.

Change-Id: I7a2aff2a358b22277429329adec606e08efbc8cb

Fix another motion vector out of range bug

This patch fixed a motion vector out of range bug:
vpxenc: ../libvpx/vp9/encoder/vp9_mcomp.c:69:
 mv_cost: Assertion `mv->col >= -((1 << (11 + 1 + 2)) - 1) &&
 mv->col < ((1 << (11 + 1 + 2)) - 1)' failed.

For blocks that returned without having full-pixel search, the original
MV limits were not restored, which caused the failure. Moved the set
MV limit function down to fix the bug.

Change-Id: Id7d798fc7214e95c6e4846c588f0233fcf1a4223

vp8: Fix denoiser setting in multi-res sample encoder.

Change-Id: I9222f3b252e5ed883659f1a14cd705944ee9da07

Modified ARF group allocation.

Small average gains in the range 0.05 - 0.1

Change-Id: I30e85c04be615cc84726427c5057388b20a6ff60

Align thread entry point stack

_beginthreadex does not align the stack on 16-byte boundary as expected
by gcc.

On x86 targets, the force_align_arg_pointer attribute may be applied to
individual function definitions, generating an alternate prologue and
epilogue that realigns the run-time stack if necessary. This supports
mixing legacy codes that run with a 4-byte aligned stack with modern
codes that keep a 16-byte stack for SSE compatibility.
https://gcc.gnu.org/onlinedocs/gcc/x86-Function-Attributes.html

Change-Id: Ie4e4ab32948c238fa87054d5664189972ca6708e
Signed-off-by: Aleksey Vasenev <margtu-fivt@ya.ru>

Merge changes I1d3edbdb,I8b49fd05

* changes:
  tests: use scoped_ptr for local video source vars
  y4m_test: init members in the constructor

Merge "Refactor mv limits."

tests: use scoped_ptr for local video source vars

prevents leak warnings on ASSERT*() failures

Change-Id: I1d3edbdbb18dbbe3b17691971348a8121cf09afa

Merge "Add cpi parameter for forcing segmentation update"

y4m_test: init members in the constructor

prevents use of an uninitialized value in the deconstructor should the
test fail before tmpfile_ is set.

Change-Id: I8b49fd05f0d05e055fdf653bd46983d30f466a68

Add cpi parameter for forcing segmentation update

Change-Id: I1b0bcb1ffe7604117bfaa0b9989d0e25ff04d28c

Merge changes from topic 'clang-tidy'

* changes:
  *_perf_test.cc: correct DoDecode signature
  test: apply clang-tidy google-readability-braces-around-statements

Refactor mv limits.

Change-Id: Ifebdc9ef37850508eb4b8e572fd0f6026ab04987

Merge "Fix a motion vector out of range bug"

*_perf_test.cc: correct DoDecode signature

+ delete unused kMaxPsnr from decode_perf_test.cc

Change-Id: Id93347631e7870491069a8b7c5bb1f6b2828425f

test: apply clang-tidy google-readability-braces-around-statements

applied against a x86_64 configure with and without
--enable-vp9-highbitdepth

clang-tidy-3.7.1 \
  -checks='-*,google-readability-braces-around-statements' \
  -header-filter='.*' -fix
+ clang-format afterward

Change-Id: Ia2993ec64cf1eb3505d3bfb39068d9e44cfbce8d

Remove duplicates in Loop8Test6Param and Loop8Test9Param

Extract the duplicated data generation code in OperationCheck() of
Loop8Test6Param and Loop8Test9Param, and put in function InitInput().

Change-Id: Ied39ba4ee86b50501cc5d10ebf54f5333c4708f0

Merge "remove tools/vpx-style.sh"

Merge changes Ice037acb,I806af11b,I344a7dd0,Ib7cb87fa

* changes:
  vp9: normalize vpx_enc_frame_flags_t usage
  args.c: add some explicit casts
  webmdec: quiet -Wshorten-64-to-32 warning
  test/decode_test_driver: rm unused deadline member

Fix a bug in test/lpf_8_test.cc

This bug is introduced in 36608af524bb65e39177f229301111f669bf0d20,
where buffer tmp_s is not fully initialized.

Change-Id: I125b966cf054a82bc63c72647cdd463f434eda17

Fix a motion vector out of range bug

This patch fixed a motion vector(MV) out of range bug, which was caused
by not restoring the original values of the MV min/max thresholds after
the sub8x8 full pixel motion search. It occurred rarely and only was seen
while encoding a 4k clip for 200 frames.

BUG=webm:1271

Change-Id: Ibc4e0de80846f297431923cef8a0c80fe8dcc6a5

vp9: normalize vpx_enc_frame_flags_t usage

quiets -Wshorten-64-to-32 warnings

Change-Id: Ice037acb675d1d81bfedf2dfcfa91a8a29a19dfd

args.c: add some explicit casts

values are range checked before returning; quiets -Wshorten-64-to-32
warnings

Change-Id: I806af11b2aaf6760c7ab234a2fe2fdf40e7bece7

webmdec: quiet -Wshorten-64-to-32 warning

track->GetNumber() will fit in an int in well-behaved files

Change-Id: I344a7dd05d04daf3df2d67358ea69f8014a03a5b

test/decode_test_driver: rm unused deadline member

has the side-effect of removing some lint and -Wshorten-64-to-32
warnings

Change-Id: Ib7cb87fa65cd65534096921f243d15288e97256d

remove tools/vpx-style.sh

update ftfy.sh to use clang-format

Change-Id: I8ac740c5b3842beed2b8878fbe506f381f4c57e4

Merge changes I6ef79702,Id332c641,I354b5d22,I84438013

* changes:
  Use common transpose for vpx_idct32x32_1024_add_neon
  Use common transpose for vpx_idct8x8_[12|64]_add_neon
  Use common transpose for vp9_iht8x8_add_neon
  Use common transpose for vpx_idct16x16_[10|256]_add_neon

Merge "Remove armv6 target"

Merge "correct break placement"

Use common transpose for vpx_idct32x32_1024_add_neon

Change-Id: I6ef7970206d588761ebe80005aecd35365ec50ff

Use common transpose for vpx_idct8x8_[12|64]_add_neon

Change-Id: Id332c641f05336ef9a45e17493ff149fd0a168f0

Use common transpose for vp9_iht8x8_add_neon

Change-Id: I354b5d22130d76b0eceda0748db1f871f58fa372

Use common transpose for vpx_idct16x16_[10|256]_add_neon

Change-Id: I84438013f483e82084d33ba9a63c33273d35fcaa

Merge "Extract neon transpose for re-use"

Merge "vp9_ratectrl.c: apply clang-format"

correct break placement

these should be placed within {}s when present

Change-Id: Ia775fac5373603e77360398f19b07958fb43f476

Merge "Don't expand to Q register for 4x4 intrapred"

Remove armv6 target

Change-Id: I1fa81cc9cabf362a185fc3a53f1e58de533a41e5

Merge "Pad 'Left' when building under ASan"

Merge "Update Loop8Test{6,9}Param to test filter8() in mb_lpf_vertical_edge_w()"

Extract neon transpose for re-use

Change-Id: I5e1c7f4c80d1c6f7fd582ac468c6eaaa3603a06c

Merge changes from topic 'clang-format'

* changes:
  README: add a note about clang-format
  README: update target list
  README: fix typo

vp9_ratectrl.c: apply clang-format

after:
ff0a87c vp9 1pass vbr: Adjustment to gf interval.

Change-Id: I1296e53e601bf0c2b562e3a34082ac45c294a5f1

Don't expand to Q register for 4x4 intrapred

The code was expanding to Q registers so that vqrshn could be used, for
vector quad round shift and narrow. If 4 values are added together,
there is a shift by 2. If 8 values, a shift by 3. Since this accounts
for any possibility of overflow, we can skip the narrowing shift.

This allows keeping the values in D registers and casting the 16 bit
value to 8 bits.

Change-Id: I8d9cfa07176271f492c116ffa6a7b351af0b8751

Update Loop8Test{6,9}Param to test filter8() in mb_lpf_vertical_edge_w()

One branch of filter8() in mb_lpf_vertical_edge_w() was not tested.

Change-Id: I194202d771d9acd6b4e5e600ee2bae89986b49f3

Merge "vp9 1pass vbr: Adjustment to gf interval."

Fix msvc compiler warnings

MSVC 2013 complained about using 32 shift where 64 bit shift should be
used.

Change-Id: I7a2b165d1a92d3c0a91dd4511b27aba7709b5e55

Merge "Resolve -Wshorten-64-to-32 warnings in prob.h."

README: add a note about clang-format

Change-Id: I835401e3befffcbc68e7d2bdd2fd556a19948e91

README: update target list

Change-Id: I80293720a5f12bc2449ceaadbb2ad0f924141552

README: fix typo

Change-Id: I2c3ecc62b1fd1e600b3d70b623c8b11e1e8e4d13

Merge "test: apply clang-format"

Merge "vp9/decoder,vp9/*.[hc]: apply clang-format"

Pad 'Left' when building under ASan

The neon intrinsics are not able to load just the 4 values that are
used. In vpx_dsp/arm/intrapred_neon.c:dc_4x4 it loads 8 values for both
the 'above' and 'left' computations, but only uses the sum of the first
4 values.

BUG=webm:1268

Change-Id: I937113d7e3a21e25bebde3593de0446bf6b0115a

vp9 1pass vbr: Adjustment to gf interval.

Increase the minimum distance.
Reduces the overshoot somewhat on some clips,
small gain in avgPSNR (~0.1%) on ytlive set.

Change-Id: Id5ddde20c2907dbdb536e79542eff775019c142b

vp9/decoder,vp9/*.[hc]: apply clang-format

Change-Id: Ic38ea06c7b2fb3e8e94a4c0910e82672a1acaea7

Merge "vp9 svc: Fix a valgrind error."

vp9/common: apply clang-format

Change-Id: Ie0f150fdcfcbf7c4db52d3a08bc8238ed1c72e3b

vp9/encoder: apply clang-format

Change-Id: I45d9fb4013f50766b24363a86365e8063e8954c2

vp9 svc: Fix a valgrind error.

This error was introduced by the patch:
8ce67d7 vp9 svc: Enable different speed setting for each spatial layer.
To use svc, svc_param should be cleared to 0 at the beginning.

Change-Id: I222f03ddae8a50e84b4690b78263abb742fae91e

Resolve -Wshorten-64-to-32 warnings in prob.h.

Change-Id: I1244ee908d81467f0fc8a8fce979fc8077a325b4

Merge "Resolve -Wshorten-64-to-32 in variance."

change HBD pixel value from uint8_t to uint16_t

This fixes a regression in 10/12 bit encoding results.

Change-Id: I438877352a41aae0a864a8d9979afe4aa2061d81

Add pointer conversion for HBD buffers

This fixes a crash in HBD build.

Change-Id: I7f688f50227323e69bba65df0d56f4360f01771b

Merge "Unfork 8-bit in HBD path in vp9_model_rd_from_var_lapndz callers."

Merge "Cache optimizations in optimize_b()."

Cache optimizations in optimize_b().

Move best index into the token state. Shrink it down to one byte. This
is more cache friendly (access are group together) and uses less total
memory.

Results in 4% fewer cycles in optimize_b().

Change-Id: I75db484fb3dc82f59928d54b659d79c80ee40452

Merge "replace by VSTM/VLDM to reduce one of VST1/VLD1"

replace by VSTM/VLDM to reduce one of VST1/VLD1

Change-Id: I596567570580babb1a52925541d1fd1045c352f5

vp8: Switch skin model to mode 0 to save some cycle.

This change will speed up vp8 encoder by 1.5% ~ 2% on linux. No
much speed change on Mac.

Change-Id: Id957f19ddd89805baa2af84c5027d52d9a48553f