Add casting to fix warning.

Frame bits can safely be stored int but group bits
(kf or arf) use 64bit.

Change-Id: I0800f2a28070f8749110a95721c116fc56987885

Add {} to try and keep Jenkins happy.

Change-Id: If1ca3cf83e058317c9751d7da6caa7cd75eb6845

NEON asm of vpx_lpf_{horizontal,vertical}_8_dual_neon()

Also expose the NEON intrinsics version.

BUG=webm:1261, webm:1266.

Change-Id: I8c4ae658467dcf66ebf7a75982b2ef712dbb4535

Change default recode rule for good speed 0 and best.

Changes the default recode rule for Speed 0 and best quality
from ALLOW_RECODE to ALLOW_RECODE_KFARFGF.

Tested on the NF, hdres, midres and lowres test sets, this setting
when combined with patch I40cb559... now performs "as well" in
metrics terms (in fact it came out a tiny amount better overall)
but encode time is 9.6%  faster (measured as the average
from 27 mid rate local encodes on clips in the derf/lowres set.

Change-Id: I8c781c0cdfa3a9929cd9406d15582fce47d6ae3b

Change to recode rules.

Allow recodes for the first inter frame in each arf group
even when the recode rule is set to ALLOW_RECODE_KFARFGF.

Small gains of 0.05%.

Change-Id: I40cb559d36a2bf0ebf5cf758c3f92e452b480577

Merge "Modified ARF group allocation."

Merge "Fix another motion vector out of range bug"

Merge "variance_impl_avx2: restore table layout"

variance_impl_avx2: restore table layout

disable clang-format for bilinear_filters_avx2

restores the row layout prior to:
099bd7f vpx_dsp: apply clang-format
but keeps the justification used by clang-format

Change-Id: Icf1733a37edb807e74c26b23a93963c03bd08fd7

NEON intrinsics for 4 loopfilter functions

New NEON intrinsics functions:
vpx_lpf_horizontal_edge_8_neon()
vpx_lpf_horizontal_edge_16_neon()
vpx_lpf_vertical_16_neon()
vpx_lpf_vertical_16_dual_neon()

BUG=webm:1262, webm:1263, webm:1264, webm:1265.

Change-Id: I7a2aff2a358b22277429329adec606e08efbc8cb

Fix another motion vector out of range bug

This patch fixed a motion vector out of range bug:
vpxenc: ../libvpx/vp9/encoder/vp9_mcomp.c:69:
 mv_cost: Assertion `mv->col >= -((1 << (11 + 1 + 2)) - 1) &&
 mv->col < ((1 << (11 + 1 + 2)) - 1)' failed.

For blocks that returned without having full-pixel search, the original
MV limits were not restored, which caused the failure. Moved the set
MV limit function down to fix the bug.

Change-Id: Id7d798fc7214e95c6e4846c588f0233fcf1a4223

vp8: Fix denoiser setting in multi-res sample encoder.

Change-Id: I9222f3b252e5ed883659f1a14cd705944ee9da07

Modified ARF group allocation.

Small average gains in the range 0.05 - 0.1

Change-Id: I30e85c04be615cc84726427c5057388b20a6ff60

Align thread entry point stack

_beginthreadex does not align the stack on 16-byte boundary as expected
by gcc.

On x86 targets, the force_align_arg_pointer attribute may be applied to
individual function definitions, generating an alternate prologue and
epilogue that realigns the run-time stack if necessary. This supports
mixing legacy codes that run with a 4-byte aligned stack with modern
codes that keep a 16-byte stack for SSE compatibility.
https://gcc.gnu.org/onlinedocs/gcc/x86-Function-Attributes.html

Change-Id: Ie4e4ab32948c238fa87054d5664189972ca6708e
Signed-off-by: Aleksey Vasenev <margtu-fivt@ya.ru>

Merge changes I1d3edbdb,I8b49fd05

* changes:
  tests: use scoped_ptr for local video source vars
  y4m_test: init members in the constructor

Merge "Refactor mv limits."

tests: use scoped_ptr for local video source vars

prevents leak warnings on ASSERT*() failures

Change-Id: I1d3edbdbb18dbbe3b17691971348a8121cf09afa

Merge "Add cpi parameter for forcing segmentation update"

y4m_test: init members in the constructor

prevents use of an uninitialized value in the deconstructor should the
test fail before tmpfile_ is set.

Change-Id: I8b49fd05f0d05e055fdf653bd46983d30f466a68

Add cpi parameter for forcing segmentation update

Change-Id: I1b0bcb1ffe7604117bfaa0b9989d0e25ff04d28c

Merge changes from topic 'clang-tidy'

* changes:
  *_perf_test.cc: correct DoDecode signature
  test: apply clang-tidy google-readability-braces-around-statements

Refactor mv limits.

Change-Id: Ifebdc9ef37850508eb4b8e572fd0f6026ab04987

Merge "Fix a motion vector out of range bug"

*_perf_test.cc: correct DoDecode signature

+ delete unused kMaxPsnr from decode_perf_test.cc

Change-Id: Id93347631e7870491069a8b7c5bb1f6b2828425f

test: apply clang-tidy google-readability-braces-around-statements

applied against a x86_64 configure with and without
--enable-vp9-highbitdepth

clang-tidy-3.7.1 \
  -checks='-*,google-readability-braces-around-statements' \
  -header-filter='.*' -fix
+ clang-format afterward

Change-Id: Ia2993ec64cf1eb3505d3bfb39068d9e44cfbce8d

Remove duplicates in Loop8Test6Param and Loop8Test9Param

Extract the duplicated data generation code in OperationCheck() of
Loop8Test6Param and Loop8Test9Param, and put in function InitInput().

Change-Id: Ied39ba4ee86b50501cc5d10ebf54f5333c4708f0

Merge "remove tools/vpx-style.sh"

Merge changes Ice037acb,I806af11b,I344a7dd0,Ib7cb87fa

* changes:
  vp9: normalize vpx_enc_frame_flags_t usage
  args.c: add some explicit casts
  webmdec: quiet -Wshorten-64-to-32 warning
  test/decode_test_driver: rm unused deadline member

Fix a bug in test/lpf_8_test.cc

This bug is introduced in 36608af524bb65e39177f229301111f669bf0d20,
where buffer tmp_s is not fully initialized.

Change-Id: I125b966cf054a82bc63c72647cdd463f434eda17

Fix a motion vector out of range bug

This patch fixed a motion vector(MV) out of range bug, which was caused
by not restoring the original values of the MV min/max thresholds after
the sub8x8 full pixel motion search. It occurred rarely and only was seen
while encoding a 4k clip for 200 frames.

BUG=webm:1271

Change-Id: Ibc4e0de80846f297431923cef8a0c80fe8dcc6a5

vp9: normalize vpx_enc_frame_flags_t usage

quiets -Wshorten-64-to-32 warnings

Change-Id: Ice037acb675d1d81bfedf2dfcfa91a8a29a19dfd

args.c: add some explicit casts

values are range checked before returning; quiets -Wshorten-64-to-32
warnings

Change-Id: I806af11b2aaf6760c7ab234a2fe2fdf40e7bece7

webmdec: quiet -Wshorten-64-to-32 warning

track->GetNumber() will fit in an int in well-behaved files

Change-Id: I344a7dd05d04daf3df2d67358ea69f8014a03a5b

test/decode_test_driver: rm unused deadline member

has the side-effect of removing some lint and -Wshorten-64-to-32
warnings

Change-Id: Ib7cb87fa65cd65534096921f243d15288e97256d

remove tools/vpx-style.sh

update ftfy.sh to use clang-format

Change-Id: I8ac740c5b3842beed2b8878fbe506f381f4c57e4

Merge changes I6ef79702,Id332c641,I354b5d22,I84438013

* changes:
  Use common transpose for vpx_idct32x32_1024_add_neon
  Use common transpose for vpx_idct8x8_[12|64]_add_neon
  Use common transpose for vp9_iht8x8_add_neon
  Use common transpose for vpx_idct16x16_[10|256]_add_neon

Merge "Remove armv6 target"

Merge "correct break placement"

Use common transpose for vpx_idct32x32_1024_add_neon

Change-Id: I6ef7970206d588761ebe80005aecd35365ec50ff

Use common transpose for vpx_idct8x8_[12|64]_add_neon

Change-Id: Id332c641f05336ef9a45e17493ff149fd0a168f0

Use common transpose for vp9_iht8x8_add_neon

Change-Id: I354b5d22130d76b0eceda0748db1f871f58fa372

Use common transpose for vpx_idct16x16_[10|256]_add_neon

Change-Id: I84438013f483e82084d33ba9a63c33273d35fcaa

Merge "Extract neon transpose for re-use"

Merge "vp9_ratectrl.c: apply clang-format"

correct break placement

these should be placed within {}s when present

Change-Id: Ia775fac5373603e77360398f19b07958fb43f476

Merge "Don't expand to Q register for 4x4 intrapred"

Remove armv6 target

Change-Id: I1fa81cc9cabf362a185fc3a53f1e58de533a41e5

Merge "Pad 'Left' when building under ASan"

Merge "Update Loop8Test{6,9}Param to test filter8() in mb_lpf_vertical_edge_w()"

Extract neon transpose for re-use

Change-Id: I5e1c7f4c80d1c6f7fd582ac468c6eaaa3603a06c

Merge changes from topic 'clang-format'

* changes:
  README: add a note about clang-format
  README: update target list
  README: fix typo

vp9_ratectrl.c: apply clang-format

after:
ff0a87c vp9 1pass vbr: Adjustment to gf interval.

Change-Id: I1296e53e601bf0c2b562e3a34082ac45c294a5f1

Don't expand to Q register for 4x4 intrapred

The code was expanding to Q registers so that vqrshn could be used, for
vector quad round shift and narrow. If 4 values are added together,
there is a shift by 2. If 8 values, a shift by 3. Since this accounts
for any possibility of overflow, we can skip the narrowing shift.

This allows keeping the values in D registers and casting the 16 bit
value to 8 bits.

Change-Id: I8d9cfa07176271f492c116ffa6a7b351af0b8751

Update Loop8Test{6,9}Param to test filter8() in mb_lpf_vertical_edge_w()

One branch of filter8() in mb_lpf_vertical_edge_w() was not tested.

Change-Id: I194202d771d9acd6b4e5e600ee2bae89986b49f3

Merge "vp9 1pass vbr: Adjustment to gf interval."

Fix msvc compiler warnings

MSVC 2013 complained about using 32 shift where 64 bit shift should be
used.

Change-Id: I7a2b165d1a92d3c0a91dd4511b27aba7709b5e55

Merge "Resolve -Wshorten-64-to-32 warnings in prob.h."

README: add a note about clang-format

Change-Id: I835401e3befffcbc68e7d2bdd2fd556a19948e91

README: update target list

Change-Id: I80293720a5f12bc2449ceaadbb2ad0f924141552

README: fix typo

Change-Id: I2c3ecc62b1fd1e600b3d70b623c8b11e1e8e4d13

Merge "test: apply clang-format"

Merge "vp9/decoder,vp9/*.[hc]: apply clang-format"

Pad 'Left' when building under ASan

The neon intrinsics are not able to load just the 4 values that are
used. In vpx_dsp/arm/intrapred_neon.c:dc_4x4 it loads 8 values for both
the 'above' and 'left' computations, but only uses the sum of the first
4 values.

BUG=webm:1268

Change-Id: I937113d7e3a21e25bebde3593de0446bf6b0115a

vp9 1pass vbr: Adjustment to gf interval.

Increase the minimum distance.
Reduces the overshoot somewhat on some clips,
small gain in avgPSNR (~0.1%) on ytlive set.

Change-Id: Id5ddde20c2907dbdb536e79542eff775019c142b

vp9/decoder,vp9/*.[hc]: apply clang-format

Change-Id: Ic38ea06c7b2fb3e8e94a4c0910e82672a1acaea7

Merge "vp9 svc: Fix a valgrind error."

vp9/common: apply clang-format

Change-Id: Ie0f150fdcfcbf7c4db52d3a08bc8238ed1c72e3b

vp9/encoder: apply clang-format

Change-Id: I45d9fb4013f50766b24363a86365e8063e8954c2

vp9 svc: Fix a valgrind error.

This error was introduced by the patch:
8ce67d7 vp9 svc: Enable different speed setting for each spatial layer.
To use svc, svc_param should be cleared to 0 at the beginning.

Change-Id: I222f03ddae8a50e84b4690b78263abb742fae91e

Resolve -Wshorten-64-to-32 warnings in prob.h.

Change-Id: I1244ee908d81467f0fc8a8fce979fc8077a325b4

Merge "Resolve -Wshorten-64-to-32 in variance."

change HBD pixel value from uint8_t to uint16_t

This fixes a regression in 10/12 bit encoding results.

Change-Id: I438877352a41aae0a864a8d9979afe4aa2061d81

Add pointer conversion for HBD buffers

This fixes a crash in HBD build.

Change-Id: I7f688f50227323e69bba65df0d56f4360f01771b

Merge "Unfork 8-bit in HBD path in vp9_model_rd_from_var_lapndz callers."

Merge "Cache optimizations in optimize_b()."

Cache optimizations in optimize_b().

Move best index into the token state. Shrink it down to one byte. This
is more cache friendly (access are group together) and uses less total
memory.

Results in 4% fewer cycles in optimize_b().

Change-Id: I75db484fb3dc82f59928d54b659d79c80ee40452

Merge "replace by VSTM/VLDM to reduce one of VST1/VLD1"

replace by VSTM/VLDM to reduce one of VST1/VLD1

Change-Id: I596567570580babb1a52925541d1fd1045c352f5

vp8: Switch skin model to mode 0 to save some cycle.

This change will speed up vp8 encoder by 1.5% ~ 2% on linux. No
much speed change on Mac.

Change-Id: Id957f19ddd89805baa2af84c5027d52d9a48553f

Merge "vp9 svc: Enable different speed setting for each spatial layer."

Resolve -Wshorten-64-to-32 in variance.

The subtrahend is small enough to fit into uint32_t.

Change-Id: Ic4d7128aaa665eaf6b25d562610ba8942c46137f

Merge "Fix 64 to 32 narrowing warning."

vpx_dsp/x86/quantize_sse2.c: apply clang-format

post:
e429080 .clang-format: disable DerivePointerAlignment

Change-Id: I21a0546668edb2b09660e216d4875a1d2ad24d53

Merge "vp9 denoiser: Derefencing pointer should be after null check."

Fix 64 to 32 narrowing warning.

- Solves potential integer overflow on 12-bit
- Fixes Visual Studio build

Change-Id: I26dd660451bbab23040e4123920d59e82585795c

Merge "vpx_scale: apply clang-format"

test: apply clang-format

Change-Id: I0d9ab85855eb723f653a7bb09b3d0d31dd6cfd2f

vp9 denoiser: Derefencing pointer should be after null check.

BUG=webm:1267

Change-Id: I899fc9e8d784c6eefcbe27945c619845adb7b6f0

.clang-format: disable DerivePointerAlignment

everything outside of third_party should follow 'PointerAlignment:
right' i.e., associate the '*' with the variable

+ add a note about the clang-format that generated this file

Change-Id: I13e3f4f5fb6e22a8fa7fc3d06879c995b7c41a39

vpx_scale: apply clang-format

Change-Id: Ia07ba57756f75911d3d06318e1f9b1982e1ca8c5

Merge "vpx_ports: apply clang-format"

Unfork 8-bit in HBD path in vp9_model_rd_from_var_lapndz callers.

BUG=b/29583530

Change-Id: Ia88a75f9572e08f228559ab84b8a77efb5aff0af

Merge "vpx_mem: apply clang-format"

Merge "vpx_util: apply clang-format"

Merge "Only consider visible 4x4s in pixel domain error."

Merge "register_state_check: simplify Check() methods"

vpx_util: apply clang-format

Change-Id: Ie7eab608e2906b9a2b3533db95292ebc430ad377

register_state_check: simplify Check() methods

- make Check() void as the EXPECT's are sufficient to document failure

cumulatively this has the effect of avoiding reporting incorrect Check()
failures due to earlier test failures.

Change-Id: I2cf775449f18c90c1506b8eadd7067adbc3ea046

vp9 svc: Enable different speed setting for each spatial layer.

This change only affects 1 pass cbr svc mode.

Change-Id: If0da87bb200f7e7762755340c40c8157cc7a16ca

Only consider visible 4x4s in pixel domain error.

BDRATE change
derf144: -0.327
lowres: -0.048
midres: -0.125
hdres: -0.238

Change-Id: I789aba9870b5c2952373a7dd4fc8ed45590c3c54