Merge "vp9: Improvement to skin detection."

vp8-denoiser: Update on the sum_diff threshold.

Change-Id: I0d459c7ba358da287aff1c706279603d6d4d3c48

Merge "altref_test: mark AltRefForcedKeyTest as large"

altref_test: mark AltRefForcedKeyTest as large

Change-Id: I2bbd7cd2f3b22d3dbfd40d9af430a5d276cd1855

vp9: Improvement to skin detection.

Add consec_zeromv to skin detection.
Reduces false detection in steady background areas.

Change-Id: Ic31c831537d29f082f58477f82ed78f313d7dd30

vp9: Fix the threshold for gf update in cyclic refresh.

Fix the threshold for forcing refresh of golden frame based
on high motion. The current comparison was incorrect and
prevented this (force update of gf on high motion) from being used.
For now keep this logic under a flag (and off for now) so as to
not change behavior, until further testing.

Change-Id: Ib5f0082159a428b0603b9534e4bcb6f83e4ccb25

Merge "Use whole pixel only at speed 8 screen content."

Merge "Reuse computation in build_nmv_component_cost_table."

Merge "Fix using screen content tuning in all the cpu speed tests."

Merge "vp9-svc: Bugfix on usage of svc_force_zeromv in non-rd pickmode."

Fix using screen content tuning in all the cpu speed tests.

Change-Id: Ie302283a52c563be0f1a84650f5f29be30d2bbe4

Reuse computation in build_nmv_component_cost_table.

Saves 1% CPU on remoting_perftest with speed 8.

Change-Id: I28dc2f602bd3bf5639a40c9f21f5a9833f01d4be

choose_partitioning: Avoid computing segment_id twice.

1% faster remoting_perftest at speed -8.

Change-Id: I78d591e14b8f890c1e69cacb6d490dfeb9c37900

vp9-svc: Bugfix on usage of svc_force_zeromv in non-rd pickmode.

Only affects 1 pass cbr svc mode.

Change-Id: Ifc0948b4aabffa64a9701295d8dbc58a7208a30f

Use whole pixel only at speed 8 screen content.

+5.857% BD-RATE on SCREEN_CONTENT

Leaving this off for non-screen content because:
+25.300% on TWITCH120
+37.833% BD-RATE on RTC

Change-Id: Ie0a312182d6cc859fb04298e4cd81d02b39e23fe

Add tests for VP9E_CONTENT_SCREEN.

Change-Id: Id28007576205b7f46957b20eeacb5fda6872663e

Isolate HBD stats bug change.

Change-Id: Ief453daf5f13f42803cb5122fcdd294e65e613f5

Merge "Revert "Fix bug in stats output for HBD.""

Revert "Fix bug in stats output for HBD."

This reverts commit c7780075ec0e87f74a1a5706dec914aad8dc9200.

Change-Id: I2d2e1b387bf0c70cc7238ee4f8edab2aad873489

vp9: Fix to scene cut/content change detection.

Use proper conditon on resolution check.

Change-Id: Idf563eb4391f373baf79546414a075b6516a5d35

Fix typos in unit tests

Change-Id: I18996f5c67cd182263930a1363d619402b8f8c14

vp9: Scene cut/content change detection: Adjust gf update.

For 1 pass vbr mode: Increase the period of gf update on scene
cut (keep it same as orginal/default setting for now).

Change-Id: I679c3bd21152f6c4e486c8098d931c00e1d26b5f

vp9: Scene cut/slide change detection: Increse min_thresh.

Only affects vbr mode.

Change-Id: I15e24c50343bc9171c734dfc7685491c7dbb8654

Merge "vp9: Fix issue in scene/content change detection."

vp9: Switch to model=1 for skin detection.

Very small change in speed (within 0.5%),
somewhat better detection over RTC clips.

Change-Id: I5bf0a7438fa7ccb60b26887125099e3238e5f298

vp9: Fix issue in scene/content change detection.

The change https://chromium-review.googlesource.com/#/c/329181/
also changed behavior for cbr mode, which causes some regression
in screenshare test in webrtc.

Resetting the specific change to leave the cbr behavior
unchanged for now.

Change-Id: I52df158806422f86398e1d2f522e92067d8325eb

vp9 non-rd pickmode. Some adjustments for vbr mode.

Some adjustments to inter-mode selection for vbr mode.
Condition some of the bias to low/zero motion on cbr mode, and
don't use int_pro_motion_estimation for golden ref
(treat it same as last ref).

Change only affect 1 pass vbr mode, speed >=5 (non-rd pickmode).

Encoding time increase within ~5%.
Avg PSNR/SSIM on RTC set increase by ~2%, all clips up,
ranging from 0.5 to 4%.

Change-Id: I0048d0104a8816773d91a2b1484d601169d9bad7

vp9: Update to skin detection.

For model=1, use higher threshold on luminance, conditioned
on the skin cluster distance.

Change-Id: I971bccdef7b92b2aeef60af90a8e48b98716a89b

vp9-svc: Fix to frame dropping in svc mode.

Don't advance the svc frame counters on dropped frame,
since this can break the referencing scheme and lead
to a crash/assert.

Updated svc-datarate unittest to add a lower bitrate test.

Change only affects 1 pass cbr svc, with frame dropper enabled.

Change-Id: Ibb7530b7a587a9344d46898d9286fd9e2ef0779c

Merge "vp9-svc: Change default spatial bitrate allocation."

Merge "vp9_svc_layercontext(): fix proto mismatch"

Merge "vp9-svc unitests: Add more tests for key frame periods."

vp9-svc: Change default spatial bitrate allocation.

Only affects 1 pass cbr svc.

Change-Id: I8387219e35e516d9ce890557ee1855f2af8f636a

Merge "VPX: loopfilter_mmx.asm using x86inc 2"

vp9_svc_layercontext(): fix proto mismatch

Change-Id: I8a76d150a61662fc2e3158a49ce4e642f917029a

vp9-svc unitests: Add more tests for key frame periods.

Change-Id: Iea237760b508d87dab057dd824e26d2e66fa8433

VPX: loopfilter_mmx.asm using x86inc 2

This reverts commit 9aa083d164e0d39086aa0c83f0d1a0d0f0d1ba61.

Fixes a decoder mismatch with 32bit PIC builds.

Change-Id: I94717df662834810302fe3594b38c53084a4e284

vp9-resize tests: Update to real-time resize unittests.

Add check for mismatch in unittests.

Change-Id: Ia5d5b5f6af4b7eb653302b81fdd9a53df4aba033

Merge "vp9-svc: Fix to resetting pattern/flags on key frame."

vp9-svc: Fix to resetting pattern/flags on key frame.

Chane only affects 1 pass cbr svc mode.

Change-Id: Ie28557409eb87673ed0b66c6dfe1bf3509a18c4d

Merge "define GET_GOT_DEFINED if not previously defined"

define GET_GOT_DEFINED if not previously defined

Change-Id: Id9c764a5b0e4b668a6e804cceb78988138ad910f

vp9-svc: Non-rd pickmode, fix condition for testing zeromv for spatial ref.

Change-Id: I75bad321d5814a6df6735a8ead7700ab93b50763

Revert "VPX: loopfilter_mmx.asm using x86inc"

This reverts commit 15ecdc3970462c15fdf7185d373cb52664f40c0f.

breaks 32-bit pic builds

Change-Id: I8bb1b9471a293f05ac7423aaba0339d408931b7a

Merge "Fix bug in stats output for HBD."

Fix bug in stats output for HBD.

Change-Id: Ic3b033e22cdcdc4a0f78cef433b2208fd254c27b

vp9-svc: Fix issues with svc with periodic key frames.

Use the superframe counter to set the key frame, and force
it to the key frame on base spatial layer only.
Also, update svc frame counters under frame dropping.

Update unittest: add specific tests with short key frame period.

https://bugs.chromium.org/p/webm/issues/detail?id=1150

Change-Id: I5b1c9a09253e6e5fbfce51b4cf603ae22d422b01

Merge "Simplify the inner loop of duplicate_mode_info_in_sb."

Merge "Port "cost_coeff speed improvements" to vp9."

Simplify the inner loop of duplicate_mode_info_in_sb.

Change-Id: I8ba9164c3550379fb998d4d074846e90fb2c6f8c

vp9-svc: Allow for 2 stage downscaling for spatial layers.

For 1 pass cbr mode: allow for two-stage 1:2 scaling
(which will use the 1:2 optimized scaler) if the spatial
layer is 1/4x1/4 of souce.

Without this change, the base layer for 3 spatial layers would
be using the non-normative scaler which is un-optimized/C code.

Change-Id: I9d73f92a4a96927d0f1d6bf75315c1e60513226a

Merge "Port alt reference frame filter improvement to VP9"

Merge "Back port partition rate cost estimate fix to VP9"

Merge "Don't copy tx_size to all 8x8 MIs in the prediction block."

Port alt reference frame filter improvement to VP9

Use sharp filter to generate motion compensated reference for
temporal filtering. It improves the average coding performance of
VP9 speed 0:
derf    0.34%
hevcmr  0.38%
stdhd   0.58%

Change-Id: I1772a051be545de8c343055274e5ca0929d19cda

Back port partition rate cost estimate fix to VP9

This commit back ports the fix from
https://chromium-review.googlesource.com/#/c/326940

It corrects the block partition context fetching in rate-distortion
optimization. It improves the average coding performance of speed 0:
derf    0.098%
hevcmr  0.102%
stdhd   0.282%

Change-Id: I8bcc6fe40ba5c6b50a6136daac116dcc738937ec

vp9-datarate unittests: Include coverage up to speed 8.

Change-Id: I8529cd04ea4f95d21d83f87d56d6dd882d0a5636

Don't copy tx_size to all 8x8 MIs in the prediction block.

The double pointer in xd->mi handles this for us.

Cuts encode_suberblock()'s self time in half at rt speed 8.

Change-Id: I820dae24efdbf9a140bbeae82e4e2a5850317766

vp9: Remove effective_bitrate from SVC datarate tests.

Change-Id: I1189c2403463e0aca288ba344052ba1c9cf94390

vp8: multi-res-encoder: Fix timer around encoder in sample encoder.

Change-Id: I0131ab4767e2eb72838ab6e58dd77a85fbf508e0

vp9-svc: For 1 pass svc, remove frame-level upsampling.

With the svc fix in https://chromium-review.googlesource.com/#/c/328978/,
the asan error is resolved, so this should work now.

Change-Id: I57b2a593651d414e1b445431d90f2fdc3281128b

VPX: Remove pmin/pmax from subpixel functions.

These instructions are unnecessary if the adds
are done in the correct order.

Change-Id: I4e533b8267c32e610a4b94203ad052dc9fdabd71

Merge "VPX: vpx_filter_block1d16_(v8, v8_avg)"

Merge changes I95159bcb,Ia74e3097,I661f6439

* changes:
  x86/convolve.h: remove redundant check in FUN_CONV_2D
  x86/convolve.h: replace while w/if for w < 16
  x86/convolve.h: change filter[] || chains to |

datarate_test/ChangingDropFrameThresh: set kf interval

restore the value for VP9 to 9999 to satisfy the current test
expectations; without this
VP9/DatarateTestVP9Large.ChangingDropFrameThresh/8 will overshoot.

Change-Id: I88dad574ae4ab10f923579824c7347ff468c7045

Revert "vp9-svc: Fix speed issue with source downscaling for spatial layers."

This reverts commit f51f0998e1ca99cd7497ded3642bb27445b1b215.

This causes datarate tests to fail. Some are due to the new default
keyframe distance, another causes an assert even forcing 9999:

[ RUN      ] VP9/DatarateOnePassCbrSvc.OnePassCbrSvc3SpatialLayers/0
test_libvpx:
vpx_dsp/x86/vpx_subpixel_8t_intrin_ssse3.c:853: scaledconvolve2d:
Assertion `y_step_q4 <= 32' failed.

Change-Id: I4ee4fea97f47e4f1a23b82a62e6afc6280961e38

Merge "vp8-denoiser: Update some denoiser thresholds."

Port "cost_coeff speed improvements" to vp9.

About a 5% faster overall encode (perf cycles) at speed zero!

Change-Id: Iaf013ba75884415cd824e98349f654ffb1c3ef33

Merge "vp9-svc: Bugfix for svc in non-rd variance partition."

vp9-svc: Bugfix for svc in non-rd variance partition.

Reset the scale factors before build_inter_predictors.

Add datarate tests for 3 spatial layers, which exposed this issue.

Change-Id: I7f81efbe44345ecea9fdd5f639a4cca76aed3874

vp9-svc: Fix speed issue with source downscaling for spatial layers.

For 1 pass cbr mode: allow for two-stage 1:2 scaling
(which will use the 1:2 optimized scaler) if the spatial
layer is 1/4x1/4 of souce.

Without this change, the base layer for 3 spatial layers would
be using the non-normative scaler which is un-optimized/C code.

Change-Id: Ifcf526ec2aaf3e5fa7924588d9dd8660bf02fb46

x86/convolve.h: remove redundant check in FUN_CONV_2D

the filter will be the same in this case

Change-Id: I95159bcb05bbfb71b57da741393e80cc7ffc5cff

x86/convolve.h: replace while w/if for w < 16

in non-hbd configurations; any high-bitdepth changes will be done in a
follow-up

Change-Id: Ia74e30971b744c1faab68c92fdeda1a053988c77

altref_test: move AltRefTest instantiation w/in VP8 check

some configurations may fail if AltRefTest is undefined though
VP8_INSTANTIATE_TEST_CASE is defined away.

Change-Id: I7272775a506718336bd6cee2225cf83bd72fede5

Merge "vp9/10: fix forced keyframes w/alt-refs enabled"

vp9: set kf_max_dist to a reasonable default (128)

the same as vp8, with the same reasoning from:
2a0d7b1 Reduce the default kf_max_dist to 128.

see also:
https://trac.ffmpeg.org/ticket/4904
https://bugs.debian.org/cgi-bin/bugreport.cgi?bug=815673

+ restore vpxenc behavior of taking the library default rather than
  forcing 5s

This change also exposes an issue with one-pass svc in cbr mode, keep
the old default in datarate_test.cc for now.

Change-Id: Id6d1244f42490b06fefc1a7b4e12a423a1f83e88

VPX: vpx_filter_block1d16_(v8, v8_avg)

Store result with one 16 byte store instead of
two 8 byte stores.

Change-Id: I43acbc5edfd6d6055a926f9b9605d47127400f09

x86/convolve.h: change filter[] || chains to |

Change-Id: I661f64390f232826857b259e7a67e77f5a3a91ad

vp9/10: fix forced keyframes w/alt-refs enabled

in 1-pass encodes. issues with 2-pass as well as other forced flags
persist.

Change-Id: Ic7ceb906fccea6456d5df96483c10cacd46e01c7

Merge changes from topic 'x86inc'

* changes:
  x86inc.asm: only set visibility for chromium builds
  Only use .text sections for aout
  Use .text instead of .rodata on macho
  Copy PIC handling code from x86_abi_support
  Set 'private_extern' visibility for macho targets
  Expand PIC default to macho64 and respect CONFIG_PIC from libvpx
  Use libvpx defines to set name mangling rules
  Customize x86inc.asm for libvpx
  Update x86inc.asm from x264

Merge "BUG FIX: vpx_filter_block1d(8,4)_(v8, v8_avg)"

vp9: Update to scene/content change detection.

Update some parameters and put check on frame size change.
For 1 pass VBR mode, speed >= 5.

Change-Id: If24ed94a21e705ea57d40b9bf235ad079db786fc

BUG FIX: vpx_filter_block1d(8,4)_(v8, v8_avg)

Change-Id: Ic7ea79988ed0864e7ddbfeb312516bcf77eaaac1

vp9 aq-mode=3: Allow it to be used for 1 pass VBR mode.

Change-Id: I630b8e33106c78382545d49da5fb4c75b1b0b528

Merge "VPX: loopfilter_mmx.asm using x86inc"

Merge "VP9: rename vpx_read_mode_info to vp9_read_mode_info"

Merge "VP9: remove x_mis, y_mis calculations"

vp9: 1 pass vbr real-time mode: Adjust gf refresh for scene change.

Use the existing scene/content change detection to better
update/adjust golden frame refresh.

Change only affects 1 pass real-time vbr mode, speed >=5.

Change-Id: I2963a5bb7ca4a19f8cf8511b0a925e502f60e014

VP9: rename vpx_read_mode_info to vp9_read_mode_info

Change-Id: I3cb3da864e33012ba68d61ee8bafa8c42f00313c

VP9: remove x_mis, y_mis calculations

Passed as arguments instead.

Change-Id: I884a90baedf772692372e6e3520702c04a968f44

VPX: loopfilter_mmx.asm using x86inc

Change-Id: Idcf29281d617b275e3ca50f77e6d00c60992a36d

Merge changes from topic 'vp10-missing-alloc-checks'

* changes:
  vp10/resize: add missing alloc checks
  vp10/encoder: add missing alloc checks
  vp10/decoder,resize_mv_buffer: add missing alloc check
  vp10_cyclic_refresh_alloc: correct cleanup on error

Merge changes from topic 'vp9-missing-alloc-checks'

* changes:
  vp9_svc_layercontext: add missing alloc checks
  vp9_resize: add missing alloc checks
  vp9_encoder: add missing alloc checks
  vp9/decoder,resize_mv_buffer: add missing alloc check
  vp9_cyclic_refresh_alloc: correct cleanup on error

Merge changes from topic 'vp8-missing-alloc-checks'

* changes:
  vp8_dx_iface: add missing alloc checks
  vp8/onyx_if: add missing alloc checks
  vp8/denoising: add missing alloc check

Merge changes from topic 'rm-loopfilter-count-param'

* changes:
  lpf_8_test: remove unneeded function wrapper
  remove loopfilter 'count' param TODOs
  split vpx_highbd_lpf_horizontal_16 in two
  split vpx_lpf_horizontal_16 in two
  vpx_highbd_lpf_horizontal_4: remove unused count param
  vpx_highbd_lpf_horizontal_8: remove unused count param
  vpx_highbd_lpf_vertical_4: remove unused count param
  vpx_highbd_lpf_vertical_8: remove unused count param
  vpx_lpf_horizontal_4: remove unused count param
  vpx_lpf_horizontal_8: remove unused count param
  vpx_lpf_vertical_4: remove unused count param
  vpx_lpf_vertical_8: remove unused count param
  lpf_8_test: add missing dspr2 tests
  lpf_8_test: add missing vpx_lpf_horizontal_4 tests
  lpf_8_test: add missing vpx_lpf_vertical_4 tests
  lpf_8_test: simplify function wrapper generation

x86inc.asm: only set visibility for chromium builds

this restores the previous version's behavior avoiding issues with
builds that may split sources on directory boundaries; protected
visibility may work in this case.

Change-Id: Ie759bd96c9ea5b45613f450dffa6e67eb45f5a8b

Only use .text sections for aout

Also do not specify alignment.

Change-Id: I92d07dcce632ff9380c5dce18f88597414ab60c7

Use .text instead of .rodata on macho

The read only sections are getting stripped on some OS X builds. As a
result, random data is used in place of the intended tables.

Change-Id: I4629c90d9e0ae4d4efc193a93be6fb93809ae895

Copy PIC handling code from x86_abi_support

Change-Id: Ia05fe78d2bd29b6aebaf6605719fe8a32528f25c

Set 'private_extern' visibility for macho targets

Do not set it when building with 'nasm'

Change-Id: Iff2acf22543f5899f6eefa7624821cc6270a0923