Make generic SIMD work with clang.

Change-Id: I2c504a078a7137bea6ba50c5768c1295878e9ea1

Fix clang-format warnings in aom_dsp/simd/v64_intrinsics_arm.h

Change-Id: I221bf4520d7030133e3b2fea883a995b3d6f6282

Non-normative quality improvements to CLPF.

BDR improvements:
     PSNR  PSNRHVS SSIM  MSSSIM CIEDE2000 PSNR Cb  PSNR Cr
LL: -0.17% -0.13% -0.11% -0.12%   -0.18%   -0.19%   -0.21%
HL: -0.21% -0.14% -0.15% -0.11%   -0.37%   -0.39%   -0.52%

Change-Id: I58c00a1cc0ddfc3376644f66345e99472482a613

Added high bit-depth support in CLPF.

Change-Id: Ic5eadb323227a820ad876c32d4dc296e05db6ece

Fix a memleak in CLPF.

The memleak appeared in eb5794da1659f87597291d84c2fbdfd89280065d.

Change-Id: Ifdd6d64aafa0d0ce4dfaf1844f594d5f843bf2e0

Reduce memory footprint for CLPF decoding.

Instead of having CLPF write to an entire new frame and
copy the result back into the original frame, make the
filter able to work in-place by keeping a buffer of size
frame_width*filter_block_size and delay the write-back
by one filter_block_size row.

This reduces the cycles spent in the filter to ~75%.

Change-Id: I78ca74380c45492daa8935d08d766851edb5fbc1

Make CLPF handle frame widths and heights not divisible by 8.

Change-Id: If5eb33b6b090f43ba64c82468576b89eddd872c3

CLPF: Don't assume sb size=64 and w&h multiple of 8 + valgrind fix.

Change-Id: I518ad9c58973910eb0bdcb377f2d90138208c570

Silence some harmless compiler warnings in CLPF.

Change-Id: I4a6d84007bc17b89cfd8d8f2440bf2968505bd6a

Added generic SIMD support for CLPF.

Change-Id: Ie03f9a5b0a4c708a586532198d755a1e7509f149

Merge "Added generic SIMD library supporting x86 SSE2+ and ARM NEON." into nextgenv2

Merge "New CLPF: New kernel and RDO for strength and block size" into nextgenv2

Merge "Hybrid forward transforms 16x16 AVX2 optimization" into nextgenv2

Merge "Added sse2 inverse 8x16 and 16x8 transforms" into nextgenv2

Merge "A bug fix for var-tx" into nextgenv2

Hybrid forward transforms 16x16 AVX2 optimization

- Unit tests are added for AVX2 SIMD.
- Encoder speed improvement:
  AV1 baseline and EXT_TX, three 1080p sequences at bitrate:
  800 Kbps, 2 Mbps, 6 Mbps, on i7-6700 CPU, average
  user level time reduction: 3.86%.

Change-Id: Ibbd7837ee3a831c6b1e4e471bf6c8d3fa3a19ff4

Fix left shift of negative integer in hbd directional predictors

Change-Id: Id78139ae2dfa2d521bd50618b4a81cf24e09e391

Added sse2 inverse 8x16 and 16x8 transforms

Change-Id: I43628407b11e5c8e6af4df69f2acdc67ac827834

Merge "Silence some warnings" into nextgenv2

A bug fix for var-tx

Fixes a crash with supertx, ext-tx and rect-tx

Change-Id: I6b5f4cfd6e209558541a791be685b55156aa0138

Added generic SIMD library supporting x86 SSE2+ and ARM NEON.

Change-Id: I037f4c44f621a7e909b82ccb6a299d41bcbf8607

New CLPF: New kernel and RDO for strength and block size

This commit ports a CLPF change from aom/master by manually
cherry-picking:
7560123c066854aa40c4685625454aea03410b18

Change-Id: I61eb08862a101df74a6b65ece459833401e81117

Merge "Make ref_mv_idx syntax context dependent on block distance only" into nextgenv2

Merge "Simplify file dependencies of SIMD implementation of interpolation filters" into nextgenv2

Make ref_mv_idx syntax context dependent on block distance only

This allows the hardware decoder to start decoding ref_mv_idx
syntax prior to the sorting stage and hide the latency of entropy
decoding. The compression performance change is about 0.01% level.

Change-Id: I86b34f31f6c99a36ae2780416175cc0bd90ff492

Silence some warnings

Change-Id: I8efb64eac3438484e7a77a8a1db198223fc52bfa

Fix a compiler warning in ext-inter experiment

Change-Id: If36417c1384646da57453344b208e7653a4d31e5

Fix an integer overflow issue in restoration

https://bugs.chromium.org/p/webm/issues/detail?id=1306

Change-Id: Icd11d373ff08954121c097728e4c7791791e223f

Merge "ext_tx: fix a signed overflow" into nextgenv2

Merge "Fix high bitdepth variance overflow on uint32_t" into nextgenv2

Simplify file dependencies of SIMD implementation of interpolation filters

This is a similar change to following aom CL
https://aomedia-review.googlesource.com/#/c/1961/

Move SIMD related functions from filter.c/h to following files
av1_convolve_ssse3.c
av1_highbd_convolve_filters_sse4.c

Change following c files to header files.
av1_highbd_convolve_filters_sse4.c
av1_convolve_filters_ssse3.c

Change-Id: I41a3cc6b0789e632451aeda82f5eb97a4d78e370

Fix high bitdepth variance overflow on uint32_t

BUG=webm:1305

Change-Id: I4c56631359e298b99e618c07bcbae9f793c5e2ac

Fix filter type mismatch warning on Visual Studio

- Move filter look-up functions to corresponding optimization modules.

BUG=webm:1296

Change-Id: I87f399609052db2dbc7e5a590afb08b82e3fa89f

ext_tx: fix a signed overflow

Change-Id: I9a08bc5da1a84c3d4b8fe2d457bb80406c0bc028

Merge "Further changes to new-quant tables" into nextgenv2

Merge "decode_with_drops.sh : make sample test work for av1" into nextgenv2

Merge "decode_with_drop.sh: vp8->aom" into nextgenv2

Merge "decode_to_md5_test: fixes and runs quick encode and checks decode" into nextgenv2

Merge "decode_to_md5.sh: vp8->aom" into nextgenv2

decode_with_drops.sh : make sample test work for av1

Change-Id: I4175070840a6561c1cec5f5a50b64e425f3e2926

decode_with_drop.sh: vp8->aom

Change-Id: I22dacbc2e4933a60ce7151204af9ee253990ca1f

decode_to_md5_test: fixes and runs quick encode and checks decode

This test checks if there's any basic change to the bitstream or default
encoder by running an encode and checking that the md5 from the decode
doesn't change.

Any change to the default encoder or bitstream should be accompanied by
a change to the md5 in this file.

Change-Id: Ibdd5a1442296fd3e946823ec1f43e8ac4e66dd34

decode_to_md5.sh: vp8->aom

Change-Id: I0dcb0643cf83ee99b63336df851cbca749c11b68

Sync ref-mv experiment between aom and nextgenv2

Change-Id: I134d276234b3b8aa7df1ab647892b5d739647f4c

Further changes to new-quant tables

Refactor to streamline the number of profiles needed, in
preparation for the next steps.

NO change in performance.

Change-Id: I753b89299897857f3c250c316b4cdc4fedcb90e8

Merge "Rename aom_write_nmv_probs as av1_write_nmv_probs" into nextgenv2

Add notes for an option

cherry-picked from aom/master:
2b407394907253be68bc497aa978b0adc298bbf8

Change-Id: Ia7b3bfd68e2c31b21f49a429fecc4d0b701b045f

Rename AOM_ENC/DEC_BORDER_IN_PIXELS

Cherry-picked from aom/master:
e2721a65cbfb5b560cd884d60eb17f53539df5f0

Change-Id: I4ade58be91e7bca0cc4f2bed98a43177d7f590a5

Clean up av1_adapt_mv_probs format

Change-Id: Ib5226d4fe3dcf916fe8954c7240966e3a32eed31

Sync assign_mv format

Change-Id: I4fea280d72d7e428f2ab0820fd728997d5a903c9

Merge "Set spatial neighbor search resolution 16x16 for block size 64x64" into nextgenv2

Merge "Search collocated reference block in 16x16 unit" into nextgenv2

Rename aom_write_nmv_probs as av1_write_nmv_probs

Change-Id: Ia33ce4918d3d40eba331f81909f3f1f0f3ab7a58

Set spatial neighbor search resolution 16x16 for block size 64x64

When the block has width/height above or equal to 64, use 16x16
block search step for reference motion vector search in the non-
immediate rows and columns.

Change-Id: If11ce97a9328b879f30ef87115086aa0cd985a2f

Search collocated reference block in 16x16 unit

Use 16x16 block resolution for collocated reference motion vector
search.

Change-Id: I1091b5b178e255eb6cc0b994de360994f7661b79

Merge changes I319cb856,Ib009b6b6 into nextgenv2

* changes:
  Remove multi-entropy coder hacks from the treewriter
  Rename rans_dec_lut to rans_lut

Merge "more ref_mv changes from aom/master" into nextgenv2

Merge "Fix unit test failure for RECT_TX + VAR_TX" into nextgenv2

more ref_mv changes from aom/master

Change-Id: I9152f898dfacdf3877ed719f193bb1e0dbee0a1a

Fix compiler error for GLOBAL_MOTION+WARPED_MOTION

Fix the logical OR computation in .mk file. Otherwise, when both
experiments are on, the output of $(filter... will be two 'yes',
which will cause missing library issue.

Change-Id: I53c44e925dc9ea77c7467217c20e4f1bc7e20fc3

Merge "Move warping model estimation functions to COMMON folder" into nextgenv2

Merge changes Ideda50a6,Id2bced5f,If423eeb3 into nextgenv2

* changes:
  Port ANS from aom/master 25aaf40
  Refactor bitreader and bitwriter wrapper.
  Migrate aom/master ANS test from d311d02.

Fix unit test failure for RECT_TX + VAR_TX

Disable rect_tx because we only support 4x4 Walsh-Hadamard transform
in lossless mode.

Fixes failure in ./test_libaom --gtest_filter=*Large*ScreencastQ0/1
Configuration: --enable-experimental --enable-var-tx --enable-rect-tx
 --enable-ref-mv --enable-ext_intra --enable-ext_tx --enable-debug
 --disable-optimizations

Change-Id: Ib6b3494c7dcf7182f1cab9b138388d054851a23d

Merge "Change non-uniform-quant parameters" into nextgenv2

Merge "Update codec name in test enviroment to match decoder" into nextgenv2

Merge "mvref_common.c: port refactoring from aom/master" into nextgenv2

Merge "Remove an intermediate variable" into nextgenv2

Remove multi-entropy coder hacks from the treewriter

Change-Id: I319cb856a16ace343359c2aebc449c1d73bdedee

Rename rans_dec_lut to rans_lut

It's used in both encoding and decoding. Matches (historical)
implementation in aom/master.

Change-Id: Ib009b6b6023cfe69e99a0a92f3c70f4416fcdb47

Port ANS from aom/master 25aaf40

Reconciles the following commits from aom/master to nextgenv2:
- 25aaf40bbc24beeb52de9af7d7624b7d7c6ce9de
- 87073de5693df70eba1c9b9be2b2732ed3b08fb3

Change-Id: Ideda50a6ec75485cb4fa7437c69f4e58d6a2ca73

Clang-format ransac.c

Change-Id: I1679da4fb8832133ab1bcb396f4bed4e5448e504

Refactor bitreader and bitwriter wrapper.

Move code for reading and writing literals and reading trees to use
just the aom_read_bit() and aom_write_bit() function calls.

Change-Id: Id2bced5f0125a5558030a813c51c3d79e5701873
(cherry picked from aom/master commit bc1ac15846a200272551699d45457039535e56b2)

Migrate aom/master ANS test from d311d02.

This helps in porting entropy coder changes that happened in aom/master.

Change-Id: If423eeb3da552066cceb88227138ea61d6a20f07
(cherry picked from aom/master commit d311d02da55433d20aad6dd88e0bbb992919988d)

Update codec name in test enviroment to match decoder

The codec name is defined in av1_dx_iface.c
This name needs to match kAV1Name in decode_test_driver.cc.
Otherwise the EndtoEndPSNRTest fails when built with --enable-ext-tile,
(because we need the IsAV1 function to return true.)

Change-Id: I05d5ea5b6fd4bbd49e8bcacd047fb81c27efb3b3

Change non-uniform-quant parameters

Also adds hooks to choose different profiles for UV and intra.

Results
lowres: -0.15%
midres: -0.24%

Change-Id: I4af8bc3e9b82b6f8a061dce9f52c89afa6239ae1

Move warping model estimation functions to COMMON folder

These functions will be called by both enc and dec in WARPED_MOTION
experiment.

Change-Id: I4b4a20af111b30822760aee8c9451e9ccbb2dd05

Merge "Add a TODO for aom_highbd_fdct16x16_1_sse2 tests" into nextgenv2

mvref_common.c: port refactoring from aom/master

Change-Id: I53cf072f33de957eed6bf6be270218db8ff33af9

Remove an intermediate variable

This commit changes to use function parameter "len" directly.

Change-Id: I072d165aeca59cfbbcf52c9be3c2a91e3191b980

Merge "Fix for compile error with RECT_TX without EXT_TX" into nextgenv2

Merge changes I13eed9cb,I3b213790,I7232f9ae into nextgenv2

* changes:
  Remove VP10 style bitreader and bitwriter wrappers
  Rename av1_ans_test to match aom/master.
  Migrate bitreader to the interface from aom/master

Merge "rename pred_mv_s8 to pred_mv" into nextgenv2

Remove VP10 style bitreader and bitwriter wrappers

Change-Id: I13eed9cb6950ea4fbdd586d43b73ac0cc2d78d33

Rename av1_ans_test to match aom/master.

Change-Id: I3b2137903a87a1f8169ff45e940575b917c26a6a

Migrate bitreader to the interface from aom/master

Change-Id: I7232f9ae3d97e730f66e4b80f550192e3ef7230b

Merge "Add double precision warping for ransac" into nextgenv2

rename pred_mv_s8 to pred_mv

Change-Id: Ib1088c3fc80952074e098385fe5eb81742e7dc59

Merge "minor format fix" into nextgenv2

Merge "change to use aomedia copyright notice" into nextgenv2

Fix for compile error with RECT_TX without EXT_TX

Change-Id: I2f4e3fc877c03a5bee7f7fd1dc50e6a693697647

Merge "enums.h: Combine related #defines into packed enums." into nextgenv2

minor format fix

Change-Id: Ia4a37d43a7110c84cda6ad317aa7f799e00bde82

change to use aomedia copyright notice

av1/common/allcommon.h
doc.mk

Change-Id: I7e08c9131ab1c0d7e7854f7e70b90397d041143a

Add double precision warping for ransac

Change-Id: I32b6e2e6c8454ffb64e4a4ceb87070d175f05fe9

Merge "Migrate bitwriter to the interface in aom/master" into nextgenv2

Merge "Fix bug in table for UV tx ize" into nextgenv2

Fix bug in table for UV tx ize

Change-Id: I086b79462b0933cf9dc1101ff71cbc71c7da2738

enums.h: Combine related #defines into packed enums.

enums for BLOCK_SIZE, TX_SIZE and PREDICTION_MODE.

Note: These were converted to #defines earlier to save on memory:
https://chromium-review.googlesource.com/#/c/269854/

But we, instead, use attribute 'packed' (see here:
https://gcc.gnu.org/onlinedocs/gcc/Common-Type-Attributes.html#Common-Type-Attributes)
to ensure that these enums use the smallest possible integer type,
and so use smallest memory when used in structs/arrays etc.

Change-Id: If1fc136686b28847109c9f3a06f8728165e7e475

bitstream_debug: build related cleanup

Move experimental config from debug_util.c/h to aom_util.mk to avoid
empty object.

Change-Id: Id7978ed6a342262bddaa4df8b53115e750fa1c2c

Migrate bitwriter to the interface in aom/master

Change-Id: I73d46229f0feea43cbe933e51da997833cce032b