Fix left shift of negative integer in hbd directional predictors

Change-Id: Id78139ae2dfa2d521bd50618b4a81cf24e09e391

Merge "Silence some warnings" into nextgenv2

Merge "Make ref_mv_idx syntax context dependent on block distance only" into nextgenv2

Merge "Simplify file dependencies of SIMD implementation of interpolation filters" into nextgenv2

Make ref_mv_idx syntax context dependent on block distance only

This allows the hardware decoder to start decoding ref_mv_idx
syntax prior to the sorting stage and hide the latency of entropy
decoding. The compression performance change is about 0.01% level.

Change-Id: I86b34f31f6c99a36ae2780416175cc0bd90ff492

Silence some warnings

Change-Id: I8efb64eac3438484e7a77a8a1db198223fc52bfa

Fix a compiler warning in ext-inter experiment

Change-Id: If36417c1384646da57453344b208e7653a4d31e5

Fix an integer overflow issue in restoration

https://bugs.chromium.org/p/webm/issues/detail?id=1306

Change-Id: Icd11d373ff08954121c097728e4c7791791e223f

Merge "ext_tx: fix a signed overflow" into nextgenv2

Merge "Fix high bitdepth variance overflow on uint32_t" into nextgenv2

Simplify file dependencies of SIMD implementation of interpolation filters

This is a similar change to following aom CL
https://aomedia-review.googlesource.com/#/c/1961/

Move SIMD related functions from filter.c/h to following files
av1_convolve_ssse3.c
av1_highbd_convolve_filters_sse4.c

Change following c files to header files.
av1_highbd_convolve_filters_sse4.c
av1_convolve_filters_ssse3.c

Change-Id: I41a3cc6b0789e632451aeda82f5eb97a4d78e370

Fix high bitdepth variance overflow on uint32_t

BUG=webm:1305

Change-Id: I4c56631359e298b99e618c07bcbae9f793c5e2ac

Fix filter type mismatch warning on Visual Studio

- Move filter look-up functions to corresponding optimization modules.

BUG=webm:1296

Change-Id: I87f399609052db2dbc7e5a590afb08b82e3fa89f

ext_tx: fix a signed overflow

Change-Id: I9a08bc5da1a84c3d4b8fe2d457bb80406c0bc028

Merge "Further changes to new-quant tables" into nextgenv2

Merge "decode_with_drops.sh : make sample test work for av1" into nextgenv2

Merge "decode_with_drop.sh: vp8->aom" into nextgenv2

Merge "decode_to_md5_test: fixes and runs quick encode and checks decode" into nextgenv2

Merge "decode_to_md5.sh: vp8->aom" into nextgenv2

decode_with_drops.sh : make sample test work for av1

Change-Id: I4175070840a6561c1cec5f5a50b64e425f3e2926

decode_with_drop.sh: vp8->aom

Change-Id: I22dacbc2e4933a60ce7151204af9ee253990ca1f

decode_to_md5_test: fixes and runs quick encode and checks decode

This test checks if there's any basic change to the bitstream or default
encoder by running an encode and checking that the md5 from the decode
doesn't change.

Any change to the default encoder or bitstream should be accompanied by
a change to the md5 in this file.

Change-Id: Ibdd5a1442296fd3e946823ec1f43e8ac4e66dd34

decode_to_md5.sh: vp8->aom

Change-Id: I0dcb0643cf83ee99b63336df851cbca749c11b68

Sync ref-mv experiment between aom and nextgenv2

Change-Id: I134d276234b3b8aa7df1ab647892b5d739647f4c

Further changes to new-quant tables

Refactor to streamline the number of profiles needed, in
preparation for the next steps.

NO change in performance.

Change-Id: I753b89299897857f3c250c316b4cdc4fedcb90e8

Merge "Rename aom_write_nmv_probs as av1_write_nmv_probs" into nextgenv2

Add notes for an option

cherry-picked from aom/master:
2b407394907253be68bc497aa978b0adc298bbf8

Change-Id: Ia7b3bfd68e2c31b21f49a429fecc4d0b701b045f

Rename AOM_ENC/DEC_BORDER_IN_PIXELS

Cherry-picked from aom/master:
e2721a65cbfb5b560cd884d60eb17f53539df5f0

Change-Id: I4ade58be91e7bca0cc4f2bed98a43177d7f590a5

Clean up av1_adapt_mv_probs format

Change-Id: Ib5226d4fe3dcf916fe8954c7240966e3a32eed31

Sync assign_mv format

Change-Id: I4fea280d72d7e428f2ab0820fd728997d5a903c9

Merge "Set spatial neighbor search resolution 16x16 for block size 64x64" into nextgenv2

Merge "Search collocated reference block in 16x16 unit" into nextgenv2

Rename aom_write_nmv_probs as av1_write_nmv_probs

Change-Id: Ia33ce4918d3d40eba331f81909f3f1f0f3ab7a58

Set spatial neighbor search resolution 16x16 for block size 64x64

When the block has width/height above or equal to 64, use 16x16
block search step for reference motion vector search in the non-
immediate rows and columns.

Change-Id: If11ce97a9328b879f30ef87115086aa0cd985a2f

Search collocated reference block in 16x16 unit

Use 16x16 block resolution for collocated reference motion vector
search.

Change-Id: I1091b5b178e255eb6cc0b994de360994f7661b79

Merge changes I319cb856,Ib009b6b6 into nextgenv2

* changes:
  Remove multi-entropy coder hacks from the treewriter
  Rename rans_dec_lut to rans_lut

Merge "more ref_mv changes from aom/master" into nextgenv2

Merge "Fix unit test failure for RECT_TX + VAR_TX" into nextgenv2

more ref_mv changes from aom/master

Change-Id: I9152f898dfacdf3877ed719f193bb1e0dbee0a1a

Fix compiler error for GLOBAL_MOTION+WARPED_MOTION

Fix the logical OR computation in .mk file. Otherwise, when both
experiments are on, the output of $(filter... will be two 'yes',
which will cause missing library issue.

Change-Id: I53c44e925dc9ea77c7467217c20e4f1bc7e20fc3

Merge "Move warping model estimation functions to COMMON folder" into nextgenv2

Merge changes Ideda50a6,Id2bced5f,If423eeb3 into nextgenv2

* changes:
  Port ANS from aom/master 25aaf40
  Refactor bitreader and bitwriter wrapper.
  Migrate aom/master ANS test from d311d02.

Fix unit test failure for RECT_TX + VAR_TX

Disable rect_tx because we only support 4x4 Walsh-Hadamard transform
in lossless mode.

Fixes failure in ./test_libaom --gtest_filter=*Large*ScreencastQ0/1
Configuration: --enable-experimental --enable-var-tx --enable-rect-tx
 --enable-ref-mv --enable-ext_intra --enable-ext_tx --enable-debug
 --disable-optimizations

Change-Id: Ib6b3494c7dcf7182f1cab9b138388d054851a23d

Merge "Change non-uniform-quant parameters" into nextgenv2

Merge "Update codec name in test enviroment to match decoder" into nextgenv2

Merge "mvref_common.c: port refactoring from aom/master" into nextgenv2

Merge "Remove an intermediate variable" into nextgenv2

Remove multi-entropy coder hacks from the treewriter

Change-Id: I319cb856a16ace343359c2aebc449c1d73bdedee

Rename rans_dec_lut to rans_lut

It's used in both encoding and decoding. Matches (historical)
implementation in aom/master.

Change-Id: Ib009b6b6023cfe69e99a0a92f3c70f4416fcdb47

Port ANS from aom/master 25aaf40

Reconciles the following commits from aom/master to nextgenv2:
- 25aaf40bbc24beeb52de9af7d7624b7d7c6ce9de
- 87073de5693df70eba1c9b9be2b2732ed3b08fb3

Change-Id: Ideda50a6ec75485cb4fa7437c69f4e58d6a2ca73

Clang-format ransac.c

Change-Id: I1679da4fb8832133ab1bcb396f4bed4e5448e504

Refactor bitreader and bitwriter wrapper.

Move code for reading and writing literals and reading trees to use
just the aom_read_bit() and aom_write_bit() function calls.

Change-Id: Id2bced5f0125a5558030a813c51c3d79e5701873
(cherry picked from aom/master commit bc1ac15846a200272551699d45457039535e56b2)

Migrate aom/master ANS test from d311d02.

This helps in porting entropy coder changes that happened in aom/master.

Change-Id: If423eeb3da552066cceb88227138ea61d6a20f07
(cherry picked from aom/master commit d311d02da55433d20aad6dd88e0bbb992919988d)

Update codec name in test enviroment to match decoder

The codec name is defined in av1_dx_iface.c
This name needs to match kAV1Name in decode_test_driver.cc.
Otherwise the EndtoEndPSNRTest fails when built with --enable-ext-tile,
(because we need the IsAV1 function to return true.)

Change-Id: I05d5ea5b6fd4bbd49e8bcacd047fb81c27efb3b3

Change non-uniform-quant parameters

Also adds hooks to choose different profiles for UV and intra.

Results
lowres: -0.15%
midres: -0.24%

Change-Id: I4af8bc3e9b82b6f8a061dce9f52c89afa6239ae1

Move warping model estimation functions to COMMON folder

These functions will be called by both enc and dec in WARPED_MOTION
experiment.

Change-Id: I4b4a20af111b30822760aee8c9451e9ccbb2dd05

Merge "Add a TODO for aom_highbd_fdct16x16_1_sse2 tests" into nextgenv2

mvref_common.c: port refactoring from aom/master

Change-Id: I53cf072f33de957eed6bf6be270218db8ff33af9

Remove an intermediate variable

This commit changes to use function parameter "len" directly.

Change-Id: I072d165aeca59cfbbcf52c9be3c2a91e3191b980

Merge "Fix for compile error with RECT_TX without EXT_TX" into nextgenv2

Merge changes I13eed9cb,I3b213790,I7232f9ae into nextgenv2

* changes:
  Remove VP10 style bitreader and bitwriter wrappers
  Rename av1_ans_test to match aom/master.
  Migrate bitreader to the interface from aom/master

Merge "rename pred_mv_s8 to pred_mv" into nextgenv2

Remove VP10 style bitreader and bitwriter wrappers

Change-Id: I13eed9cb6950ea4fbdd586d43b73ac0cc2d78d33

Rename av1_ans_test to match aom/master.

Change-Id: I3b2137903a87a1f8169ff45e940575b917c26a6a

Migrate bitreader to the interface from aom/master

Change-Id: I7232f9ae3d97e730f66e4b80f550192e3ef7230b

Merge "Add double precision warping for ransac" into nextgenv2

rename pred_mv_s8 to pred_mv

Change-Id: Ib1088c3fc80952074e098385fe5eb81742e7dc59

Merge "minor format fix" into nextgenv2

Merge "change to use aomedia copyright notice" into nextgenv2

Fix for compile error with RECT_TX without EXT_TX

Change-Id: I2f4e3fc877c03a5bee7f7fd1dc50e6a693697647

Merge "enums.h: Combine related #defines into packed enums." into nextgenv2

minor format fix

Change-Id: Ia4a37d43a7110c84cda6ad317aa7f799e00bde82

change to use aomedia copyright notice

av1/common/allcommon.h
doc.mk

Change-Id: I7e08c9131ab1c0d7e7854f7e70b90397d041143a

Add double precision warping for ransac

Change-Id: I32b6e2e6c8454ffb64e4a4ceb87070d175f05fe9

Merge "Migrate bitwriter to the interface in aom/master" into nextgenv2

Merge "Fix bug in table for UV tx ize" into nextgenv2

Fix bug in table for UV tx ize

Change-Id: I086b79462b0933cf9dc1101ff71cbc71c7da2738

enums.h: Combine related #defines into packed enums.

enums for BLOCK_SIZE, TX_SIZE and PREDICTION_MODE.

Note: These were converted to #defines earlier to save on memory:
https://chromium-review.googlesource.com/#/c/269854/

But we, instead, use attribute 'packed' (see here:
https://gcc.gnu.org/onlinedocs/gcc/Common-Type-Attributes.html#Common-Type-Attributes)
to ensure that these enums use the smallest possible integer type,
and so use smallest memory when used in structs/arrays etc.

Change-Id: If1fc136686b28847109c9f3a06f8728165e7e475

bitstream_debug: build related cleanup

Move experimental config from debug_util.c/h to aom_util.mk to avoid
empty object.

Change-Id: Id7978ed6a342262bddaa4df8b53115e750fa1c2c

Migrate bitwriter to the interface in aom/master

Change-Id: I73d46229f0feea43cbe933e51da997833cce032b

Merge "Misc. refactoring of loop restoration" into nextgenv2

Misc. refactoring of loop restoration

Streamilines the functions and data structures to make it
easy to add new restore options.

Change-Id: Ib00638a5749e6c38c2455f3e3142b1025e6e0624

Merge "Fix naming mistake in multiply_mat" into nextgenv2

Merge changes I38f40582,Ib7afcffa into nextgenv2

* changes:
  Move ANS to aom_dsp.
  Move and wrap the old vpx boolcoder.

Fix naming mistake in multiply_mat

This was introduced in a cleanup in
I1e07ccab18558dfdd996547a72a396abe02ed23d

Change-Id: If6ac798d838a1ad392981f4e5970778207c3cb0b

Add a TODO for aom_highbd_fdct16x16_1_sse2 tests

- Here function, aom_fdct16x16_1_sse2 is mistakely tested. It can pass
  AOM_BITS_8, AOM_BITS_10, but not AOM_BITS_12. We should fix this test
  when aom_highbd_fdct16x16_1_sse2 is available.

Change-Id: I5cac6ee5404ff6d833940e1ecc34663b29d7a41c

apply clang-format after 5cd2ab9

Change-Id: I186e90d99cd54e66d38159b7cb55a881226b1568

Merge "Use the aom_writer type rather than the tag in calling code." into nextgenv2

Move ANS to aom_dsp.

That's where it lives in aom/master.

Change-Id: I38f405827d9c2d0b06ef5f3bfd7cadc35d5991ef

Merge "Kludge to keep ANS building while porting from aom/master." into nextgenv2

Use the aom_writer type rather than the tag in calling code.

This makes room for typedefing some other struct to aom_writer.

Change-Id: I1e82de1320da00b3e41c90b14f2df45e7628aa89
(cherry picked from commit d69161f8f1eed602e0e5d21f4e6157b674e30cf6)

Move and wrap the old vpx boolcoder.

This should make room for compile time pluggable replacements.

Change-Id: Ib7afcffa93bf664b89a49da21a20138127443292
(cherry picked from commit 9dd0b8982445515d6dddb6342e655b56062a8f7f)

Kludge to keep ANS building while porting from aom/master.

Change-Id: I9e74bdb94c5640aca025b11b6676e8a8c008f47e

Merge "Enable tile-adaptive restoration" into nextgenv2

Enable tile-adaptive restoration

Includes a major refactoring/enhancement to support
tile-adaptive switchable restoration. The framework can be
readily extended to add more restoration schemes in the
future. Also includes various cleanups and fixes.

Specifically the framework allows restoration to be conducted
on tiles such that each tile can be either left unrestored, or
use bilateral or wiener filtering.

There is a modest improvemnt in coding efficiency (0.1 - 0.2%).

Further enhancements will be added subsequently to improve coding
efficiency and complexity.

Change-Id: I5ebedb04785ce1ef6f324abe209e925c2d6cbe8a

Style fixes for global motion experiment

These are in response to a post-commit review in
Ib6664df44090e8cfa4db9f2f9e0556931ccfe5c8

Change-Id: I1e07ccab18558dfdd996547a72a396abe02ed23d

apply clang-format

Change-Id: If22018f8911d9d7ee99c2127bdfcc56e42b0e2d7

.clang-format: update to 3.8.1

based on --style=Google with the following differences:
3a4
> # Generated with clang-format 3.8.1
13c14
< AllowShortCaseLabelsOnASingleLine: false
---
> AllowShortCaseLabelsOnASingleLine: true
41c42
< ConstructorInitializerAllOnOneLineOrOnePerLine: true
---
> ConstructorInitializerAllOnOneLineOrOnePerLine: false
44,45c45,46
< Cpp11BracedListStyle: true
< DerivePointerAlignment: true
---
> Cpp11BracedListStyle: false
> DerivePointerAlignment: false
73c74
< PointerAlignment: Left
---
> PointerAlignment: Right
75c76
< SortIncludes:    true
---
> SortIncludes:    false

SortIncludes will like be enabled in a future commit

Change-Id: I5c404f44081b65354e7f526411c91fbbe31ac5af
(cherry picked from commit 6d84689870e1437b2ebb5df56c672b3249b975bb)

Sort header files

cherry-picked #ecd07473 from aom/master

Change-Id: Id8f45d9c11406fc301b39801c5228ccd6aa2d5d6

aomdec.sh : Make this test create files if needed to test decoder.

If test files don't already exist it calls aomenc to create them.

cherry-picked #ee9ac321 from aom/master

Change-Id: I0e0f33cb60b3492e9106d6c9e2c51f64f71ebb63