Merge "more ref_mv changes from aom/master" into nextgenv2

Merge "Fix unit test failure for RECT_TX + VAR_TX" into nextgenv2

more ref_mv changes from aom/master

Change-Id: I9152f898dfacdf3877ed719f193bb1e0dbee0a1a

Fix compiler error for GLOBAL_MOTION+WARPED_MOTION

Fix the logical OR computation in .mk file. Otherwise, when both
experiments are on, the output of $(filter... will be two 'yes',
which will cause missing library issue.

Change-Id: I53c44e925dc9ea77c7467217c20e4f1bc7e20fc3

Merge "Move warping model estimation functions to COMMON folder" into nextgenv2

Merge changes Ideda50a6,Id2bced5f,If423eeb3 into nextgenv2

* changes:
  Port ANS from aom/master 25aaf40
  Refactor bitreader and bitwriter wrapper.
  Migrate aom/master ANS test from d311d02.

Fix unit test failure for RECT_TX + VAR_TX

Disable rect_tx because we only support 4x4 Walsh-Hadamard transform
in lossless mode.

Fixes failure in ./test_libaom --gtest_filter=*Large*ScreencastQ0/1
Configuration: --enable-experimental --enable-var-tx --enable-rect-tx
 --enable-ref-mv --enable-ext_intra --enable-ext_tx --enable-debug
 --disable-optimizations

Change-Id: Ib6b3494c7dcf7182f1cab9b138388d054851a23d

Merge "Change non-uniform-quant parameters" into nextgenv2

Merge "Update codec name in test enviroment to match decoder" into nextgenv2

Merge "mvref_common.c: port refactoring from aom/master" into nextgenv2

Merge "Remove an intermediate variable" into nextgenv2

Port ANS from aom/master 25aaf40

Reconciles the following commits from aom/master to nextgenv2:
- 25aaf40bbc24beeb52de9af7d7624b7d7c6ce9de
- 87073de5693df70eba1c9b9be2b2732ed3b08fb3

Change-Id: Ideda50a6ec75485cb4fa7437c69f4e58d6a2ca73

Clang-format ransac.c

Change-Id: I1679da4fb8832133ab1bcb396f4bed4e5448e504

Refactor bitreader and bitwriter wrapper.

Move code for reading and writing literals and reading trees to use
just the aom_read_bit() and aom_write_bit() function calls.

Change-Id: Id2bced5f0125a5558030a813c51c3d79e5701873
(cherry picked from aom/master commit bc1ac15846a200272551699d45457039535e56b2)

Migrate aom/master ANS test from d311d02.

This helps in porting entropy coder changes that happened in aom/master.

Change-Id: If423eeb3da552066cceb88227138ea61d6a20f07
(cherry picked from aom/master commit d311d02da55433d20aad6dd88e0bbb992919988d)

Update codec name in test enviroment to match decoder

The codec name is defined in av1_dx_iface.c
This name needs to match kAV1Name in decode_test_driver.cc.
Otherwise the EndtoEndPSNRTest fails when built with --enable-ext-tile,
(because we need the IsAV1 function to return true.)

Change-Id: I05d5ea5b6fd4bbd49e8bcacd047fb81c27efb3b3

Change non-uniform-quant parameters

Also adds hooks to choose different profiles for UV and intra.

Results
lowres: -0.15%
midres: -0.24%

Change-Id: I4af8bc3e9b82b6f8a061dce9f52c89afa6239ae1

Move warping model estimation functions to COMMON folder

These functions will be called by both enc and dec in WARPED_MOTION
experiment.

Change-Id: I4b4a20af111b30822760aee8c9451e9ccbb2dd05

Merge "Add a TODO for aom_highbd_fdct16x16_1_sse2 tests" into nextgenv2

mvref_common.c: port refactoring from aom/master

Change-Id: I53cf072f33de957eed6bf6be270218db8ff33af9

Remove an intermediate variable

This commit changes to use function parameter "len" directly.

Change-Id: I072d165aeca59cfbbcf52c9be3c2a91e3191b980

Merge "Fix for compile error with RECT_TX without EXT_TX" into nextgenv2

Merge changes I13eed9cb,I3b213790,I7232f9ae into nextgenv2

* changes:
  Remove VP10 style bitreader and bitwriter wrappers
  Rename av1_ans_test to match aom/master.
  Migrate bitreader to the interface from aom/master

Merge "rename pred_mv_s8 to pred_mv" into nextgenv2

Remove VP10 style bitreader and bitwriter wrappers

Change-Id: I13eed9cb6950ea4fbdd586d43b73ac0cc2d78d33

Rename av1_ans_test to match aom/master.

Change-Id: I3b2137903a87a1f8169ff45e940575b917c26a6a

Migrate bitreader to the interface from aom/master

Change-Id: I7232f9ae3d97e730f66e4b80f550192e3ef7230b

Merge "Add double precision warping for ransac" into nextgenv2

rename pred_mv_s8 to pred_mv

Change-Id: Ib1088c3fc80952074e098385fe5eb81742e7dc59

Merge "minor format fix" into nextgenv2

Merge "change to use aomedia copyright notice" into nextgenv2

Fix for compile error with RECT_TX without EXT_TX

Change-Id: I2f4e3fc877c03a5bee7f7fd1dc50e6a693697647

Merge "enums.h: Combine related #defines into packed enums." into nextgenv2

minor format fix

Change-Id: Ia4a37d43a7110c84cda6ad317aa7f799e00bde82

change to use aomedia copyright notice

av1/common/allcommon.h
doc.mk

Change-Id: I7e08c9131ab1c0d7e7854f7e70b90397d041143a

Add double precision warping for ransac

Change-Id: I32b6e2e6c8454ffb64e4a4ceb87070d175f05fe9

Merge "Migrate bitwriter to the interface in aom/master" into nextgenv2

Merge "Fix bug in table for UV tx ize" into nextgenv2

Fix bug in table for UV tx ize

Change-Id: I086b79462b0933cf9dc1101ff71cbc71c7da2738

enums.h: Combine related #defines into packed enums.

enums for BLOCK_SIZE, TX_SIZE and PREDICTION_MODE.

Note: These were converted to #defines earlier to save on memory:
https://chromium-review.googlesource.com/#/c/269854/

But we, instead, use attribute 'packed' (see here:
https://gcc.gnu.org/onlinedocs/gcc/Common-Type-Attributes.html#Common-Type-Attributes)
to ensure that these enums use the smallest possible integer type,
and so use smallest memory when used in structs/arrays etc.

Change-Id: If1fc136686b28847109c9f3a06f8728165e7e475

bitstream_debug: build related cleanup

Move experimental config from debug_util.c/h to aom_util.mk to avoid
empty object.

Change-Id: Id7978ed6a342262bddaa4df8b53115e750fa1c2c

Migrate bitwriter to the interface in aom/master

Change-Id: I73d46229f0feea43cbe933e51da997833cce032b

Merge "Misc. refactoring of loop restoration" into nextgenv2

Misc. refactoring of loop restoration

Streamilines the functions and data structures to make it
easy to add new restore options.

Change-Id: Ib00638a5749e6c38c2455f3e3142b1025e6e0624

Merge "Fix naming mistake in multiply_mat" into nextgenv2

Merge changes I38f40582,Ib7afcffa into nextgenv2

* changes:
  Move ANS to aom_dsp.
  Move and wrap the old vpx boolcoder.

Fix naming mistake in multiply_mat

This was introduced in a cleanup in
I1e07ccab18558dfdd996547a72a396abe02ed23d

Change-Id: If6ac798d838a1ad392981f4e5970778207c3cb0b

Add a TODO for aom_highbd_fdct16x16_1_sse2 tests

- Here function, aom_fdct16x16_1_sse2 is mistakely tested. It can pass
  AOM_BITS_8, AOM_BITS_10, but not AOM_BITS_12. We should fix this test
  when aom_highbd_fdct16x16_1_sse2 is available.

Change-Id: I5cac6ee5404ff6d833940e1ecc34663b29d7a41c

apply clang-format after 5cd2ab9

Change-Id: I186e90d99cd54e66d38159b7cb55a881226b1568

Merge "Use the aom_writer type rather than the tag in calling code." into nextgenv2

Move ANS to aom_dsp.

That's where it lives in aom/master.

Change-Id: I38f405827d9c2d0b06ef5f3bfd7cadc35d5991ef

Merge "Kludge to keep ANS building while porting from aom/master." into nextgenv2

Use the aom_writer type rather than the tag in calling code.

This makes room for typedefing some other struct to aom_writer.

Change-Id: I1e82de1320da00b3e41c90b14f2df45e7628aa89
(cherry picked from commit d69161f8f1eed602e0e5d21f4e6157b674e30cf6)

Move and wrap the old vpx boolcoder.

This should make room for compile time pluggable replacements.

Change-Id: Ib7afcffa93bf664b89a49da21a20138127443292
(cherry picked from commit 9dd0b8982445515d6dddb6342e655b56062a8f7f)

Kludge to keep ANS building while porting from aom/master.

Change-Id: I9e74bdb94c5640aca025b11b6676e8a8c008f47e

Merge "Enable tile-adaptive restoration" into nextgenv2

Enable tile-adaptive restoration

Includes a major refactoring/enhancement to support
tile-adaptive switchable restoration. The framework can be
readily extended to add more restoration schemes in the
future. Also includes various cleanups and fixes.

Specifically the framework allows restoration to be conducted
on tiles such that each tile can be either left unrestored, or
use bilateral or wiener filtering.

There is a modest improvemnt in coding efficiency (0.1 - 0.2%).

Further enhancements will be added subsequently to improve coding
efficiency and complexity.

Change-Id: I5ebedb04785ce1ef6f324abe209e925c2d6cbe8a

Style fixes for global motion experiment

These are in response to a post-commit review in
Ib6664df44090e8cfa4db9f2f9e0556931ccfe5c8

Change-Id: I1e07ccab18558dfdd996547a72a396abe02ed23d

apply clang-format

Change-Id: If22018f8911d9d7ee99c2127bdfcc56e42b0e2d7

.clang-format: update to 3.8.1

based on --style=Google with the following differences:
3a4
> # Generated with clang-format 3.8.1
13c14
< AllowShortCaseLabelsOnASingleLine: false
---
> AllowShortCaseLabelsOnASingleLine: true
41c42
< ConstructorInitializerAllOnOneLineOrOnePerLine: true
---
> ConstructorInitializerAllOnOneLineOrOnePerLine: false
44,45c45,46
< Cpp11BracedListStyle: true
< DerivePointerAlignment: true
---
> Cpp11BracedListStyle: false
> DerivePointerAlignment: false
73c74
< PointerAlignment: Left
---
> PointerAlignment: Right
75c76
< SortIncludes:    true
---
> SortIncludes:    false

SortIncludes will like be enabled in a future commit

Change-Id: I5c404f44081b65354e7f526411c91fbbe31ac5af
(cherry picked from commit 6d84689870e1437b2ebb5df56c672b3249b975bb)

Sort header files

cherry-picked #ecd07473 from aom/master

Change-Id: Id8f45d9c11406fc301b39801c5228ccd6aa2d5d6

aomdec.sh : Make this test create files if needed to test decoder.

If test files don't already exist it calls aomenc to create them.

cherry-picked #ee9ac321 from aom/master

Change-Id: I0e0f33cb60b3492e9106d6c9e2c51f64f71ebb63

simple_encoder: make it so we can run it in tests.

Added a limit, resolving a todo and added a limit parameter so that we
can do a very simple fast encode in 1 pass.

Change-Id: I265cd912d970d560a0b00b86e6c7ec7b6fef1e7b

simple_decoder.sh: Support encoding in decode test scripts.

Adding AV1 input files to the test set is not feasible because the
bitstream is in constant flux. Add test input encoding and hook
it up in simple_decoder.sh to start.

cherry-picked #b591df89 from aom/master

Change-Id: Ie4c06a7c458cdc2ab003d27fb92418c77c87fc88

Merge "Convert to int before adding negative numbers" into nextgenv2

Merge "Convert "var" to uint64_t" into nextgenv2

Merge "twopass_encoder: sample and test script fixed." into nextgenv2

Merge "set_maps: add back script and fix." into nextgenv2

Merge "Clarify valid value ranges" into nextgenv2

Merge "change to use correct type" into nextgenv2

Merge "Add SSE2 versions of av1_fht8x16 and av1_fht16x8" into nextgenv2

Convert to int before adding negative numbers

This is avoid that -1 overflows uint32_t.

cherry-picked #c48106da from aom/master

Change-Id: Ic3d99b1985cdb0a28cc83f8291422f5aba5a5a6d

Convert "var" to uint64_t

This is to avoid overflow at uint32_t.

cherry-picked #000098a0 from aom/master

Change-Id: I549d2d13d0577fd05d57303a438fbc8034755e45

twopass_encoder: sample and test script fixed.

Added a limit function and removed a todo and fixed script so that
it can actually be run on av1.

cherry-picked #1801d35d from aom/master

Change-Id: Ib8d1d1b5c7dbe0169e4e6c7d89d28801d7699c37

set_maps: add back script and fix.

cherry-picked #a5c5f856 from aom/master

Change-Id: Ie50a81063b5e14f4b5f3b5adcb822dba6b3ee93d

Clarify valid value ranges

This commit adds asserts to clarify value ranges in sum computations,
also corrects type conversion used in related calculations.

cherry-picked #738d5b19 from aom/master

Change-Id: Ib6d574ec23e5c28ccd994dac26f973eb3920430d

change to use correct type

This commit changes to use uint32_t for cost (always non-negative),
and promote to int64_t before calculation of the savings.

This fixes an integer overflow.

cherry-picked #a3028ddf from aom/master

Change-Id: I71c2580d188cc79d2d8069241d0353cf331b5c83

resize_util.sh : resize util was removed.

The app this script called was removed in this patch.
50cbe24 remove more vp8 and vp9 only code

cherry-picked #1c17dd6f from aom/master

Change-Id: Ib622eff6a3a35c5dab26908b094ace969f128c11

Make deadline mode not depend on frame duration.

Backwards compatible with old API.

cherry-picked #02ae3dd3 from aom/master.

Change-Id: I65aa43f84bb9491e8cca73fe444094c2622b0187

Fix decoding Daala deringing and CLPF filters with tiling.

cherry-picked #14ed7a61 from aom/master

Change-Id: I077b0e97186bdd292f925e08966a2ca3cf8c250d

Change to use correct type

This commit changes to use int instead of unsigned for a variable used in
inverse quantization.

Change-Id: I8f0ff5f80c9e68d52425265ef177357c65ead1e2

aomenc: Remove tests unsupported in av1.

Change-Id: I9379eedd577c8bfb7b82f1c996e4ee4c62ce686b

vp8_multi_resolution_encoder.sh: remove file

Change-Id: I3be6480b98cdde4c24b6cdfbebf362072153bcca

restore vp9 and vpx in libwebm

renaming should not have been applied to third_party.

Change-Id: I95be7ec4b7558298cd49ec4c5d1ed15a17ad222b

Merge "simplify test code" into nextgenv2

Add SSE2 versions of av1_fht8x16 and av1_fht16x8

Encoder speedup ~2% with ext-tx + rect-tx

Change-Id: Id56ddf102a887de31d181bde6d8ef8c4f03da945

Merge "Fix some var_tx related rd_costing mismatches" into nextgenv2

Merge "Swap order of affine parameters" into nextgenv2

simplify test code

Change-Id: Ib5491fb8f5dd7edf27c74abdd21b1f0a42aafd1f

Merge "Rd fixes and cleanups" into nextgenv2

Merge "aom_mem,align_addr: use ~ to create mask" into nextgenv2

aom_cx_set_ref: add example showing setting reference frame

Manually cherry-picked from AOM:
16944e59 aom_cx_set_ref: Example showing setting a reference frame
8f4c0ec8 examples.mk - Invalid comment fixed

Change-Id: Ifa87611561b089aebef2c132099baf265c845b10

variance_impl_avx2.c: align a table for better readability

Change-Id: I8cd99f9807dbfe6f70147615d2fd6775a7d98c16

s/INTERP_FILTER/InterpFilter/

this matches style guidelines and stabilizes successive runs of
clang-format across the tree. remaining types should be address in
successive commits.

Change-Id: I6ad3f69cf0a22cb9a9b895b272195f891f71170f

Rd fixes and cleanups

A minor cleanup and an enhancement to return y_skip correctly
from sub8x8 intra mode search.

Change-Id: I87256d3cc5f57a2fd7b837d461cc1a7f06e01a1b

Fix some var_tx related rd_costing mismatches

This makes the code in select_tx_size_fix_type match the
corresponding code in pack_inter_mode_mvs.

Change-Id: I69bcc0dc6fdd733091fafe9188a3f7397e1e613f

aom_mem,align_addr: use ~ to create mask

removes the need for an intermediate cast to int, which was missing in
the call added in:
73a3fd4 aom_mem: Refactor code

quiets a visual studio warning:
C4146: unary minus operator applied to unsigned type, result still
unsigned

Change-Id: I76c4003416759c6c76b78f74de7c0d2ba5071216

fix 'dist' & other decode-only builds

common/av1_fwd_txfm.[hc] are encode-only; add a TODO to relocate them

Change-Id: I28cf8d0b22632b04066bcb72f3d2252ee7eb153e

av1_inv_txfm_test: fix decode-only build

fdct's are only enabled with --enable-av1-encoder

Change-Id: Iaf1dfdf713f2ecd1d215ba7ec635f353c02fa4d0

Merge "Parameter adjustments to loop restoration" into nextgenv2