Move msa implementations of 2D-DCT to vpx_dsp

Refactor and clean up the msa transform related code layout.

Change-Id: Ic5048bd3d62a6046589817da745370ea89448e44

Merge "Add x86_64 flag to guard fwd_txfm_ssse3.asm in make file"

Merge "Fix vp9_psnrhvs.c build error"

Fix vp9_psnrhvs.c build error

Add vpx_dsp_rtcd.h to the header file list. The od_bin_fdct8x8()
here depends on forward 8x8 2D-DCT.

Change-Id: I1d71edc71f07069808823d2445c1cafd285e1b94

Add x86_64 flag to guard fwd_txfm_ssse3.asm in make file

This fixes a VS build error. Fix by @johannkoenig.

Change-Id: I6e71435d70ae56079db7328e4c7915416ece8fda

Refactor forward/inverse transform msa implementations

This commit factors out common macro definitions from the forward
and inverse transform implementations into vpx_dsp. It removes
the duplicate macro definitions from encoder and decoder folders.

Change-Id: I92301acbd3317075e9c5f03328a25abb123bca78

Merge "mips/dspr2: fix vp9-highbitdepth build"

Merge "Take out VP9_ prefix from mips/msa macros"

Merge "mips msa vp8 sixtap filter optimization"

Merge "Added TODOs for two unused #defines"

Take out VP9_ prefix from mips/msa macros

The msa macros are locally used and should not be named with VP9
prefix.

Change-Id: I2c9c746c4027383c16b9ab12b77b4e70e7e7d206

Merge "Factor forward 2D-DCT transforms into vpx_dsp"

Added TODOs for two unused #defines

Change-Id: I70407e9350147d6585667f157d9cfe78c6251d26

Factor forward 2D-DCT transforms into vpx_dsp

This commit factors the 4x4, 8x8, and 16x16 2D-DCT forward
transform operations into vpx_dsp folder.

Change-Id: I084b117b79c0925edcbcabb93f62b9f4bf8dbe7d

mips/dspr2: fix vp9-highbitdepth build

vp9_itrans*_dspr2.c aren't necessary for high bitdepth builds and
notably vp9_itrans8_dspr2.c fails in various configurations using a
codesourcery toolchain:
vp9_itrans8_dspr2.c:31:5: can't find a register in class 'GR_REGS' while reloading 'asm'

Change-Id: I2ac76203e65cc643cb835ab50e95701896d92a1a

Merge "Delete ChangeFilterWorks test"

Delete ChangeFilterWorks test

This test places 128 in positions that would not be found
in the VP9 filter tables.  The ssse3 code packs this table
into chars and uses the pmaddubsw instruction, which treats
the value as signed.  The ssse3 code checks for 128 in
position 3, skipping the ssse3 code if found, and calls
vp9_convolve8_c().  vp9_convolve8_c() is also used for scaling.
ChangeFilterWorks breaks the ssse3 scaling code found in other
commits.

Change-Id: I1f5a76834bc35180b9094c48f9421bdb19d3d1cb

Fill buffer speed up

Eliminates the byte by byte read from bool decoder,  by reading
in a size_t and then shifting it into place.

Change-Id: I0ed8c7b6f942847e79cc90105dc1d2b5b3deb0d6

Merge "Clean up vp9_dct32x32_sse2_impl.h header files"

Merge "mips msa vp9 avg subpel variance optimization rebased"

Merge "Arrange 1D forward transform order in vp9_dct.c"

Merge "Remove redundant function definitions from vp9_dct.h"

Merge "vpx_dsp/bitwriter_buffer.h: vp9_ -> vpx_"

Merge "vpx_dsp/bitwriter.h: vp9_->vpx_"

Merge "vpx_dsp/prob.h: vp9_ -> vpx_"

Merge "vpx_dsp/bitreader_buffer.h: vp9_->vpx_"

Merge "vpx_dsp/bitreader.h: vp9_->vpx_"

Merge "Fix bug in setting sf->use_square_partition_only."

vpx_dsp/bitwriter_buffer.h: vp9_ -> vpx_

Change-Id: I0ac7beaa160a6c2a60a019f6b8ce85e6537bed7d

vpx_dsp/bitwriter.h: vp9_->vpx_

changes prefix vp9_ to vpx_ for non codec specific functions and
data structures.

Change-Id: I91a21548e39bd24d2c7caaaa223ae47240bb78c8

vpx_dsp/prob.h: vp9_ -> vpx_

change prefix vp9_ to vpx_ for non codec specific functions and data
structures.

Change-Id: I97c7e6422eceea99212b93f4942bc2187763a07c

vpx_dsp/bitreader_buffer.h: vp9_->vpx_

Replace vp9_ in names to vpx_ for non codec specific functions.

Change-Id: Ib9e3b86cb0728d10b239f3493ceda18cc2c34e0f

vpx_dsp/bitreader.h: vp9_->vpx_

Replace vp9_ in names to vpx_ as they are not codec specific.

Change-Id: I2e583aa63dee769353ada4b42417aa15c4074ebb

Clean up vp9_dct32x32_sse2_impl.h header files

Remove redundant file dependency.

Change-Id: I4708218157617dabe00e2e33e237be2838c16603

Arrange 1D forward transform order in vp9_dct.c

Remove the redundant function declarations therein.

Change-Id: I27731fb70bb1abce63da761a5812f518c62f590f

Remove redundant function definitions from vp9_dct.h

Change-Id: I963f08f1023481712c6f9ed624ddf05e5bac6321

Merge "Make local functions in vp9_dct.c static"

Merge "Correctly report "Unsupported bitstream profile""

Make local functions in vp9_dct.c static

This commit limits the scope of 1-D DCT and ADST functions within
vp9_dct.c and makes them static. This largely clears out the cross
referencing issue between vp9_dct.c and the SIMD optimizations.

Change-Id: If7cac478b11bb32328ccf70a9f60b709dad43d7f

Merge "Remove vp9_ prefix from bit writer files"

Merge "Move bit writer files to vpx_dsp/"

Merge "Unify the high bit-depth forward hybrid transforms"

Merge "Refactor highbd forward transform use case"

Remove vp9_ prefix from bit writer files

Change-Id: I07647c7482b9ec498fbad3a9c9901f72b2336500

Move bit writer files to vpx_dsp/

Change-Id: Id27e0007a0feac821ca66bcecbf3a723305da82d

Unify the high bit-depth forward hybrid transforms

The SSE2 version high bit-depth forward hybrid transforms are
essentially using the C functions via cross referencing to 1-D
functions in vp9_dct.c. This commit unifies the two versions and
removes the unnecessary dependency.

Change-Id: Ib4d0702a138f8daf7d0bd97c141ee7088f293765

Fix uninitialized value warning

Change-Id: Ib919a8ec2ec66d460d2f8a26d72aabc09dcbbd72

Refactor highbd forward transform use case

Separate the hybrid transform case from 2D-DCT case. This will
allow us to clear up cross dependency between c and SIMD
implementations later.

Change-Id: Iaa499e8b096850a1c5a0c50a3b6e63e15d0184bf

Merge "Removed vp9_ prefix from vpx_dsp/bitreader file names"

Merge "Migrate quantization functions from vp9/ to vpx_dsp/"

Removed vp9_ prefix from vpx_dsp/bitreader file names

Change-Id: I0426126d0a65f13f9250983e44cc366b1b1a9c4a

Merge "Move bit reader files to vpx_dsp"

Merge "Remove dspr2 loop filter files from vp9_common.mk"

Merge "Rename loop filter function from vp9_ to vpx_"

Remove dspr2 loop filter files from vp9_common.mk

These files have been moved to vpx_dsp directory. Clean the
vp9_common make file accordingly.

Change-Id: I9b1e820376421c801f705157e60cc7a55487f469

Migrate quantization functions from vp9/ to vpx_dsp/

The following quantization functions were moved:
vp9_quantize_b
vp9_quantize_b_32x32
vp9_highbd_quantize_b
vp9_highbd_quantize_b_32x32

vp9_quantize_dc
vp9_quantize_dc_32x32
vp9_highbd_quantize_dc
vp9_highbd_quantize_dc_32x32

The purpose of doing that was to allow these functions to be shared
by multiple codecs.

Change-Id: Id8ab939f283353cdd07bd930d47db3d932a5d87f

Rename loop filter function from vp9_ to vpx_

Change-Id: I6f424bb8daec26bf8482b5d75dd9b0e45c11a665

Move bit reader files to vpx_dsp

Change-Id: Ib1cb1fbe92a39ff5312cee069559be6d3ea458d0

Merge "Dynamic resize 1 pass mode: fix buffer underflow threshold."

Migrate mips dspr2 loop filter implementation from vp9 to vpx

This commit moves the loop filter dspr2 implementation from vp9 to
vpx_dsp directory. It also fixes header file format issues.

Change-Id: I09203ed4bd267d7fd76bb79a6ee84a37646206b2

Dynamic resize 1 pass mode: fix buffer underflow threshold.

Remove the use of drop_frames_water_mark, as this is used for
frame dropping control. Use fixed threshold for now on buffer underflow.

Change-Id: If0ddda9f7f6fa96067cdcb0eccb42e17bda37c32

Correctly report "Unsupported bitstream profile"

For vp9 decoder build without profile 2 and profile 3 support, this
commit changes to report error "Unsupported bitstream profile" for
input streams in profile 2 or 3, rather than other misleading error
information.

In addition, one of the invalid files in unit tests is actually coded
profile 2, this commit makes it tested only when the decoder is built
with vp9-highbitdepth.

This fixes issue #1028.

Change-Id: I8b6c1210787c8f89c703a546687dcf973ac20fc0

Resolve dspr2 loop filter dependency complexity

Narrow the scope of dependency required by the dspr2 implementation
of loop filters.

Change-Id: Ib8d99dc7d9c231f69dd31d02e0a89e5bd0545a28

Replace vp9_common_dspr2.h with common_dspr2.h

Narrow the scope of dependency in dspr2 loop filter implementation.

Change-Id: I30426d7e4d41575a82286f1d3c5881aeb99a3250

Create common dspr2 header file in vpx_dsp

Move the common prefetch_load/store in dspr2 to header file in
vpx_dsp/mips.

Change-Id: I8acc22970f2a0ef97d73061e39a3ae65c6955eac

Merge "Simplify dependencies in dspr2 related codes"

Merge "Take out unnecessary header file from highbd_loopfilter_sse2"

Merge "Remove vp9_ prefix from static function names in loopfilter_16_msa"

Merge "Migrate loop filter functions from vp9/ to vpx_dsp/"

Simplify dependencies in dspr2 related codes

The common_dspr2.h should be independent of codec-specific data
structures.

Change-Id: I34ee1f9552c2d2d205fd7f1813cdf312c7ff5d2b

Take out unnecessary header file from highbd_loopfilter_sse2

The dependency on vp9_loopfilter.h is not needed.

Change-Id: Ic0583c43d3d63f19cef06cf9d8e5c8031601be6a

Remove vp9_ prefix from static function names in loopfilter_16_msa

Remove the codec-specific global prefix from static function names.

Change-Id: I61b2d5f2b7b5fb9dc8bc357d5493ea44df8ab19d

Migrate loop filter functions from vp9/ to vpx_dsp/

The various tap loop filter operations are common functions across
codec. This commit moves them along with SIMD optimizations to
vpx_dsp folder.

Change-Id: Ia5fa0b2e5289cdb98467502a549c380b9c60e92c

Merge "Dynamic resize for 1 pass: update of golden frame."

Dynamic resize for 1 pass: update of golden frame.

In aq-mode=3 under a resizing action (i.e., resize_pending != 0),
force an update of the golden reference frame.

Change-Id: I14806f6db71b5f8c827678cc5e1fc913c138a9a4

Fix bug in setting sf->use_square_partition_only.

Fix bug in setting this flag for animated content.
The bug did cause quality to increase because far
more frames are not boosted than boosted.

However, the speed trade off to gain is a lot less
favorable and the behavior was not as intended.

Change-Id: I89fb70419c88b26f40b3534de0481730a1b3fcfa

Merge "Add vp9_int_pro_col_neon."

Merge "Add vpx_dsp_common.h file"

Merge "Remove redundant header files in vp9_loopfilter_filers.c"

Merge "Fix to resize logic for 1 pass mode."

Add vpx_dsp_common.h file

Move the clamp functions to vpx_dsp_common.h file. Clear out the
dependency of vp9_loopfilter_filters.c on vp9_common.h file.

Change-Id: I9c4b928bcd7f597106b5aa96354356d3775a3431

Remove redundant header files in vp9_loopfilter_filers.c

This cleans out the unnecessary dependency on vp9 codec-specific
data structures.

Change-Id: Iadbe431174a0f9bf9423f39ab854fc18be554bea

Adjust some logic for dynamic_resize 1 pass mode.

Use drop_frames_water_mark for threshold on buffer underflow,
and change threshold for resize down.

Change-Id: I2de19adce50abe9bcdc0b107528cec8cc1857fcc

Add vp9_int_pro_col_neon.

BUG=https://code.google.com/p/webm/issues/detail?id=1023

Change-Id: I212a1d67b23ce3b5ce08800de369b25b9e375e7d

Fix to source scaling for dynamic_resize.

The fast scaling for 1 pass mode was being used only on the
first frame after resizing event (because resize_scale_num/den
is set to 1 and only changed for first frame following resize event).

Change-Id: I723b63e21823eb858f25f5662d2bbe4f1842e61f

Fix to resize logic for 1 pass mode.

Proper use/update of resize_state and resize_pending to constrain
the total amount of downsizing to be at most one scale down, for now.

Change-Id: Id18fc32499f2fbdbec16728dcdc9e4eac09098f0

Merge "Add an SSE2 version of vp9_iwht4x4_16_add"

Add an SSE2 version of vp9_iwht4x4_16_add

Roughly half as many cycles as plain C.

Change-Id: I8c16c29940b76d54ee7e4fb874c328ce90bff5d4

Merge "Add extra resize trigger for frames above maximum allowed size."

Fixes part of merge regression from adding arf parameters.

From Change  Ibf0c30b72074b3f71918ab278ccccc02a95a70a0
There is still an issue relating to one animated test clip with repeat
patterns where this change effectively increase the default  maximum
arf interval by +1. This can be examined seperately.

Change-Id: Idd01d5480fc45202d8a059a0c3afc0997cc5bdd1

Merge "Refactor intra block prediction and reconstruction process"

Merge "Refactor intra block prediction function"

Refactor intra block prediction and reconstruction process

Flaten the intra block decoding process. It removes the legacy
foreach_transformed_block use in the decoder. This saves cycles
spent on retrieving the transform block position.

Change-Id: I21969afa50bb0a8ca292ef72f3569f33f663ef00

Refactor intra block prediction function

This commit simplifies the intra block boundary condition logic.
It removes the block index from the argument set.

Change-Id: If00142512eb88992613d6609356dfd73ba390138

Merge "Dynamic resize for real-time: source scaling"

Merge "Revert "Add an SSE2 version of vp9_iwht4x4_16_add.""

Revert "Add an SSE2 version of vp9_iwht4x4_16_add."

This reverts commit f8d35016408f3957c67945160d65be467ca97fdc.

Change-Id: If8c7af403c091b7fb447a6f0c73fecdbccbc51b3

Merge "Revert "Fill buffer speed up""

Revert "Fill buffer speed up"

This reverts commit 9b4f9f45eee4d63cef3cd10f24923ed0bdd5ab7b.

Change-Id: I23545ac8c7464127f7466fc6a58de517874fe0cf

mips msa vp8 sixtap filter optimization

average improvement ~3x-5x

Change-Id: I5fd88cb088814be443d04be384b9fca99b22adef