Merge "Updated encoder to handle intra-only frames"

Merge "Remove Windows-style newlines using dos2unix"

Merge "Make vp9_zero use cases of consistent format"

Updated encoder to handle intra-only frames

Updated the encoder to handle frames that are coded
intra-only. Intra-only frames must be non-showable,
that is, the "show frame" flag must be set to 0 in
the frame header.

Tested by forcing the ARF frames to be coded intra-
only.

Note: The rate control code will need to be modified
to account for intra-only frames better than they
are currently handled.

Change-Id: I6a9dd5337deddcecc599d3a44a7431909ed21079

Merge "Remove unused variable vp9_64x64_zeros"

Merge "Fix a few indent format issues in buffer defs"

Merge "Remove unused comment"

Merge "Re-design all-zero-coeff block index buffer use"

Make vp9_zero use cases of consistent format

Remove the semicolon in the definition of vp9_zero macro. Make all
the use cases of vp9_zero of consistent format.

Change-Id: Ibaf9751e8595872b12766381a93d185a4d90df8f

Remove Windows-style newlines using dos2unix

Change-Id: I0a0f9c07e774450896abc9455728b97fd38ef00c

Merge "Converted assertion to returning error"

Merge "Added trap for invalid key frame"

Merge "Prevent access to invalid pointer"

Merge "Add clamp to prevent out of bound access"

Converted assertion to returning error

Assertion happens for invalid input data, the commit replace the
assertion with returning error.

Change-Id: I1b73ae752d64882d984cd23936efe75a757c2b41

Added trap for invalid key frame

Change-Id: I698e8df9b336d38bffe01e656acba00d4003695f

Prevent access to invalid pointer

The commit added check to make sure no invalid memory access even when
the decoder instance is never initialized.

Change-Id: I4da343d0b3c78c27777ac7f5ce7688562c69f0c5

Add clamp to prevent out of bound access

For bad input data, the decoder may access the array out of bounds. The
commit added clamp to prevent such out of bound access

Change-Id: I0a1cfd9b8786ea7113a998053c76605c963b077a

Remove unused variable vp9_64x64_zeros

Remove the unused variable vp9_64x64_zeros from vp9_encodeframe_.

Change-Id: I34bfdcab9a9105440ad05154c1e0516e70258785

Fix a few indent format issues in buffer defs

Change-Id: Iac55891ac9e6f13718c9f822aa099b5ca491832a

Remove unused comment

Change-Id: I2d96940fae4c7a16661a43c2bf6907d8b1c1a127

Removing unused 8x4 transform from the encoder.

Change-Id: Icbcf68b5b685a56f255ebc3859c9692accdadf9e

Re-design all-zero-coeff block index buffer use

Use the zcoeff_blk buffer of PICK_MODE_CONTEXT to store the indexes
of all-zero-coeff block of the current best mode. Remove the temporary
buffer best_zcoeff_blk defined in the rate-distortion optimization
loop. This improves the speed performance by about 0.5% in all speed
settings.

Change-Id: Ie3e15988ddfa581eafa2e19a8228d3fe4a46095c

Merge "add a test vector with frame parallel mode enabled"

Merge "vp9_receive_compressed_data: remove unnecessary indent"

Merge "Move token_cache from cost_coeffs to MACROBLOCK"

Move token_cache from cost_coeffs to MACROBLOCK

This commit moves token_cache buffer into macroblock struct, instead
of defining as a local variable in cost_coeffs. This avoids repeatedly
re-allocating memory space in the rate-distortion optimization loop.

The runtime at speed 0 reduces:
bus 2000kbps, 161692ms to 159951ms
football 600kbps, 229505ms to 225821ms

Change-Id: If7da6b0b6d8c5138a16271a33c4548fba33d8840

add a test vector with frame parallel mode enabled

vp90-2-07-frame_parallel.webm:
vpxenc stefan_sif.y4m \
  --codec=vp9 -p 2 \
  --frame-parallel=1 \
  --limit=10 \
  --auto-alt-ref=1 \
  --lag-in-frames=5

Change-Id: I7381a69aaaec238b309169a51b34cb6bf29a9c50

Merge "Moving libmkv library to third_party folder."

Merge "Making input pointer of any inverse transform constant."

Merge "Adding TREE_SIZE macro + cleanup."

Merge "Adjust icc compiler options"

Adjust icc compiler options

"-no-prec-div" option helps codec performance, so it was added back.
"-no-intel-extensions" was added to suppress link warning #10237.
option '-use-asm' is deprecated and removed.

Tested icc 32bit build and 64bit build.

Change-Id: I736ec2619857efd425ef76338dc52f8fbc0bcc7e

Making input pointer of any inverse transform constant.

Also renaming dest_stride to stride in some places.

Change-Id: I75f602b623a5a7071d4922b747c45fa0b7d7a940

Merge "Get libvpx to compile on VS2013."

Adding TREE_SIZE macro + cleanup.

Using TREE_SIZE for the following trees:
  vp9_intra_mode_tree
  vp9_inter_mode_tree
  vp9_partition_tree
  vp9_switchable_interp_tree
  vp9_mv_joint_tree
  vp9_mv_class_tree
  vp9_mv_class0_tree
  vp9_mv_fp_tree

Change-Id: I0212bb4c1ee6648249f68517e28a67a56591ee1b

Consistent names for inverse hybrid transforms (2 of 2).

Renames:
  vp9_iht_add       -> vp9_iht4x4_add
  vp9_iht_add_8x8   -> vp9_iht8x8_add
  vp9_iht_add_16x16 -> vp9_iht16x16_add

Change-Id: I8f1a2913e02d90d41f174f27e4ee2fad0dbd4a21

Merge "Consistent names for inverse hybrid transforms (1 of 2)."

Get libvpx to compile on VS2013.

`round` is defined in the runtime library now.
https://codereview.chromium.org/23922008/

Change-Id: I3852740058d32f63ce283579acbe284865e32dba

Merge "Replacing {VP9_COEF, MODE}_UPDATE_PROB with DIFF_UPDATE_PROB."

Merge "Change in rddiv parameter to make it a power of 2"

Consistent names for inverse hybrid transforms (1 of 2).

Renames:
  vp9_short_iht4x4_add     -> vp9_iht4x4_16_add
  vp9_short_iht8x8_add     -> vp9_iht8x8_64_add
  vp9_short_iht16x16_add_c -> vp9_iht16x16_256_add

Change-Id: Ibca7a188fd062b196787ac5efc1ea545e7f166c0

Merge "Adding const to the input argument of all 1D transforms."

Merge "Masking intra mode choice adaptively"

Adding const to the input argument of all 1D transforms.

Also adding static to iadst16_1d and fadst16 functions.

Change-Id: I13c7df3b776f0f8efc6e80099bdb0a2f6d29edaf

Replacing {VP9_COEF, MODE}_UPDATE_PROB with DIFF_UPDATE_PROB.

Values of MODE_UPDATE_PROB and VP9_COEF_UPDATE_PROB are equal, so replacing
them with one constant. Inlining appropriate arguments for functions:
  vp9_cond_prob_diff_update (encoder)
  vp9_diff_update_prob (decoder)

Change-Id: I1255a1cb477743b799b3bfbbcd8de6b32b067338

Merge "Removing vp9_tree_p typedef."

Merge "Removing vp9_idct4_1d_sse2 function."

Change in rddiv parameter to make it a power of 2

Converts the constant rddiv parameter to 128 (from 100) and
implements RDCOST with bit-shift rather than multiplication.
Other parameters are also adjusted to roughly keep the same
balance between Rate and Distortion.

There is a slight speed-up of about 0.5-1% (at speed 0) as
testted on football_cif.

There is a slight change in performance due to small change
in the parameters.
derfraw300: +0.033%
stdhdraw250; +0.102%

Change-Id: I70ac69f58fa71c83108f68fe41796cd19d1fc760

Masking intra mode choice adaptively

The commit changes to mask available intra prediction modes for test
based on prediction block size.

With this patch, encoding time of CpuUsed 2 reduces from 10% to 20% for
HD clips with a compression drop of 0.2%

Change-Id: I65f320f1237c0f5ae3a355bf7caf447f55625455

Merge "Code cleanup"

Merge "Restore mode skip feature in sub8x8 rd loop"

Code cleanup

Minor code cleanup.

Change-Id: I47c1f794842d4570bb39cfd23b80f54f5606bba6

Merge "Experimental rate control change."

Merge "Disable recode loop."

Merge "SSE2 8-tap sub-pixel filter optimization"

Experimental rate control change.

When the codec in VBR (or cq) mode hits its max q limits and is
struggling to hit a target bandwidth, the bit target per frame collapses.

In the first instance normal frames cap out at the maximum allowed
Q and then the ARF and GFs do the same. This latter behavior is not
generally desirable as GFs and ARFs are only effective from a quality
and data rate perspective if they have at lease some level of -Q delta
compared to the surrounding frames.

In this patch I define a separate max Q for GFs and ARFs that is
derived from but somewhat lower than that defined for normal frames.
In effect there is a minimum Q delta that will always be available for
GFs and ARFs regardless of the target rate and MAXQ setting.

This may of course mean that the absolute lowest rate obtainable for
a given clip is somewhat higher.

Change-Id: I268868b28401900d0cd87e51e609cd3b784ab54a

Disable recode loop.

For VBR coding disable the recode loop for speeds > 0.

Results pending.

Change-Id: I2cd9a87c3fcbe39c05b954798d0671a4ca62c37f

Adjustment to allowed range in resize unit test

Change-Id: I5222e3db2627a3a9f7fc34f2ab4554aa5807ed51

Removing vp9_tree_p typedef.

It is used only two times and it is more clear to use real type instead
of typedef.

Change-Id: Idc25c16504c3da4d040e0cdb33a2987631bb6a5b

Removing vp9_idct4_1d_sse2 function.

We have two SSE2-optimized functions for idct4_1d:
  vp9_idct4_1d_sse2 <-- removing this one
  idct4_1d_sse2

vp9_idct4_1d_sse2 was used only by the following functions which already
have SSE2 optimized variants:
  vp9_idct4x4_16_add_c   -> vp9_idct4x4_16_add_see2
  idct8_1d               -> vp9_idct8x8_{16, 10, 1}_see2
  vp9_short_iht4x4_add_c -> vp9_short_iht4x4_add_see2

Change-Id: Ib0a7f6d1373dbaf7a4a41208cd9d0671fdf15edb

d207 intra prediction ssse3 using bytes

byte version of ronalds d207 ssse3 optimizations
(commit: f891f84d3ba9345b0074e682f0fea09b8ddf4f1e)

Change-Id: If15f71a589ea16f78ac86a501b0c5c6231dc9af1

Merge "Giving consistent names to IDCT 32x32 functions."

Merge "Consistent names for FDCT functions."

Merge "d153 intra prediction (32x32) ssse3 using bytes"

SSE2 8-tap sub-pixel filter optimization

To ensure fast encoding/decoding on devices without ssse3 support,
SSE2 optimization of sub-pixel filters was done. Test using 1080p
clip showed the decoder speeds were ~70fps with ssse3 filters, ~60fps
with sse2 filters, and ~15fps with c filters.

Change-Id: Ie2088f87d83a889fba80a613e4d0e287aadd785c

Merge "Fix typo in comment message"

Merge "change to avoid out-of-range computation"

Merge "Re-design rate-distortion cost tracking buffers"

Fix typo in comment message

Change-Id: Ifef756a3a91423bb9f5411f06fa092027be21ecf

Consistent names for FDCT functions.

Renames:
  fdct4_1d   -> fdct4
  fadst4_1d  -> fadst4
  fdct8_1d   -> fdct8
  fadst8_1d  -> fadst8
  fdct16_1d  -> fdct16
  fadst16_1d -> fadst16

"_1d" suffix is redundant, so removing it. The same will happen with idct
in the next change sets.

Change-Id: Ibf421cd2f569146c6079269df7a31819c098265e

Giving consistent names to IDCT 32x32 functions.

Renames:
  vp9_short_idct32x32_add   -> vp9_idct32x32_1024_add
  vp9_short_idct32x32_1_add -> vp9_idct32x32_1_add
  vp9_idct_add_32x32        -> vp9_idct32x32_add

Change-Id: Id85306f5814bac6c47463a6b5901a93082510666

Re-design rate-distortion cost tracking buffers

This commit re-designs the per transformed block rate-distortion
costs tracking buffers. It removes redundant buffer usage, makes
the needed context memory allocation per VP9_COMP instance and
reuses the same buffer sets inside the rate-distortion optimization
search loop, thereby avoiding repeatedly requiring memory space.

It reduces speed 0 runtime:

bus at 2000 kbps from 166763ms to 158967ms,
football at 600 kbps from 246614ms to 234257ms.

Both about 5% speed-up. Local tests suggest about 2% to 5% speed-up
for speed 1 and 2 settings. This does not change compression
performance.

Change-Id: I363514c5276b5cf9a38c7251088ffc6ab7f9a4c3

change to avoid out-of-range computation

Change-Id: Id5e31833a0ef40de9f64c2f5674af7083233bf14

Merge "Removing inv_txm4x4_1_add and inv_txm4x4_add function pointers."

Merge "Moving all scan/iscan code into separate vp9_scan.{h, c} files."

Merge "Giving consistent names to IDCT 16x16 functions."

Merge "Adding const to several pointers."

Merge "Adjustment to mv cost parameters"

Merge "Fix intra dist model of skip_encode feature"

Merge "Allow sub8x8 intra modes test for alt frame coding"

Merge "Disable MODE_TEST_HIT_STATS"

Adjustment to mv cost parameters

Increases these parameters.
There is a small efficiency gain.

Change-Id: Ie5f0ddb39c907d335e0dafa5eb112365a81f4542
derfraw300: +0.091%
stdhdraw250: +0.238%

Adding const to several pointers.

Change-Id: I7231589bda71d0d23c730283febd5bb58585a0da

Merge "Simplifying and inlining k_cvtlo_epi16 and k_cvthi_epi16"

Fix intra dist model of skip_encode feature

The intra mode distortion adjustment for skip_encode feature was
broken in the refactoring cc91851. This commit fixes it and tunes
the distortion models used therein.

Change-Id: I0d676e82f8e855536a90cf9b3e3fdefafcd886c6

Merge "Added #define of snprintf for MSVC"

Added #define of snprintf for MSVC

snprintf is not supported by MSVC, the commit replace it with the msvc
variant _snprintf to enable build.

Change-Id: I686943a78c289bae6b486a5e75effad5f86c24de

Merge "Clean-ups in rdopt.c"

Clean-ups in rdopt.c

Some minor cleanups in preparation for experimentation with
some encode parameters and thresholds

Change-Id: I449d66da97eae0a7acdf4aae374e2f9111342056

Merge "Deprecate the use of PARTITION_INFO from encoder"

Deprecate the use of PARTITION_INFO from encoder

Use b_mode_info to store the inter prediction mode of sub8x8 block,
in replacement of the use of partition_info. Remove redundant buffer
update for partition_info. For bus_cif at 2000 kbps, this seem to make
speed 0 about 1% faster.

Change-Id: Id1b3be45e75a24fb4b42335ac480c23e440978f6

mips dsp-ase r2 vp9 decoder bilinear convolve optimizations

Change-Id: Ic31b4ef85e65070b4f8b9f26e068ccfaae00c4f0

Merge "vp9_blockd.h: update get_tx_eob() signature"

Remove extra line in decode_coefs

Change-Id: Id1fde9920d60c6991a8ef6de5103ae3e578312ed

Merge "All zero coeff skip in IDCT 32x32"

All zero coeff skip in IDCT 32x32

When all coefficients are zeros, skip the corresponding 1-D inverse
transform. This practice has been used in the SSE2 implementation of
inverse 32x32 DCT. This commit imports this algorithm into the C code.

Change-Id: I0f58bfcb183a569fab85d524d5d9cf8ae8653f86

Removing inv_txm4x4_1_add and inv_txm4x4_add function pointers.

We already have itxm_add member in MACROBLOCKD structure. Both
inv_txm4x4_1_add and inv_txm4x4_add are just its special cases for
different eob values. But eob logic is already implemented in
vp9_iwht4x4_add and vp9_idct4x4_add (that's why also removing
inverse_transform_b_4x4_add).

Change-Id: I80bec9b6f7d40c5e5033c613faca5c819c3e6326

Merge "Removing redundant vp9_pt_energy_class declarations."

Merge "easy to fix cpplint issue in rdopt.c"