]> granicus.if.org Git - libvpx/commit
Add horizontal and vertical scan order for 1-D transform
authorJingning Han <jingning@google.com>
Wed, 9 Mar 2016 16:58:07 +0000 (08:58 -0800)
committerJingning Han <jingning@google.com>
Wed, 9 Mar 2016 18:58:23 +0000 (10:58 -0800)
commite0413094fb757643984d04f30f865ba26db5b4c4
tree27a7cab08f4bf4fd6d084575b772c21294ff287f
parenta8dc9694a4f7bd3f65564f8c9307d6ab37551fc7
Add horizontal and vertical scan order for 1-D transform

This commit enables the 1-D transform to use Manhattan grid vertical
and horizontal scan order for transform coefficient entropy coding.

Enabled in inter prediction mode, the hybrid 1D/2D transform coding
scheme outperforms the 2D-DCT based coding system used in VP9 by
lowres_all  1.7%
hdres_all   1.4%

As one coding option, in addition to the existing 17 other transform
types in ext-tx experiment, the 1D/2D hybrid transform improves
the coding gains:
lowres_all  2.2% -> 3.0%

Change-Id: I9cefa9d9e38224546d0afd67feecd9f8d4a16ab0
vp10/common/scan.c
vp10/decoder/decodeframe.c