]> granicus.if.org Git - libvpx/commit
Enable adaptive pred filter type for sub8x8
authorJingning Han <jingning@google.com>
Fri, 13 Dec 2013 01:31:04 +0000 (17:31 -0800)
committerJingning Han <jingning@google.com>
Fri, 13 Dec 2013 01:54:34 +0000 (17:54 -0800)
commit3b5a90bd868a3469659e4cb78ec37032863cb92d
tree38b132eb86b2efbe0e1b106b03f184db5d0a7c03
parent7edd5170b5e94c7f58e7e150cbe5446fc993a5de
Enable adaptive pred filter type for sub8x8

This commit enables an adaptive prediction filter type selection
for sub8x8 block sizes. In speed 1, it re-uses the filter type of
collocated 8x8 block if it is tested in the rate-distortion optimization
loop, for the sub8x8 blocks. Otherwise, it runs the normal test
over all the three filter types. In speed 2, it re-uses the 8x8
block's prediction filter type, if available. Otherwise, force it
to be EIGHTTAP.

Compression and speed performance wise:
speed 1
derf -0.266%
yt   -0.138%

bus at 2000 kbps: 33766ms -> 30451ms (10% speed-up)
football at 600 kbps: 48173ms -> 43786ms (9% speed-up)

speed 2
derf -0.026%
yt   +0.134%

bus at 2000 kbps: 18973ms -> 17698ms (6% speed-up)
football at 600 kbps: 26748ms -> 25096ms (6% speed-up)

Change-Id: I77e097533b969fd3472147225fa79fc98095d342
vp9/encoder/vp9_block.h
vp9/encoder/vp9_encodeframe.c
vp9/encoder/vp9_onyx_if.c
vp9/encoder/vp9_onyx_int.h
vp9/encoder/vp9_rdopt.c