]> granicus.if.org Git - libvpx/commit
Fix bug in intra mode rd penalty.
authorpaulwilkins <paulwilkins@google.com>
Tue, 29 Aug 2017 20:08:08 +0000 (13:08 -0700)
committerpaulwilkins <paulwilkins@google.com>
Fri, 8 Sep 2017 14:10:53 +0000 (15:10 +0100)
commit0657f4732c89c46b7de673528ee9c83daf9f59b5
tree2651603887892149ef8312bc3361d4df8f3f2881
parentd7caee2170f9413d26977418fdeabd45fe615707
Fix bug in intra mode rd penalty.

The intra mode rd penalty was implemented as a rate penalty.
Code was added to scale the penalty according to block size but
this was not done correctly for the SB level or sub 8x8.

The code did a weird double scaling in regard to bit depth that
has been removed. Given that it is a rate penalty the bit depth
should not matter.

This bug fix improves average metrics  on our standard test
sets by about 0.1%

Change-Id: I7cf81b66aad0cda389fe234f47beba01c7493b1e
vp9/encoder/vp9_pickmode.c
vp9/encoder/vp9_rd.c
vp9/encoder/vp9_rd.h
vp9/encoder/vp9_rdopt.c