]> granicus.if.org Git - libvpx/commit
Fix a loophole in nonrd_pick_partition()
authorHui Su <huisu@google.com>
Thu, 27 Sep 2018 17:12:55 +0000 (10:12 -0700)
committerHui Su <huisu@google.com>
Thu, 27 Sep 2018 20:37:40 +0000 (13:37 -0700)
commit2176d88fc343c8ffa6f29fafc3cffb5ec043f1d2
tree044814f31747998878a31abc7ad4e97387084ab5
parent3a291593726a3f0eff5e59983e84de20d0bf294c
Fix a loophole in nonrd_pick_partition()

In some rare cases, all possible paritions may be skipped during RD
search. The patch makes the encoder do rectangular partition search if
both partition-none and partition-split are not allowed.

Tested on the rtc and ytlivehr testsets with speed 5 and 7, no coding
stats changes were observed.

Change-Id: I8b6d8b62b6d2431be8e73317d113311c98f631d5
vp9/encoder/vp9_encodeframe.c