]> granicus.if.org Git - libvpx/commit
Update VAR_TX related context when using SUPERTX.
authorGeza Lore <gezalore@gmail.com>
Tue, 19 Jan 2016 18:15:40 +0000 (18:15 +0000)
committerGeza Lore <gezalore@gmail.com>
Tue, 26 Jan 2016 01:18:56 +0000 (01:18 +0000)
commit22cfc841d58dfbc708878240ee85a8845bd0086c
tree6dd7ccf5c2fa37b445b99b60a00266845f947aa7
parent56686b4514c6eaa72e7dcd635f7abf8409839b97
Update VAR_TX related context when using SUPERTX.

The encoder did not update left_txfm_context and above_txfm_context in
MACROBLOCKD (used for choosing the probability context for the vartx
split bits) when the supertx bit was set for a block. The deoder on the
other hand did update these for supertx blocks. The encoder used these
to compute the context counts, which the packer then uses to adapt it's
probabilities. This results in the packer and the decoder using
different probabilities.

This patch harmonizes the encoder and the decoder by making the encoder
update the mentioned context for supertx coded blocks.

Change-Id: I3a22132124b1bce2ee501d640ceab374b19e3ca1
vp10/encoder/encodeframe.c