]> granicus.if.org Git - libvpx/commit
Set inter_tx_size for supertx coded blocks.
authorGeza Lore <gezalore@gmail.com>
Thu, 21 Jan 2016 10:46:33 +0000 (10:46 +0000)
committerGeza Lore <gezalore@gmail.com>
Tue, 26 Jan 2016 01:18:56 +0000 (01:18 +0000)
commite7c0e157d273b73f39d8545c1400d67b04385a66
tree085d44dff8ad4de3daf45814c771c13e7f0df4d6
parenta8122bb9577f337c57fb0dbe5dc522ceb2ce15a3
Set inter_tx_size for supertx coded blocks.

The loop filter relies on inter_tx_size in MB_MODE_INFO being set
properly when VAR_TX is enabled. Supertx coded blocks did not set this
previously at all, and the differing garbage values eventually resulted
in in a YUV mismatch between encoder and decoder after loop filtering.

This patch fixes this by setting inter_tx_size to the proper supertx
size in both the encoder and the decoder. This should also mean that
loop filtering is done at the proper transform boundaries, even when
supertx or vartx is being used.

Change-Id: I41a564cd6d34ce4a8313ad4efa89d905f5ead731
vp10/common/blockd.h
vp10/decoder/decodeframe.c
vp10/decoder/decodemv.c
vp10/encoder/encodeframe.c