]> granicus.if.org Git - libvpx/commit
Prevent filling transform size cache with uninitialized values.
authorRonald S. Bultje <rbultje@google.com>
Fri, 15 Feb 2013 23:55:31 +0000 (15:55 -0800)
committerRonald S. Bultje <rbultje@google.com>
Sat, 16 Feb 2013 01:21:16 +0000 (17:21 -0800)
commitebfdaa0e0bff5d5eea17277e9e6bf2129ee1d155
tree36c8fbbecd28af175514a2d4bbaf2b123bcaa5de
parent4dfcb129fdcab683644d667cf56d689e79fa7db3
Prevent filling transform size cache with uninitialized values.

The 32x32 value in case of splitmv was uninitialized. this leads to
all kind of erratic behaviour down the line. Also fill in dummy values
for superblocks in keyframes (the values are currently unused, but we
run into integer overflows anyway, which makes detecting bad cases
harder). Lastly, in case we did not find any RD value at all, don't
set tx_diff to INT_MIN, but instead set it to zero (since if we couldn't
find a mode, it's unlikely that any particular transform would have made
that worse or better; rather, it's likely equally bad for all tx_sizes).

Change-Id: If236fd3aa2037e5b398d03f3b1978fbbc5ce740e
vp9/encoder/vp9_rdopt.c