]> granicus.if.org Git - libvpx/commitdiff
vp8: fix loop filter level clamping
authorJames Zern <jzern@google.com>
Fri, 4 Dec 2015 00:18:48 +0000 (16:18 -0800)
committerJames Zern <jzern@google.com>
Fri, 4 Dec 2015 00:18:48 +0000 (16:18 -0800)
the loop filter level is transmitted as 6-bits + sign so needs to be clamped in
the delta + absolute case.

BUG=https://bugzilla.mozilla.org/show_bug.cgi?id=1224363

Change-Id: Icbdca4fdbf043466429bd5c9d59dbe913bf153bc

vp8/common/vp8_loopfilter.c

index 8b55dff92bfaffba20b3c0d927fbd4a776f42503..756ad488f95c8b27a17ed238e7f69c4ee6b8cec6 100644 (file)
@@ -141,8 +141,8 @@ void vp8_loop_filter_frame_init(VP8_COMMON *cm,
             else  /* Delta Value */
             {
                 lvl_seg += mbd->segment_feature_data[MB_LVL_ALT_LF][seg];
-                lvl_seg = (lvl_seg > 0) ? ((lvl_seg > 63) ? 63: lvl_seg) : 0;
             }
+            lvl_seg = (lvl_seg > 0) ? ((lvl_seg > 63) ? 63: lvl_seg) : 0;
         }
 
         if (!mbd->mode_ref_lf_delta_enabled)