]> granicus.if.org Git - libvpx/commitdiff
ext-intra experiment: exploit left-bottom bundary
authorhui su <huisu@google.com>
Thu, 10 Dec 2015 19:50:13 +0000 (11:50 -0800)
committerhui su <huisu@google.com>
Mon, 28 Dec 2015 18:47:40 +0000 (10:47 -0800)
ext-intra vs nextgenv2 baseline:
derflr +1.12% (was +1.06%)
hevcmr +2.26% (was +2.15%)

Change-Id: I6cc7612d0d7e81e200aa962988db1ea7680626d7

vp10/common/reconintra.c

index ed253f7f8e52bebf16472bc9fe5107b0f66e829a..4be5394d5c65da376cf5372a0ed054c8ca729063 100644 (file)
@@ -338,7 +338,7 @@ static void dr_prediction_z3(uint8_t *dst, ptrdiff_t stride, int bs,
       y = r * 256 - x * dy;
       base = y >> 8;
       shift = y - base * 256;
-      if (base < bs - 1) {
+      if (base < 2 * bs - 1) {
         val =
             (left[base] * (256 - shift) + left[base + 1] * shift + 128) >> 8;
         dst[c] = clip_pixel(val);
@@ -625,7 +625,7 @@ static void highbd_dr_prediction_z3(uint16_t *dst, ptrdiff_t stride, int bs,
       y = r * 256 - x * dy;
       base = y >> 8;
       shift = y - base * 256;
-      if (base < bs - 1) {
+      if (base < 2 * bs - 1) {
         val =
             (left[base] * (256 - shift) + left[base + 1] * shift + 128) >> 8;
         dst[c] = clip_pixel_highbd(val, bd);