]> granicus.if.org Git - libvpx/commitdiff
Fixed a bug in recursive extrapolation filter for intra prediction
authorYue Chen <chenyue1212@gmail.com>
Fri, 11 Oct 2013 18:55:03 +0000 (11:55 -0700)
committerJingning Han <jingning@google.com>
Sun, 13 Oct 2013 01:06:34 +0000 (18:06 -0700)
Estimation of local mean, which is used to get zero-mean signals
before linear filtering, is corrected.

Change-Id: If73d0ae479201fc60a34baa3f15d61e5aecb1162

vp9/common/vp9_reconintra.c

index 19f3645f094f32afea4f081f55d57aa90d7d8699..a8bd65609594e28a6bf7623e929e07ef16be963b 100644 (file)
@@ -429,9 +429,9 @@ static void filter_intra_predictors(uint8_t *ypred_ptr, int y_stride, int bs,
   k = 0;
   mean = 0;
   while (k < bs) {
-    mean = mean + (int)yleft_col[r];
-    mean = mean + (int)yabove_row[c];
-    k++;
+    mean = mean + (int)yleft_col[k];
+    mean = mean + (int)yabove_row[k];
+    ++k;
   }
   mean = (mean + bs) / (2 * bs);