]> granicus.if.org Git - libvpx/commitdiff
Fix bug in predict_mv_mode
authorAngie Chiang <angiebird@google.com>
Wed, 30 Jan 2019 00:00:13 +0000 (16:00 -0800)
committerAngie Chiang <angiebird@google.com>
Wed, 30 Jan 2019 00:00:13 +0000 (16:00 -0800)
Use kMvPreCheckLines in the for loops.

Change-Id: I60204c6294560d47421a8621d907dfa95c9dde18

vp9/encoder/vp9_encoder.c

index a6117b1903d351558f8ba916dacff0a059c061b6..df3d86bf6e326942f0a0e384f004e8d5cb6f1645 100644 (file)
@@ -6219,7 +6219,7 @@ static void predict_mv_mode(VP9_COMP *cpi, MACROBLOCK *x,
   // no new mv
   // diagnal scan order
   tmp_idx = 0;
-  for (idx = 0; idx < kMvPreCheckSize; ++idx) {
+  for (idx = 0; idx < kMvPreCheckLines; ++idx) {
     int r;
     for (r = 0; r <= idx; ++r) {
       int c = idx - r;
@@ -6246,7 +6246,7 @@ static void predict_mv_mode(VP9_COMP *cpi, MACROBLOCK *x,
                            &select_mv_arr[mi_row * stride + mi_col]);
   // We start from idx = 1 because idx = 0 is evaluated as NEW_MV_MODE
   // beforehand.
-  for (idx = 1; idx < kMvPreCheckSize; ++idx) {
+  for (idx = 1; idx < kMvPreCheckLines; ++idx) {
     int r;
     for (r = 0; r <= idx; ++r) {
       int c = idx - r;
@@ -6267,7 +6267,7 @@ static void predict_mv_mode(VP9_COMP *cpi, MACROBLOCK *x,
   tmp_idx = 0;
   if (no_new_mv_rd < new_mv_rd) {
     *rd = no_new_mv_rd;
-    for (idx = 0; idx < kMvPreCheckSize; ++idx) {
+    for (idx = 0; idx < kMvPreCheckLines; ++idx) {
       int r;
       for (r = 0; r <= idx; ++r) {
         int c = idx - r;