]> granicus.if.org Git - libvpx/commitdiff
BITSTREAM - CLARIFICATION OF MV SIZE RANGE pcs-2013
authorJingning Han <jingning@google.com>
Sat, 28 Sep 2013 00:22:59 +0000 (17:22 -0700)
committerJingning Han <jingning@google.com>
Wed, 2 Oct 2013 17:29:45 +0000 (10:29 -0700)
The codec should effectively run with motion vector of range (-2048, 2047)
in full pixels, for sequences of 1080p and below. Add assertions to clarify
this behavior.

Change-Id: Ia0cac28249f587d8f8882205228fa480263ab313

vp9/common/vp9_entropymv.h
vp9/decoder/vp9_decodemv.c

index 5018c201318b03256e826a312b2e777f57e63bb3..3b782ab0a4e340f74885aedf99b2ab097b8fd467 100644 (file)
@@ -73,6 +73,10 @@ extern struct vp9_token vp9_mv_class_encodings[MV_CLASSES];
 #define MV_MAX         ((1 << MV_MAX_BITS) - 1)
 #define MV_VALS        ((MV_MAX << 1) + 1)
 
+#define MV_IN_USE_BITS 14
+#define MV_UPP   ((1 << MV_IN_USE_BITS) - 1)
+#define MV_LOW   (-(1 << MV_IN_USE_BITS))
+
 extern const vp9_tree_index vp9_mv_class0_tree[2 * CLASS0_SIZE - 2];
 extern struct vp9_token vp9_mv_class0_encodings[CLASS0_SIZE];
 
index c697d665dcbd49aa46398bc943648552548bc84e..18e6ea0ef89ef363e9be91dedfc5d7a5c2c0ca3d 100644 (file)
@@ -522,8 +522,14 @@ static void read_inter_block_mode_info(VP9D_COMP *pbi, MODE_INFO *mi,
             assert(!"Invalid inter mode value");
         }
         mi->bmi[j].as_mv[0].as_int = block[0].as_int;
-        if (is_compound)
+        assert(block[0].as_mv.row < MV_UPP && block[0].as_mv.row > MV_LOW);
+        assert(block[0].as_mv.col < MV_UPP && block[0].as_mv.col > MV_LOW);
+
+        if (is_compound) {
           mi->bmi[j].as_mv[1].as_int = block[1].as_int;
+          assert(block[1].as_mv.row < MV_UPP && block[1].as_mv.row > MV_LOW);
+          assert(block[1].as_mv.col < MV_UPP && block[1].as_mv.col > MV_LOW);
+        }
 
         if (num_4x4_h == 2)
           mi->bmi[j + 2] = mi->bmi[j];
@@ -564,6 +570,12 @@ static void read_inter_block_mode_info(VP9D_COMP *pbi, MODE_INFO *mi,
       default:
         assert(!"Invalid inter mode value");
     }
+    assert(mv0->as_mv.row < MV_UPP && mv0->as_mv.row > MV_LOW);
+    assert(mv0->as_mv.col < MV_UPP && mv0->as_mv.col > MV_LOW);
+    if (is_compound) {
+      assert(mv1->as_mv.row < MV_UPP && mv1->as_mv.row > MV_LOW);
+      assert(mv1->as_mv.col < MV_UPP && mv1->as_mv.col > MV_LOW);
+    }
   }
 }