]> granicus.if.org Git - libvpx/commitdiff
Increase precision for gm parameters
authorSarah Parker <sarahparker@google.com>
Wed, 20 Apr 2016 23:20:26 +0000 (16:20 -0700)
committerSarah Parker <sarahparker@google.com>
Thu, 21 Apr 2016 18:48:13 +0000 (11:48 -0700)
Change-Id: I151ca8ec9b0c8a920745f4b1665d369a258f6ccb

vp9/common/vp9_mv.h

index 24c258f5c9b905fa4956c37410efdc2315d01971..db2a7de6049728082d868eab64c6ea25dfd69720 100644 (file)
@@ -52,11 +52,11 @@ static INLINE void clamp_mv(MV *mv, int min_col, int max_col,
 #define MAX_GLOBAL_MOTION_MODELS  1
 
 #define ZOOM_PRECISION_BITS       11
-#define ROTATION_PRECISION_BITS   8
+#define ROTATION_PRECISION_BITS   11
 
-#define ABS_ZOOM_BITS             6
-#define ABS_ROTATION_BITS         6
-#define ABS_TRANSLATION_BITS      7
+#define ABS_ZOOM_BITS             11
+#define ABS_ROTATION_BITS         11
+#define ABS_TRANSLATION_BITS      11
 
 typedef enum {
   GLOBAL_ZERO = 0,