]> granicus.if.org Git - libx264/commitdiff
MBAFF: Clamp MVDs to 66 instead of 33
authorSimon Horlick <simonhorlick@gmail.com>
Tue, 29 Mar 2011 14:47:04 +0000 (15:47 +0100)
committerFiona Glaser <fiona@x264.com>
Thu, 12 May 2011 06:06:21 +0000 (23:06 -0700)
encoder/cabac.c
encoder/me.c

index 139a3efd48e866118c6a9f95716d52e63147110e..ab44c1727e3d7cffc22424be41fdbbb1a5b0b778 100644 (file)
@@ -424,9 +424,9 @@ static ALWAYS_INLINE int x264_cabac_mb_mvd_cpn( x264_t *h, x264_cabac_t *cb, int
         x264_cabac_encode_bypass( cb, mvd >> 31 );
     }
 #endif
-    /* Since we don't need to keep track of MVDs larger than 33, just cap the value.
+    /* Since we don't need to keep track of MVDs larger than 66, just cap the value.
      * This lets us store MVDs as 8-bit values instead of 16-bit. */
-    return X264_MIN( i_abs, 33 );
+    return X264_MIN( i_abs, 66 );
 }
 
 static NOINLINE uint16_t x264_cabac_mb_mvd( x264_t *h, x264_cabac_t *cb, int i_list, int idx, int width )
index a4de7ddfd8a6f86667acb4a3fd91bd8a0804f1b2..d7d4972b91f2ad78c1acdb847c038ea9d63182fb 100644 (file)
@@ -1226,7 +1226,7 @@ void x264_me_refine_qpel_rd( x264_t *h, x264_me_t *m, int i_lambda2, int i4, int
     m->mv[0] = bmx;
     m->mv[1] = bmy;
     x264_macroblock_cache_mv ( h, block_idx_x[i4], block_idx_y[i4], bw>>2, bh>>2, i_list, pack16to32_mask(bmx, bmy) );
-    amvd = pack8to16( X264_MIN(abs(bmx - m->mvp[0]),33), X264_MIN(abs(bmy - m->mvp[1]),33) );
+    amvd = pack8to16( X264_MIN(abs(bmx - m->mvp[0]),66), X264_MIN(abs(bmy - m->mvp[1]),66) );
     x264_macroblock_cache_mvd( h, block_idx_x[i4], block_idx_y[i4], bw>>2, bh>>2, i_list, amvd );
     h->mb.b_skip_mc = 0;
 }