]> granicus.if.org Git - libvpx/commitdiff
rdmult data type change to fix high bit-depth
authorDeb Mukherjee <debargha@google.com>
Thu, 2 Oct 2014 14:37:26 +0000 (07:37 -0700)
committerDeb Mukherjee <debargha@google.com>
Thu, 2 Oct 2014 14:37:26 +0000 (07:37 -0700)
Fixes an intermittent assert failure for highbitdepth.

Change-Id: If8cad0209a94f1184b69c7b3f1d587934f857d9b

vp9/encoder/vp9_rd.c

index a32776ac7d5e0e48088235519a17b0b3af6730ac..efb8686ddab25becb4760932204b3bed91c759ca 100644 (file)
@@ -136,7 +136,7 @@ static const int rd_frame_type_factor[FRAME_UPDATE_TYPES] = {
 };
 
 int vp9_compute_rd_mult(const VP9_COMP *cpi, int qindex) {
-  const int q = vp9_dc_quant(qindex, 0, cpi->common.bit_depth);
+  const int64_t q = vp9_dc_quant(qindex, 0, cpi->common.bit_depth);
 #if CONFIG_VP9_HIGHBITDEPTH
   int rdmult = 0;
   switch (cpi->common.bit_depth) {