]> granicus.if.org Git - libvpx/commitdiff
fix a div by zero issue
authorYaowu Xu <yaowu@google.com>
Mon, 13 Jan 2014 18:23:28 +0000 (10:23 -0800)
committerYaowu Xu <yaowu@google.com>
Mon, 13 Jan 2014 18:44:32 +0000 (10:44 -0800)
Change-Id: I091dfaa0ed5b9672eedd46d6097469d0802e24ef

vp9/encoder/vp9_firstpass.c

index 812ffa96d43ed8916e7badb188c749df723a31c2..7c4ca637849e4326b69339a999ac98a3544b9518 100644 (file)
@@ -1825,7 +1825,8 @@ static void define_gf_group(VP9_COMP *cpi, FIRSTPASS_STATS *this_frame) {
     // If the frame that is to be boosted is simpler than the average for
     // the gf/arf group then use an alternative calculation
     // based on the error score of the frame itself
-    if (mod_frame_err < gf_group_err / (double)cpi->rc.baseline_gf_interval) {
+    if (cpi->rc.baseline_gf_interval < 1 ||
+        mod_frame_err < gf_group_err / (double)cpi->rc.baseline_gf_interval) {
       double alt_gf_grp_bits =
         (double)cpi->twopass.kf_group_bits  *
         (mod_frame_err * (double)cpi->rc.baseline_gf_interval) /