]> granicus.if.org Git - libx264/commitdiff
checkasm: relax the threshold for floating-point ssim
authorLoren Merritt <pengvado@videolan.org>
Sat, 1 Mar 2008 04:13:55 +0000 (04:13 +0000)
committerLoren Merritt <pengvado@videolan.org>
Sat, 1 Mar 2008 04:13:55 +0000 (04:13 +0000)
git-svn-id: svn://svn.videolan.org/x264/trunk@738 df754926-b1dd-0310-bc7b-ec298dee348c

tools/checkasm.c

index e6dda5c79adeacdea19fb80a5b89c5baf0d4302a..102f2bfa99add91936fa65f7855a3bdce65342f3 100644 (file)
@@ -145,7 +145,7 @@ static int check_pixel( int cpu_ref, int cpu_new )
         x264_cpu_restore( cpu_new );
         res_c = x264_pixel_ssim_wxh( &pixel_c,   buf1+2, 32, buf2+2, 32, 32, 28 );
         res_a = x264_pixel_ssim_wxh( &pixel_asm, buf1+2, 32, buf2+2, 32, 32, 28 );
-        if( fabs(res_c - res_a) > 1e-8 )
+        if( fabs(res_c - res_a) > 1e-7 )
         {
             ok = 0;
             fprintf( stderr, "ssim: %.7f != %.7f [FAILED]\n", res_c, res_a );