]> granicus.if.org Git - libx264/commitdiff
checkasm: increase float error margin to 1e-5
authorAnton Mitrofanov <BugMaster@narod.ru>
Sun, 24 May 2020 14:15:35 +0000 (17:15 +0300)
committerAnton Mitrofanov <BugMaster@narod.ru>
Wed, 10 Jun 2020 15:07:03 +0000 (18:07 +0300)
checkasm10 with seed=511142008 failed on win32 gcc builds.

tools/checkasm.c

index 50863317eb23bcc22a13e31d74135fcca4dde96a..0361e92b74ea2338eaea487364d5bf7e63a687a4 100644 (file)
@@ -780,7 +780,7 @@ static int check_pixel( uint32_t cpu_ref, uint32_t cpu_new )
         x264_emms();
         res_c = x264_pixel_ssim_wxh( &pixel_c,   pbuf1+2, 32, pbuf2+2, 32, 32, 28, pbuf3, &cnt );
         res_a = x264_pixel_ssim_wxh( &pixel_asm, pbuf1+2, 32, pbuf2+2, 32, 32, 28, pbuf3, &cnt );
-        if( fabs( res_c - res_a ) > 1e-6 )
+        if( fabs( res_c - res_a ) > 1e-5 )
         {
             ok = 0;
             fprintf( stderr, "ssim: %.7f != %.7f [FAILED]\n", res_c, res_a );