]> granicus.if.org Git - graphviz/commitdiff
squash a -Wfloat-conversion due to sqrt in distBetweenPts
authorMatthew Fernandez <matthew.fernandez@gmail.com>
Sun, 2 May 2021 02:52:43 +0000 (19:52 -0700)
committerMatthew Fernandez <matthew.fernandez@gmail.com>
Sun, 16 May 2021 16:40:28 +0000 (09:40 -0700)
There is a dedicated libc function for doing square root of floats, but this
code was incorrectly calling the version for doubles instead. This updated code
is more appropriate and could even be more efficient.

lib/glcomp/glutils.c

index 80fbff91ce3e64130ffbfeffb22c6d562d7a8ac1..4d548c001bc03988d80d93dc5bfd279e78fcaacd 100644 (file)
@@ -721,7 +721,7 @@ GLfloat distBetweenPts(glCompPoint A,glCompPoint B,float R)
 {
     GLfloat rv=0;      
     rv=(A.x-B.x)*(A.x-B.x) + (A.y-B.y)*(A.y-B.y) +(A.z-B.z)*(A.z-B.z);
-    rv=sqrt(rv);
+    rv=sqrtf(rv);
     if (rv <=R)
        return 0;
     return rv;