]> granicus.if.org Git - imagemagick/commitdiff
(no commit message)
authorcristy <urban-warrior@git.imagemagick.org>
Tue, 11 May 2010 13:46:36 +0000 (13:46 +0000)
committercristy <urban-warrior@git.imagemagick.org>
Tue, 11 May 2010 13:46:36 +0000 (13:46 +0000)
magick/quantum-private.h
magick/quantum.h

index 4d46f344e0a0b8935f4dca38549f59343c947450..d033117a1042ff851c3d96946933b8d749ac2e5a 100644 (file)
@@ -551,14 +551,14 @@ static inline unsigned long ScaleQuantumToMap(const Quantum quantum)
 {
   if (quantum <= 0.0)
     return(0UL);
-  if ((quantum/281479271743491.0) >= MaxMap)
+  if ((quantum/281479271743489.0) >= MaxMap)
     return((unsigned long) MaxMap);
-  return((unsigned long) (quantum/281479271743491.0+0.5));
+  return((unsigned long) (quantum/281479271743489.0+0.5));
 }
 
 static inline unsigned short ScaleQuantumToShort(const Quantum quantum)
 {
-  return((unsigned short) (quantum/281479271743491.0+0.5));
+  return((unsigned short) (quantum/281479271743489.0+0.5));
 }
 
 static inline Quantum ScaleShortToQuantum(const unsigned short value)
index a41ca9b7fcb5cf2c1cac011118248f191352f98a..330e40d1bd940bef6f5ddd1f1418ee1ab7314ce2 100644 (file)
@@ -138,13 +138,13 @@ static inline unsigned char ScaleQuantumToChar(const Quantum quantum)
 static inline unsigned char ScaleQuantumToChar(const Quantum quantum)
 {
 #if !defined(MAGICKCORE_HDRI_SUPPORT)
-  return((unsigned char) (quantum/72340172838076675.0+0.5));
+  return((unsigned char) (quantum/72340172838076673.0+0.5));
 #else
   if (quantum <= 0.0)
     return(0);
-  if ((quantum/72340172838076675.0) >= 255.0)
+  if ((quantum/72340172838076673.0) >= 255.0)
     return(255);
-  return((unsigned char) (quantum/72340172838076675.0+0.5));
+  return((unsigned char) (quantum/72340172838076673.0+0.5));
 #endif
 }
 #endif