]> granicus.if.org Git - imagemagick/commitdiff
Compute max depth
authorCristy <urban-warrior@imagemagick.org>
Fri, 9 Mar 2018 02:27:17 +0000 (21:27 -0500)
committerCristy <urban-warrior@imagemagick.org>
Fri, 9 Mar 2018 02:27:17 +0000 (21:27 -0500)
MagickCore/quantum-private.h

index 405c3810e6089a14823c427f66eaf12fad0f0e19..695b8df124b962a1b839fe71f7fa993b472727ab 100644 (file)
@@ -93,13 +93,15 @@ extern MagickPrivate void
 static inline MagickSizeType GetQuantumRange(const size_t depth)
 {
   MagickSizeType
+    max_depth,
     one;
 
   if (depth == 0)
     return(0);
   one=1;
-  return((MagickSizeType) ((one << (MagickMin(depth,64)-1))+
-    ((one << (MagickMin(depth,64)-1))-1)));
+  max_depth=8*sizeof(MagickSizeType);
+  return((MagickSizeType) ((one << (MagickMin(depth,max_depth)-1))+
+    ((one << (MagickMin(depth,max_depth)-1))-1)));
 }
 
 static inline float HalfToSinglePrecision(const unsigned short half)