]> granicus.if.org Git - python/commit
Trent Mick:
authorGuido van Rossum <guido@python.org>
Mon, 8 May 2000 14:29:38 +0000 (14:29 +0000)
committerGuido van Rossum <guido@python.org>
Mon, 8 May 2000 14:29:38 +0000 (14:29 +0000)
commitc554505ca1318fd7aed32086ceb4b53ae767ffa3
treea1b19d31b3d48ee03d28585b6484f3e93dc66c48
parent23ef82ffe330c16cac7406c202ce55cc0d828f0a
Trent Mick:

Fix overflow bug in ldexp(x, exp). The 'exp' argument maps to a C int for the
math library call [double ldexp(double, int)], however the 'd'
PyArg_ParseTuple formatter was used to yield a double, which was subsequently
cast to an int. This could overflow.

[GvR: mysteriously, on Solaris 2.7, ldexp(1, 2147483647) returns Inf
while ldexp(1, 2147483646) raises OverflowError; this seems a bug in
the math library (it also takes a real long time to compute the
Inf outcome).  Does this point to a bug in the CHECK() macro?  It
should have discovered that the result was outside the HUGE_VAL range.]
Modules/mathmodule.c