]> granicus.if.org Git - postgresql/commit
Improve snprintf.c's handling of NaN, Infinity, and minus zero.
authorTom Lane <tgl@sss.pgh.pa.us>
Mon, 8 Oct 2018 16:19:20 +0000 (12:19 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Mon, 8 Oct 2018 16:19:20 +0000 (12:19 -0400)
commit6eb3eb577d76b3f58a98f78232af9e86624ce5eb
tree1cde231d7279a911b3070409a1edaffdd06d53d7
parentf9eb7c14b08d2cc5eda62ffaf37a356c05e89b93
Improve snprintf.c's handling of NaN, Infinity, and minus zero.

Up to now, float4out/float8out handled NaN and Infinity cases explicitly,
and invoked psprintf only for ordinary float values.  This was done because
platform implementations of snprintf produce varying representations of
these special cases.  But now that we use snprintf.c always, it's better
to give it the responsibility to produce a uniform representation of
these cases, so that we have uniformity across the board not only in
float4out/float8out.  Hence, move that work into fmtfloat().

Also, teach fmtfloat() to recognize IEEE minus zero and handle it
correctly.  The previous coding worked only accidentally, and would
fail for e.g. "%+f" format (it'd print "+-0.00000").  Now that we're
using snprintf.c everywhere, it's not acceptable for it to do weird
things in corner cases.  (This incidentally avoids a portability
problem we've seen on some really ancient platforms, that native
sprintf does the wrong thing with minus zero.)

Also, introduce a new entry point in snprintf.c to allow float[48]out
to bypass the work of interpreting a well-known format spec, as well
as bypassing the overhead of the psprintf layer.  I modeled this API
loosely on strfromd().  In my testing, this brings float[48]out back
to approximately the same speed they had when using native snprintf,
fixing one of the main performance issues caused by using snprintf.c.

(There is some talk of more aggressive work to improve the speed of
floating-point output conversion, but these changes seem to provide
a better starting point for such work anyway.)

Getting rid of the previous ad-hoc hack for Infinity/NaN in fmtfloat()
allows removing <ctype.h> from snprintf.c's #includes.  I also removed
a few other #includes that I think are historical, though the buildfarm
may expose that as wrong.

Discussion: https://postgr.es/m/13178.1538794717@sss.pgh.pa.us
src/backend/utils/adt/float.c
src/include/port.h
src/port/snprintf.c