]> granicus.if.org Git - postgresql/commit
Convert contrib/seg's bool-returning SQL functions to V1 call convention.
authorTom Lane <tgl@sss.pgh.pa.us>
Fri, 22 Apr 2016 15:54:23 +0000 (11:54 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Fri, 22 Apr 2016 15:54:23 +0000 (11:54 -0400)
commitc8e81afc60093b199a128ccdfbb692ced8e0c9cd
treeaed2bfc1175f6940794e6727990e4163eb51f1e0
parent9f633b404cb3be6139f8dfdea00538489ffef9ab
Convert contrib/seg's bool-returning SQL functions to V1 call convention.

It appears that we can no longer get away with using V0 call convention
for bool-returning functions in newer versions of MSVC.  The compiler
seems to generate code that doesn't clear the higher-order bits of the
result register, causing the bool result Datum to often read as "true"
when "false" was intended.  This is not very surprising, since the
function thinks it's returning a bool-width result but fmgr_oldstyle
assumes that V0 functions return "char *"; what's surprising is that
that hack worked for so long on so many platforms.

The only functions of this description in core+contrib are in contrib/seg,
which we'd intentionally left mostly in V0 style to serve as a warning
canary if V0 call convention breaks.  We could imagine hacking things
so that they're still V0 (we'd have to redeclare the bool-returning
functions as returning some suitably wide integer type, like size_t,
at the C level).  But on the whole it seems better to convert 'em to V1.
We can still leave the pointer- and int-returning functions in V0 style,
so that the test coverage isn't gone entirely.

Back-patch to 9.5, since our intention is to support VS2015 in 9.5
and later.  There's no SQL-level change in the functions' behavior
so back-patching should be safe enough.

Discussion: <22094.1461273324@sss.pgh.pa.us>

Michael Paquier, adjusted some by me
contrib/seg/seg.c