]> granicus.if.org Git - postgresql/commitdiff
Fix overflow handling in plpgsql's integer FOR loops.
authorTom Lane <tgl@sss.pgh.pa.us>
Sat, 17 Mar 2018 19:38:15 +0000 (15:38 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Sat, 17 Mar 2018 19:38:15 +0000 (15:38 -0400)
The test to exit the loop if the integer control value would overflow
an int32 turns out not to work on some ICC versions, as it's dependent
on the assumption that the compiler will execute the code as written
rather than "optimize" it.  ICC lacks any equivalent of gcc's -fwrapv
switch, so it was optimizing on the assumption of no integer overflow,
and that breaks this.  Rewrite into a form that in fact does not
do any overflowing computations.

Per Tomas Vondra and buildfarm member fulmar.  It's been like this
for a long time, although it was not till we added a regression test
case covering the behavior (in commit dd2243f2a) that the problem
became apparent.  Back-patch to all supported versions.

Discussion: https://postgr.es/m/50562fdc-0876-9843-c883-15b8566c7511@2ndquadrant.com

src/pl/plpgsql/src/pl_exec.c

index d4333b6dc27ab20f84dd022a62a5c9af6917f0f5..0fee2326e35b48976662af4ecaf4eea5dde0e549 100644 (file)
@@ -2201,13 +2201,13 @@ exec_stmt_fori(PLpgSQL_execstate *estate, PLpgSQL_stmt_fori *stmt)
                 */
                if (stmt->reverse)
                {
-                       if ((int32) (loop_value - step_value) > loop_value)
+                       if (loop_value < (PG_INT32_MIN + step_value))
                                break;
                        loop_value -= step_value;
                }
                else
                {
-                       if ((int32) (loop_value + step_value) < loop_value)
+                       if (loop_value > (PG_INT32_MAX - step_value))
                                break;
                        loop_value += step_value;
                }