]> granicus.if.org Git - postgresql/commit
Ensure 64bit arithmetic when calculating tapeSpace
authorStephen Frost <sfrost@snowman.net>
Sun, 14 Jul 2013 20:44:16 +0000 (16:44 -0400)
committerStephen Frost <sfrost@snowman.net>
Sun, 14 Jul 2013 20:44:16 +0000 (16:44 -0400)
commit5174bc2240c7e873912b4061285df2d475ce6639
treec68fc35ea48974741c2fd9068e16dab6cb58b984
parent9a785aca873d79f886c4091456122bcba1ac0388
Ensure 64bit arithmetic when calculating tapeSpace

In tuplesort.c:inittapes(), we calculate tapeSpace by first figuring
out how many 'tapes' we can use (maxTapes) and then multiplying the
result by the tape buffer overhead for each.  Unfortunately, when
we are on a system with an 8-byte long, we allow work_mem to be
larger than 2GB and that allows maxTapes to be large enough that the
32bit arithmetic can overflow when multiplied against the buffer
overhead.

When this overflow happens, we end up adding the overflow to the
amount of space available, causing the amount of memory allocated to
be larger than work_mem.

Note that to reach this point, you have to set work mem to at least
24GB and be sorting a set which is at least that size.  Given that a
user who can set work_mem to 24GB could also set it even higher, if
they were looking to run the system out of memory, this isn't
considered a security issue.

This overflow risk was found by the Coverity scanner.

Back-patch to all supported branches, as this issue has existed
since before 8.4.
src/backend/utils/sort/tuplesort.c