]> granicus.if.org Git - postgresql/commit
Guard against input_rows == 0 in estimate_num_groups().
authorTom Lane <tgl@sss.pgh.pa.us>
Fri, 10 May 2013 21:15:35 +0000 (17:15 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Fri, 10 May 2013 21:15:35 +0000 (17:15 -0400)
commit4ebbbf3c483a47e1627fae50c41f650b2a1d549f
tree54c2dd6bd5d7d5ccdbed75c8df08dae9f4362fd8
parenta184461aa750ca7d63c126774d2d24ec207645b5
Guard against input_rows == 0 in estimate_num_groups().

This case doesn't normally happen, because the planner usually clamps
all row estimates to at least one row; but I found that it can arise
when dealing with relations excluded by constraints.  Without a defense,
estimate_num_groups() can return zero, which leads to divisions by zero
inside the planner as well as assertion failures in the executor.

An alternative fix would be to change set_dummy_rel_pathlist() to make
the size estimate for a dummy relation 1 row instead of 0, but that seemed
pretty ugly; and probably someday we'll want to drop the convention that
the minimum rowcount estimate is 1 row.

Back-patch to 8.4, as the problem can be demonstrated that far back.
src/backend/utils/adt/selfuncs.c