]> granicus.if.org Git - postgresql/log
postgresql
12 years agoIn docs, change a few cases of "not important" to "unimportant".
Bruce Momjian [Thu, 16 Aug 2012 14:36:33 +0000 (10:36 -0400)]
In docs, change a few cases of "not important" to "unimportant".

12 years agoAdd SP-GiST support for range types.
Heikki Linnakangas [Thu, 16 Aug 2012 09:55:37 +0000 (12:55 +0300)]
Add SP-GiST support for range types.

The implementation is a quad-tree, largely copied from the quad-tree
implementation for points. The lower and upper bound of ranges are the 2d
coordinates, with some extra code to handle empty ranges.

I left out the support for adjacent operator, -|-, from the original patch.
Not because there was necessarily anything wrong with it, but it was more
complicated than the other operators, and I only have limited time for
reviewing. That will follow as a separate patch.

Alexander Korotkov, reviewed by Jeff Davis and me.

12 years agoFix GiST buffering build bug, which caused "failed to re-find parent" errors.
Heikki Linnakangas [Thu, 16 Aug 2012 09:42:11 +0000 (12:42 +0300)]
Fix GiST buffering build bug, which caused "failed to re-find parent" errors.

We use a hash table to track the parents of inner pages, but when inserting
to a leaf page, the caller of gistbufferinginserttuples() must pass a
correct block number of the leaf's parent page. Before gistProcessItup()
descends to a child page, it checks if the downlink needs to be adjusted to
accommodate the new tuple, and updates the downlink if necessary. However,
updating the downlink might require splitting the page, which might move the
downlink to a page to the right. gistProcessItup() doesn't realize that, so
when it descends to the leaf page, it might pass an out-of-date parent block
number as a result. Fix that by returning the block a tuple was inserted to
from gistbufferinginserttuples().

This fixes the bug reported by Zdeněk Jílovec.

12 years agoFix SGML markup; missing tag.
Bruce Momjian [Thu, 16 Aug 2012 03:57:19 +0000 (23:57 -0400)]
Fix SGML markup;  missing tag.

12 years agoDocument that PGDATA has to point to the configuration files, rather
Bruce Momjian [Thu, 16 Aug 2012 02:59:37 +0000 (22:59 -0400)]
Document that PGDATA has to point to the configuration files, rather
than the actual data storage directory.

Per suggestion from Thom Brown

12 years agoDocument that pg_ctl -w allows for the entry of an SSL passphase on
Bruce Momjian [Thu, 16 Aug 2012 00:52:12 +0000 (20:52 -0400)]
Document that pg_ctl -w allows for the entry of an SSL passphase on
startup.

Per report from Thom Brown

12 years agoAdd CREATE FOREIGN TABLE doc reference to CREATE SERVER.
Bruce Momjian [Thu, 16 Aug 2012 00:38:01 +0000 (20:38 -0400)]
Add CREATE FOREIGN TABLE doc reference to CREATE SERVER.

Per suggestion from Ray Stell

12 years agoProperly document that NEW is unassigned in plpgsql for DELETE (not
Bruce Momjian [Thu, 16 Aug 2012 00:29:58 +0000 (20:29 -0400)]
Properly document that NEW is unassigned in plpgsql for DELETE (not
NULL), and OLD is unassigned for INSERT, and NEW/OLD are unassigned (not
NULL) for statement-level triggers.

Per report from Pavel Stehule

12 years agoAdd C comment about new \c parameter requirement for crashed connections.
Bruce Momjian [Wed, 15 Aug 2012 23:17:26 +0000 (19:17 -0400)]
Add C comment about new \c parameter requirement for crashed connections.

12 years agoUpdate C comment to NOTICE to reflect previous commit changing the error
Bruce Momjian [Wed, 15 Aug 2012 23:09:37 +0000 (19:09 -0400)]
Update C comment to NOTICE to reflect previous commit changing the error
level, per report from Tom.

12 years agoIn psql, if the is no connection object, e.g. due to a server crash,
Bruce Momjian [Wed, 15 Aug 2012 23:04:52 +0000 (19:04 -0400)]
In psql, if the is no connection object, e.g. due to a server crash,
require all parameters for \c, rather than using the defaults, which
might be wrong.

12 years agoFix rescan logic in nodeCtescan.
Tom Lane [Wed, 15 Aug 2012 23:01:16 +0000 (19:01 -0400)]
Fix rescan logic in nodeCtescan.

The previous coding essentially assumed that nodes would be rescanned in
the same order they were initialized in; or at least that the "leader" of
a group of CTEscans would be rescanned before any others were required to
execute.  Unfortunately, that isn't even a little bit true.  It's possible
to devise queries in which the leader isn't rescanned until other CTEscans
on the same CTE have run to completion, or even in which the leader never
gets a rescan call at all.

The fix makes the leader specially responsible only for initial creation
and final destruction of the tuplestore; rescan resets are now a
symmetrically shared responsibility.  This means that we might reset the
tuplestore multiple times when restarting a plan subtree containing
multiple CTEscans; but resetting an already-empty tuplestore is cheap
enough that that doesn't seem like a problem.

Per report from Adam Mackler; the new regression test cases are based on
his example query.

Back-patch to 8.4 where CTE scans were introduced.

12 years agoOn second thought, explain why date_trunc("week") on interval values is
Bruce Momjian [Wed, 15 Aug 2012 20:48:05 +0000 (16:48 -0400)]
On second thought, explain why date_trunc("week") on interval values is
not supported in the error message, rather than the docs.

12 years agoDocument why you can't use date_trunc("week") on intervals.
Bruce Momjian [Wed, 15 Aug 2012 20:03:58 +0000 (16:03 -0400)]
Document why you can't use date_trunc("week") on intervals.

12 years agoAdd C comment that '=' is not documented for plpgsql assignment.
Bruce Momjian [Wed, 15 Aug 2012 16:00:56 +0000 (12:00 -0400)]
Add C comment that '=' is not documented for plpgsql assignment.

12 years agoDocument that foreign "version" and "type" values are only useful to
Bruce Momjian [Wed, 15 Aug 2012 15:47:02 +0000 (11:47 -0400)]
Document that foreign "version" and "type" values are only useful to
certain foreign data wrappers.

12 years agoDisallow extensions from owning the schema they are assigned to.
Tom Lane [Wed, 15 Aug 2012 15:26:55 +0000 (11:26 -0400)]
Disallow extensions from owning the schema they are assigned to.

This situation creates a dependency loop that confuses pg_dump and probably
other things.  Moreover, since the mental model is that the extension
"contains" schemas it owns, but "is contained in" its extschema (even
though neither is strictly true), having both true at once is confusing for
people too.  So prevent the situation from being set up.

Reported and patched by Thom Brown.  Back-patch to 9.1 where extensions
were added.

12 years agoProperly escape usernames in initdb, so names with single-quotes are
Bruce Momjian [Wed, 15 Aug 2012 15:23:04 +0000 (11:23 -0400)]
Properly escape usernames in initdb, so names with single-quotes are
supported.  Also add assert to catch future breakage.

Also, improve documentation that "double"-quotes must be used in
pg_hba.conf (not single quotes).

12 years agoResurrect the "last ditch" code path in join_search_one_level().
Tom Lane [Wed, 15 Aug 2012 04:07:15 +0000 (00:07 -0400)]
Resurrect the "last ditch" code path in join_search_one_level().

This essentially reverts commit e54b10a62db2991235fe800c629baef4531a6d67,
in which I'd decided that the "last ditch" join logic was useless.  The
folly of that is now exposed by a report from Pavel Stehule: although the
function should always find at least one join in a self-contained join
problem, it can still fail to do so in a sub-problem created by artificial
from_collapse_limit or join_collapse_limit constraints.  Adjust the
comments to describe this, and simplify the code a bit to match the new
coding of the earlier loop in the function.

I'm not terribly happy about this: I still subscribe to the opinion stated
in the previous commit message that the "last ditch" code can obscure logic
bugs elsewhere.  But the alternative seems to be to complicate the earlier
tests for does-this-relation-have-a-join-clause to the point where they can
tell whether the join clauses link outside the current join sub-problem.
And that looks messy, slow, and possibly a source of bugs in itself.
In any case, now is not the time to be inserting experimental code into
9.2, so let's just go back to the time-tested solution.

12 years agoAdd more limited large object trigger example.
Bruce Momjian [Wed, 15 Aug 2012 03:25:20 +0000 (23:25 -0400)]
Add more limited large object trigger example.

12 years agoAdd doc example of restricting large object trigger firing to only
Bruce Momjian [Wed, 15 Aug 2012 03:21:13 +0000 (23:21 -0400)]
Add doc example of restricting large object trigger firing to only
updates of the column of interest.

12 years agoUpdate release notes for 9.1.5, 9.0.9, 8.4.13, 8.3.20.
Tom Lane [Tue, 14 Aug 2012 22:24:00 +0000 (18:24 -0400)]
Update release notes for 9.1.5, 9.0.9, 8.4.13, 8.3.20.

12 years agoPrevent access to external files/URLs via contrib/xml2's xslt_process().
Tom Lane [Tue, 14 Aug 2012 22:28:29 +0000 (18:28 -0400)]
Prevent access to external files/URLs via contrib/xml2's xslt_process().

libxslt offers the ability to read and write both files and URLs through
stylesheet commands, thus allowing unprivileged database users to both read
and write data with the privileges of the database server.  Disable that
through proper use of libxslt's security options.

Also, remove xslt_process()'s ability to fetch documents and stylesheets
from external files/URLs.  While this was a documented "feature", it was
long regarded as a terrible idea.  The fix for CVE-2012-3489 broke that
capability, and rather than expend effort on trying to fix it, we're just
going to summarily remove it.

While the ability to write as well as read makes this security hole
considerably worse than CVE-2012-3489, the problem is mitigated by the fact
that xslt_process() is not available unless contrib/xml2 is installed,
and the longstanding warnings about security risks from that should have
discouraged prudent DBAs from installing it in security-exposed databases.

Reported and fixed by Peter Eisentraut.

Security: CVE-2012-3488

12 years agoPrevent access to external files/URLs via XML entity references.
Tom Lane [Tue, 14 Aug 2012 22:25:29 +0000 (18:25 -0400)]
Prevent access to external files/URLs via XML entity references.

xml_parse() would attempt to fetch external files or URLs as needed to
resolve DTD and entity references in an XML value, thus allowing
unprivileged database users to attempt to fetch data with the privileges
of the database server.  While the external data wouldn't get returned
directly to the user, portions of it could be exposed in error messages
if the data didn't parse as valid XML; and in any case the mere ability
to check existence of a file might be useful to an attacker.

The ideal solution to this would still allow fetching of references that
are listed in the host system's XML catalogs, so that documents can be
validated according to installed DTDs.  However, doing that with the
available libxml2 APIs appears complex and error-prone, so we're not going
to risk it in a security patch that necessarily hasn't gotten wide review.
So this patch merely shuts off all access, causing any external fetch to
silently expand to an empty string.  A future patch may improve this.

In HEAD and 9.2, also suppress warnings about undefined entities, which
would otherwise occur as a result of not loading referenced DTDs.  Previous
branches don't show such warnings anyway, due to different error handling
arrangements.

Credit to Noah Misch for first reporting the problem, and for much work
towards a solution, though this simplistic approach was not his preference.
Also thanks to Daniel Veillard for consultation.

Security: CVE-2012-3489

12 years agoRevert "commit_delay" change; just add comment that we don't have
Bruce Momjian [Tue, 14 Aug 2012 20:26:08 +0000 (16:26 -0400)]
Revert "commit_delay" change; just add comment that we don't have
a microsecond specification.

12 years agoAdd pg_settings units display for "commit_delay" (ms).
Bruce Momjian [Tue, 14 Aug 2012 20:16:45 +0000 (16:16 -0400)]
Add pg_settings units display for "commit_delay" (ms).

Also remove unnecessary units designation in postgresql.conf.sample.

12 years agoIn documentation, change "recommendable" to "recommended", per
Bruce Momjian [Tue, 14 Aug 2012 16:36:35 +0000 (12:36 -0400)]
In documentation, change "recommendable" to "recommended", per
consultation with word definitions.

Backpatch to 9.2.

12 years agoUpdate time zone data files to tzdata release 2012e.
Tom Lane [Tue, 14 Aug 2012 14:54:24 +0000 (10:54 -0400)]
Update time zone data files to tzdata release 2012e.

DST law changes in Morocco; Tokelau has relocated to the other side of
the International Date Line; and apparently Olson had Tokelau's GMT
offset wrong by an hour even before that.

There are also a large number of non-significant changes in this update.
Upstream took the opportunity to remove trailing whitespace, and the
SCCS-style version numbers on the individual files are gone too.

12 years agoAdd runtime checks for number of query parameters passed to libpq functions.
Heikki Linnakangas [Mon, 13 Aug 2012 13:24:18 +0000 (16:24 +0300)]
Add runtime checks for number of query parameters passed to libpq functions.

The maximum number of parameters supported by the FE/BE protocol is 65535,
as it's transmitted as a 16-bit unsigned integer. However, the nParams
arguments to libpq functions are all of type 'int'. We can't change the
signature of libpq functions, but a simple bounds check is in order to make
it more clear what's going wrong if you try to pass more than 65535
parameters.

Per complaint from Jim Vanns.

12 years agoMore fixes for planner's handling of LATERAL.
Tom Lane [Sun, 12 Aug 2012 20:01:26 +0000 (16:01 -0400)]
More fixes for planner's handling of LATERAL.

Re-allow subquery pullup for LATERAL subqueries, except when the subquery
is below an outer join and contains lateral references to relations outside
that outer join.  If we pull up in such a case, we risk introducing lateral
cross-references into outer joins' ON quals, which is something the code is
entirely unprepared to cope with right now; and I'm not sure it'll ever be
worth coping with.

Support lateral refs in VALUES (this seems to be the only additional path
type that needs such support as a consequence of re-allowing subquery
pullup).

Put in a slightly hacky fix for joinpath.c's refusal to consider
parameterized join paths even when there cannot be any unparameterized
ones.  This was causing "could not devise a query plan for the given query"
failures in queries involving more than two FROM items.

Put in an even more hacky fix for distribute_qual_to_rels() being unhappy
with join quals that contain references to rels outside their syntactic
scope; which is to say, disable that test altogether.  Need to think about
how to preserve some sort of debugging cross-check here, while not
expending more cycles than befits a debugging cross-check.

12 years agoFix some issues with LATERAL(SELECT UNION ALL SELECT).
Tom Lane [Sat, 11 Aug 2012 22:42:20 +0000 (18:42 -0400)]
Fix some issues with LATERAL(SELECT UNION ALL SELECT).

The LATERAL marking has to be propagated down to the UNION leaf queries
when we pull them up.  Also, fix the formerly stubbed-off
set_append_rel_pathlist().  It does already have enough smarts to cope with
making a parameterized Append path at need; it just has to not assume that
there *must* be an unparameterized path.

12 years agoAdd link from COPY ref page to psql \copy.
Tom Lane [Sat, 11 Aug 2012 17:51:22 +0000 (13:51 -0400)]
Add link from COPY ref page to psql \copy.

Jeff Janes

12 years agoFix dependencies generated during ALTER TABLE ADD CONSTRAINT USING INDEX.
Tom Lane [Sat, 11 Aug 2012 16:51:24 +0000 (12:51 -0400)]
Fix dependencies generated during ALTER TABLE ADD CONSTRAINT USING INDEX.

This command generated new pg_depend entries linking the index to the
constraint and the constraint to the table, which match the entries made
when a unique or primary key constraint is built de novo.  However, it did
not bother to get rid of the entries linking the index directly to the
table.  We had considered the issue when the ADD CONSTRAINT USING INDEX
patch was written, and concluded that we didn't need to get rid of the
extra entries.  But this is wrong: ALTER COLUMN TYPE wasn't expecting such
redundant dependencies to exist, as reported by Hubert Depesz Lubaczewski.
On reflection it seems rather likely to break other things as well, since
there are many bits of code that crawl pg_depend for one purpose or
another, and most of them are pretty naive about what relationships they're
expecting to find.  Fortunately it's not that hard to get rid of the extra
dependency entries, so let's do that.

Back-patch to 9.1, where ALTER TABLE ADD CONSTRAINT USING INDEX was added.

12 years agoUpdate overlooked comment.
Tom Lane [Fri, 10 Aug 2012 21:36:54 +0000 (17:36 -0400)]
Update overlooked comment.

12 years agoSupport having multiple Unix-domain sockets per postmaster.
Tom Lane [Fri, 10 Aug 2012 21:26:44 +0000 (17:26 -0400)]
Support having multiple Unix-domain sockets per postmaster.

Replace unix_socket_directory with unix_socket_directories, which is a list
of socket directories, and adjust postmaster's code to allow zero or more
Unix-domain sockets to be created.

This is mostly a straightforward change, but since the Unix sockets ought
to be created after the TCP/IP sockets for safety reasons (better chance
of detecting a port number conflict), AddToDataDirLockFile needs to be
fixed to support out-of-order updates of data directory lockfile lines.
That's a change that had been foreseen to be necessary someday anyway.

Honza Horak, reviewed and revised by Tom Lane

12 years agoPrevent pg_upgrade from crashing if it can't write to the current
Bruce Momjian [Fri, 10 Aug 2012 21:14:48 +0000 (17:14 -0400)]
Prevent pg_upgrade from crashing if it can't write to the current
directory.

Backpatch to 9.2.

12 years agoAdjust pgtest coding to be less complex.
Bruce Momjian [Fri, 10 Aug 2012 20:46:02 +0000 (16:46 -0400)]
Adjust pgtest coding to be less complex.

12 years agoFix pgtest to return proper error code based on 'make' return code.
Bruce Momjian [Fri, 10 Aug 2012 18:10:34 +0000 (14:10 -0400)]
Fix pgtest to return proper error code based on 'make' return code.

12 years agoCentralize the logic for detecting misplaced aggregates, window funcs, etc.
Tom Lane [Fri, 10 Aug 2012 15:35:33 +0000 (11:35 -0400)]
Centralize the logic for detecting misplaced aggregates, window funcs, etc.

Formerly we relied on checking after-the-fact to see if an expression
contained aggregates, window functions, or sub-selects when it shouldn't.
This is grotty, easily forgotten (indeed, we had forgotten to teach
DefineIndex about rejecting window functions), and none too efficient
since it requires extra traversals of the parse tree.  To improve matters,
define an enum type that classifies all SQL sub-expressions, store it in
ParseState to show what kind of expression we are currently parsing, and
make transformAggregateCall, transformWindowFuncCall, and transformSubLink
check the expression type and throw error if the type indicates the
construct is disallowed.  This allows removal of a large number of ad-hoc
checks scattered around the code base.  The enum type is sufficiently
fine-grained that we can still produce error messages of at least the
same specificity as before.

Bringing these error checks together revealed that we'd been none too
consistent about phrasing of the error messages, so standardize the wording
a bit.

Also, rewrite checking of aggregate arguments so that it requires only one
traversal of the arguments, rather than up to three as before.

In passing, clean up some more comments left over from add_missing_from
support, and annotate some tests that I think are dead code now that that's
gone.  (I didn't risk actually removing said dead code, though.)

12 years agoFix upper limit of superuser_reserved_connections, add limit for wal_senders
Magnus Hagander [Fri, 10 Aug 2012 12:49:03 +0000 (14:49 +0200)]
Fix upper limit of superuser_reserved_connections, add limit for wal_senders

Should be limited to the maximum number of connections excluding
autovacuum workers, not including.

Add similar check for max_wal_senders, which should never be higher than
max_connections.

12 years agoTurn off WalSender keepalives by default, users can enable if desired
Simon Riggs [Thu, 9 Aug 2012 16:07:03 +0000 (17:07 +0100)]
Turn off WalSender keepalives by default, users can enable if desired

12 years agoEnsure all replication message info is available and correct via WalRcv
Simon Riggs [Thu, 9 Aug 2012 16:03:59 +0000 (17:03 +0100)]
Ensure all replication message info is available and correct via WalRcv

12 years agoMake psql -1 < file behave as expected.
Robert Haas [Thu, 9 Aug 2012 13:59:45 +0000 (09:59 -0400)]
Make psql -1 < file behave as expected.

Previously, the -1 option was silently ignored.

Also, emit an error if -1 is used in a context where it won't be
respected, to avoid user confusion.

Original patch by Fabien COELHO, but this version is quite different
from the original submission.

12 years agoFix typo in comment
Alvaro Herrera [Wed, 8 Aug 2012 21:34:20 +0000 (17:34 -0400)]
Fix typo in comment

12 years agoDoc correction to point out that 9.2+ can overwrite pg_xlog files.
Simon Riggs [Wed, 8 Aug 2012 21:34:46 +0000 (22:34 +0100)]
Doc correction to point out that 9.2+ can overwrite pg_xlog files.

Noted by Noah Misch, patch by Fujii Masao

12 years agoMerge parser's p_relnamespace and p_varnamespace lists into a single list.
Tom Lane [Wed, 8 Aug 2012 20:41:04 +0000 (16:41 -0400)]
Merge parser's p_relnamespace and p_varnamespace lists into a single list.

Now that we are storing structs in these lists, the distinction between
the two lists can be represented with a couple of extra flags while using
only a single list.  This simplifies the code and should save a little
bit of palloc traffic, since the majority of RTEs are represented in both
lists anyway.

12 years agoFix minor bug in XLogFileRead() that accidentally worked.
Simon Riggs [Wed, 8 Aug 2012 20:25:23 +0000 (21:25 +0100)]
Fix minor bug in XLogFileRead() that accidentally worked.
Cascading replication copied the incoming file into pg_xlog but
didn't set path correctly, so the first attempt to open file failed
causing it to loop around and look for file in pg_xlog. So the
earlier coding worked, but accidentally rather than by design.

Spotted by Fujii Masao, fix by Fujii Masao and Simon Riggs

12 years agoFix cache flush hazard in event trigger cache.
Robert Haas [Wed, 8 Aug 2012 20:38:37 +0000 (16:38 -0400)]
Fix cache flush hazard in event trigger cache.

Bug spotted by Jeff Davis using -DCLOBBER_CACHE_ALWAYS.

12 years agoAdd additional C comments for to_date/to_char() fixes.
Bruce Momjian [Wed, 8 Aug 2012 17:26:39 +0000 (13:26 -0400)]
Add additional C comments for to_date/to_char() fixes.

12 years agoUpdate isolation tests' README file.
Tom Lane [Wed, 8 Aug 2012 16:02:07 +0000 (12:02 -0400)]
Update isolation tests' README file.

The directions explaining about running the prepared-transactions test
were not updated in commit ae55d9fbe3871a5e6309d9b91629f1b0ff2b8cba.

12 years agoFix TwoPhaseGetDummyBackendId().
Tom Lane [Wed, 8 Aug 2012 15:52:02 +0000 (11:52 -0400)]
Fix TwoPhaseGetDummyBackendId().

This was broken in commit ed0b409d22346b1b027a4c2099ca66984d94b6dd,
which revised the GlobalTransactionData struct to not include the
associated PGPROC as its first member, but overlooked one place where
a cast was used in reliance on that equivalence.

The most effective way of fixing this seems to be to create a new function
that looks up the GlobalTransactionData struct given the XID, and make
both TwoPhaseGetDummyBackendId and TwoPhaseGetDummyProc rely on that.

Per report from Robert Ross.

12 years agoImplement SQL-standard LATERAL subqueries.
Tom Lane [Tue, 7 Aug 2012 23:02:54 +0000 (19:02 -0400)]
Implement SQL-standard LATERAL subqueries.

This patch implements the standard syntax of LATERAL attached to a
sub-SELECT in FROM, and also allows LATERAL attached to a function in FROM,
since set-returning function calls are expected to be one of the principal
use-cases.

The main change here is a rewrite of the mechanism for keeping track of
which relations are visible for column references while the FROM clause is
being scanned.  The parser "namespace" lists are no longer lists of bare
RTEs, but are lists of ParseNamespaceItem structs, which carry an RTE
pointer as well as some visibility-controlling flags.  Aside from
supporting LATERAL correctly, this lets us get rid of the ancient hacks
that required rechecking subqueries and JOIN/ON and function-in-FROM
expressions for invalid references after they were initially parsed.
Invalid column references are now always correctly detected on sight.

In passing, remove assorted parser error checks that are now dead code by
virtue of our having gotten rid of add_missing_from, as well as some
comments that are obsolete for the same reason.  (It was mainly
add_missing_from that caused so much fudging here in the first place.)

The planner support for this feature is very minimal, and will be improved
in future patches.  It works well enough for testing purposes, though.

catversion bump forced due to new field in RangeTblEntry.

12 years agoTweak new Perl pgindent for compatibility with middle-aged Perls.
Tom Lane [Tue, 7 Aug 2012 21:52:53 +0000 (17:52 -0400)]
Tweak new Perl pgindent for compatibility with middle-aged Perls.

We seem to have a rough policy that our Perl scripts should work with
Perl 5.8, so make this one do so.  Main change is to not use the newfangled
\h character class in regexes; "[ \t]" is a serviceable replacement.

12 years agoFix memory leaks in event trigger code.
Robert Haas [Tue, 7 Aug 2012 20:59:42 +0000 (16:59 -0400)]
Fix memory leaks in event trigger code.

Spotted by Jeff Davis.

12 years agoFix to_char(), to_date(), and to_timestamp() to handle negative/BC
Bruce Momjian [Tue, 7 Aug 2012 17:34:44 +0000 (13:34 -0400)]
Fix to_char(), to_date(), and to_timestamp() to handle negative/BC
century specifications just like positive/AD centuries.  Previously the
behavior was either wrong or inconsistent with positive/AD handling.

Centuries without years now always assume the first year of the century,
which is now documented.

12 years agoFix pg_upgrade file share violation on Windows created by the commit
Bruce Momjian [Tue, 7 Aug 2012 17:10:44 +0000 (13:10 -0400)]
Fix pg_upgrade file share violation on Windows created by the commit
4741e9afb93f0d769655b2d18c2b73b86f281010.  This was done by adding an
optional second log file parameter to exec_prog(), and closing and
reopening the log file between system() calls.

Backpatch to 9.2.

12 years agoFix redundant wording
Alvaro Herrera [Tue, 7 Aug 2012 15:02:53 +0000 (11:02 -0400)]
Fix redundant wording

12 years agofsync backup_label after pg_start_backup()
Simon Riggs [Tue, 7 Aug 2012 15:19:13 +0000 (16:19 +0100)]
fsync backup_label after pg_start_backup()

Dave Kerr

12 years agoTypo fixes for previous commit.
Robert Haas [Mon, 6 Aug 2012 20:12:17 +0000 (16:12 -0400)]
Typo fixes for previous commit.

Noted by Thom Brown.

12 years agoWarn more vigorously about the non-transactional behavior of sequences.
Robert Haas [Mon, 6 Aug 2012 19:18:00 +0000 (15:18 -0400)]
Warn more vigorously about the non-transactional behavior of sequences.

Craig Ringer, edited fairly heavily by me

12 years agoMake strings identical
Alvaro Herrera [Mon, 6 Aug 2012 16:45:08 +0000 (12:45 -0400)]
Make strings identical

12 years agoComplain with proper error message if streaming stops prematurely
Magnus Hagander [Mon, 6 Aug 2012 11:53:46 +0000 (13:53 +0200)]
Complain with proper error message if streaming stops prematurely

In particular, with a controlled shutdown of the master, pg_basebackup
with streaming log could terminate without an error message, even though
the backup is not consistent.

In passing, fix a few cases where walfile wasn't properly set to -1 after
closing.

Fujii Masao

12 years agoPerform conversion from Python unicode to string/bytes object via UTF-8.
Heikki Linnakangas [Mon, 6 Aug 2012 10:02:15 +0000 (13:02 +0300)]
Perform conversion from Python unicode to string/bytes object via UTF-8.

We used to convert the unicode object directly to a string in the server
encoding by calling Python's PyUnicode_AsEncodedString function. In other
words, we used Python's routines to do the encoding. However, that has a
few problems. First of all, it required keeping a mapping table of Python
encoding names and PostgreSQL encodings. But the real killer was that Python
doesn't support EUC_TW and MULE_INTERNAL encodings at all.

Instead, convert the Python unicode object to UTF-8, and use PostgreSQL's
encoding conversion functions to convert from UTF-8 to server encoding. We
were already doing the same in the other direction in PLyUnicode_FromString,
so this is more consistent, too.

Note: This makes SQL_ASCII to behave more leniently. We used to map
SQL_ASCII to Python's 'ascii', which on Python means strict 7-bit ASCII
only, so you got an error if the python string contained anything but pure
ASCII. You no longer get an error; you get the UTF-8 representation of the
string instead.

Backpatch to 9.0, where these conversions were introduced.

Jan Urbański

12 years agoReplace pgindent shell script with Perl script. Update perltidy
Bruce Momjian [Sat, 4 Aug 2012 16:41:21 +0000 (12:41 -0400)]
Replace pgindent shell script with Perl script.  Update perltidy
instructions to perltidy Perl files that lack Perl file extensions.

pgindent Perl coding by Andrew Dunstan, restructured by me.

12 years agoReword documentation for concurrent index rebuilds to be clearer.
Bruce Momjian [Sat, 4 Aug 2012 14:35:37 +0000 (10:35 -0400)]
Reword documentation for concurrent index rebuilds to be clearer.

Backpatch to 9.1 and 9.2.

12 years agoFix bugs with parsing signed hh:mm and hh:mm:ss fields in interval input.
Tom Lane [Fri, 3 Aug 2012 21:39:39 +0000 (17:39 -0400)]
Fix bugs with parsing signed hh:mm and hh:mm:ss fields in interval input.

DecodeInterval() failed to honor the "range" parameter (the special SQL
syntax for indicating which fields appear in the literal string) if the
time was signed.  This seems inappropriate, so make it work like the
not-signed case.  The inconsistency was introduced in my commit
f867339c0148381eb1d01f93ab5c79f9d10211de, which as noted in its log message
was only really focused on making SQL-compliant literals work per spec.
Including a sign here is not per spec, but if we're going to allow it
then it's reasonable to expect it to work like the not-signed case.

Also, remove bogus setting of tmask, which caused subsequent processing to
think that what had been given was a timezone and not an hh:mm(:ss) field,
thus confusing checks for redundant fields.  This seems to be an aboriginal
mistake in Lockhart's commit 2cf1642461536d0d8f3a1cf124ead0eac04eb760.

Add regression test cases to illustrate the changed behaviors.

Back-patch as far as 8.4, where support for spec-compliant interval
literals was added.

Range problem reported and diagnosed by Amit Kapila, tmask problem by me.

12 years agoAdd link to synchronous_commit variables in high availability docs.
Bruce Momjian [Fri, 3 Aug 2012 20:33:10 +0000 (16:33 -0400)]
Add link to synchronous_commit variables in high availability docs.

Backpatch to 9.2

Erik Rijkers

12 years agoImprove underdocumented btree_xlog_delete_get_latestRemovedXid() code.
Tom Lane [Fri, 3 Aug 2012 19:41:18 +0000 (15:41 -0400)]
Improve underdocumented btree_xlog_delete_get_latestRemovedXid() code.

As noted by Noah Misch, btree_xlog_delete_get_latestRemovedXid is
critically dependent on the assumption that it's examining a consistent
state of the database.  This was undocumented though, so the
seemingly-unrelated check for no active HS sessions might be thought to be
merely an optional optimization.  Improve comments, and add an explicit
check of reachedConsistency just to be sure.

This function returns InvalidTransactionId (thereby killing all HS
transactions) in several cases that are not nearly unlikely enough for my
taste.  This commit doesn't attempt to fix those deficiencies, just
document them.

Back-patch to 9.2, not from any real functional need but just to keep the
branches more closely synced to simplify possible future back-patching.

12 years agoIn SPGiST replay, do conflict resolution before modifying the page.
Tom Lane [Fri, 3 Aug 2012 19:22:41 +0000 (15:22 -0400)]
In SPGiST replay, do conflict resolution before modifying the page.

In yesterday's commit 962e0cc71e839c58fb9125fa85511b8bbb8bdbee, I added the
ResolveRecoveryConflictWithSnapshot call in the wrong place.  I correctly
put it before spgRedoVacuumRedirect itself would modify the index page ---
but not before RestoreBkpBlocks, so replay of a record with a full-page
image would modify the page before kicking off any conflicting HS
transactions.  Oops.

12 years agoDocument that trying to exceed temp_file_limit causes a query cancel.
Bruce Momjian [Fri, 3 Aug 2012 19:15:27 +0000 (15:15 -0400)]
Document that trying to exceed temp_file_limit causes a query cancel.

Backpatch to 9.2.

12 years agoDocument that, for psql -c, only the result of the last command is
Bruce Momjian [Fri, 3 Aug 2012 18:02:22 +0000 (14:02 -0400)]
Document that, for psql -c, only the result of the last command is
returned, per report from Aleksey Tsalolikhin

Backpatch to 9.2 and 9.1.

12 years agoIn pg_upgrade, use pg_log() instead of prep_status() for
Bruce Momjian [Fri, 3 Aug 2012 16:43:37 +0000 (12:43 -0400)]
In pg_upgrade, use pg_log() instead of prep_status() for
newline-terminated messages, per suggestion from Tom.

Backpatch to 9.2.

12 years agoFix race conditions associated with SPGiST redirection tuples.
Tom Lane [Thu, 2 Aug 2012 19:34:14 +0000 (15:34 -0400)]
Fix race conditions associated with SPGiST redirection tuples.

The correct test for whether a redirection tuple is removable is whether
tuple's xid < RecentGlobalXmin, not OldestXmin; the previous coding
failed to protect index searches being done in concurrent transactions that
have no XID.  This mirrors the recent fix in btree's page recycling logic
made in commit d3abbbebe52eb1e59e621c880ad57df9d40d13f2.

Also, WAL-log the newest XID of any removed redirection tuple on an index
page, and apply ResolveRecoveryConflictWithSnapshot during InHotStandby WAL
replay.  This protects against concurrent Hot Standby transactions possibly
needing to see the redirection tuple(s).

Per my query of 2012-03-12 and subsequent discussion.

12 years agoUpdate release notes for libpq feature change.
Tom Lane [Thu, 2 Aug 2012 17:21:19 +0000 (13:21 -0400)]
Update release notes for libpq feature change.

12 years agoReplace libpq's "row processor" API with a "single row" mode.
Tom Lane [Thu, 2 Aug 2012 17:10:30 +0000 (13:10 -0400)]
Replace libpq's "row processor" API with a "single row" mode.

After taking awhile to digest the row-processor feature that was added to
libpq in commit 92785dac2ee7026948962cd61c4cd84a2d052772, we've concluded
it is over-complicated and too hard to use.  Leave the core infrastructure
changes in place (that is, there's still a row processor function inside
libpq), but remove the exposed API pieces, and instead provide a "single
row" mode switch that causes PQgetResult to return one row at a time in
separate PGresult objects.

This approach incurs more overhead than proper use of a row processor
callback would, since construction of a PGresult per row adds extra cycles.
However, it is far easier to use and harder to break.  The single-row mode
still affords applications the primary benefit that the row processor API
was meant to provide, namely not having to accumulate large result sets in
memory before processing them.  Preliminary testing suggests that we can
probably buy back most of the extra cycles by micro-optimizing construction
of the extra results, but that task will be left for another day.

Marko Kreen

12 years agoAdd documentation cross-reference for JSON functions.
Tom Lane [Wed, 1 Aug 2012 04:41:41 +0000 (00:41 -0400)]
Add documentation cross-reference for JSON functions.

Thom Brown

12 years agoFix WITH attached to a nested set operation (UNION/INTERSECT/EXCEPT).
Tom Lane [Tue, 31 Jul 2012 21:56:21 +0000 (17:56 -0400)]
Fix WITH attached to a nested set operation (UNION/INTERSECT/EXCEPT).

Parse analysis neglected to cover the case of a WITH clause attached to an
intermediate-level set operation; it only handled WITH at the top level
or WITH attached to a leaf-level SELECT.  Per report from Adam Mackler.

In HEAD, I rearranged the order of SelectStmt's fields to put withClause
with the other fields that can appear on non-leaf SelectStmts.  In back
branches, leave it alone to avoid a possible ABI break for third-party
code.

Back-patch to 8.4 where WITH support was added.

12 years agoFix syslogger so that log_truncate_on_rotation works in the first rotation.
Tom Lane [Tue, 31 Jul 2012 18:36:54 +0000 (14:36 -0400)]
Fix syslogger so that log_truncate_on_rotation works in the first rotation.

In the original coding of the log rotation stuff, we did not bother to make
the truncation logic work for the very first rotation after postmaster
start (or after a syslogger crash and restart).  It just always appended
in that case.  It did not seem terribly important at the time, but we've
recently had two separate complaints from people who expected it to work
unsurprisingly.  (Both users tend to restart the postmaster about as often
as a log rotation is configured to happen, which is maybe not typical use,
but still...)  Since the initial log file is opened in the postmaster,
fixing this requires passing down some more state to the syslogger child
process.

It's always been like this, so back-patch to all supported branches.

12 years agopg_basebackup: stylistic adjustments
Alvaro Herrera [Tue, 31 Jul 2012 14:11:11 +0000 (10:11 -0400)]
pg_basebackup: stylistic adjustments

The most user-visible part of this is to change the long options
--statusint and --noloop to --status-interval and --no-loop,
respectively, per discussion.

Also, consistently enclose file names in double quotes, per our
conventions; and consistently use the term "transaction log file" to
talk about WAL segments.  (Someday we may need to go over this
terminology and make it consistent across the whole source code.)

Finally, reflow the code to better fit in 80 columns, and have pgindent
fix it up some more.

12 years agoNow that the diskchecker.pl author has updated the download link on his
Bruce Momjian [Mon, 30 Jul 2012 14:15:57 +0000 (10:15 -0400)]
Now that the diskchecker.pl author has updated the download link on his
website, revert the separate link to the download git repository.

Backpatch from 9.0 to current.

12 years agoImprove reporting of error situations in find_other_exec().
Tom Lane [Fri, 27 Jul 2012 23:31:13 +0000 (19:31 -0400)]
Improve reporting of error situations in find_other_exec().

This function suppressed any stderr output from the called program, which
is unnecessary in the normal case and unhelpful in error cases.  It also
gave a rather opaque message along the lines of "fgets failure: Success"
in case the called program failed to return anything on stdout.  Since
we've seen multiple reports of people not understanding what's wrong when
pg_ctl reports this, improve the message.

Back-patch to all active branches.

12 years agoUpdate doc mention of diskchecker.pl to add URL for script; retain URL
Bruce Momjian [Fri, 27 Jul 2012 01:25:26 +0000 (21:25 -0400)]
Update doc mention of diskchecker.pl to add URL for script; retain URL
for description.

Patch to 9.0 and later, where script is mentioned.

12 years agoDocument that the pg_upgrade user of rsync might want to skip some
Bruce Momjian [Thu, 26 Jul 2012 18:30:07 +0000 (14:30 -0400)]
Document that the pg_upgrade user of rsync might want to skip some
files, like postmaster.pid.

Backpatch to 9.2.

12 years agoOnly allow autovacuum to be auto-canceled by a directly blocked process.
Tom Lane [Thu, 26 Jul 2012 18:29:22 +0000 (14:29 -0400)]
Only allow autovacuum to be auto-canceled by a directly blocked process.

In the original coding of the autovacuum cancel feature, commit
acac68b2bcae818bc8803b8cb8cbb17eee8d5e2b, an autovacuum process was
considered a target for cancellation if it was found to hard-block any
process examined in the deadlock search.  This patch tightens the test so
that the autovacuum must directly hard-block the current process.  This
should make the behavior more predictable in general, and in particular
it ensures that an autovacuum will not be canceled with less than
deadlock_timeout grace period.  In the old coding, it was possible for an
autovacuum to be canceled almost instantly, given unfortunate timing of two
or more other processes' lock attempts.

This also justifies the logging methodology in the recent commit
d7318d43d891bd63e82dcfc27948113ed7b1db80; without this restriction, that
patch isn't providing enough information to see the connection of the
canceling process to the autovacuum.  Like that one, patch all the way
back.

12 years agoTab complete table names after ALTER TABLE x [NO] INHERIT.
Robert Haas [Thu, 26 Jul 2012 14:16:55 +0000 (10:16 -0400)]
Tab complete table names after ALTER TABLE x [NO] INHERIT.

Jeff Janes

12 years agoLog a better message when canceling autovacuum.
Robert Haas [Thu, 26 Jul 2012 13:18:32 +0000 (09:18 -0400)]
Log a better message when canceling autovacuum.

The old message was at DEBUG2, so typically it didn't show up in the
log at all.  As a result, in most cases where autovacuum was canceled,
the only information that was logged was the table being vacuumed,
with no indication as to what problem caused the cancel.  Crank up
the level to LOG and add some more details to assist with debugging.

Back-patch all the way, per discussion on pgsql-hackers.

12 years agoSimplify pg_upgrade's handling when returning directory listings.
Bruce Momjian [Thu, 26 Jul 2012 10:22:06 +0000 (06:22 -0400)]
Simplify pg_upgrade's handling when returning directory listings.

Backpatch to 9.2.

12 years agoFix longstanding crash-safety bug with newly-created-or-reset sequences.
Tom Lane [Wed, 25 Jul 2012 21:40:36 +0000 (17:40 -0400)]
Fix longstanding crash-safety bug with newly-created-or-reset sequences.

If a crash occurred immediately after the first nextval() call for a serial
column, WAL replay would restore the sequence to a state in which it
appeared that no nextval() had been done, thus allowing the first sequence
value to be returned again by the next nextval() call; as reported in
bug #6748 from Xiangming Mei.

More generally, the problem would occur if an ALTER SEQUENCE was executed
on a freshly created or reset sequence.  (The manifestation with serial
columns was introduced in 8.2 when we added an ALTER SEQUENCE OWNED BY step
to serial column creation.)  The cause is that sequence creation attempted
to save one WAL entry by writing out a WAL record that made it appear that
the first nextval() had already happened (viz, with is_called = true),
while marking the sequence's in-database state with log_cnt = 1 to show
that the first nextval() need not emit a WAL record.  However, ALTER
SEQUENCE would emit a new WAL entry reflecting the actual in-database state
(with is_called = false).  Then, nextval would allocate the first sequence
value and set is_called = true, but it would trust the log_cnt value and
not emit any WAL record.  A crash at this point would thus restore the
sequence to its post-ALTER state, causing the next nextval() call to return
the first sequence value again.

To fix, get rid of the idea of logging an is_called status different from
reality.  This means that the first nextval-driven WAL record will happen
at the first nextval call not the second, but the marginal cost of that is
pretty negligible.  In addition, make sure that ALTER SEQUENCE resets
log_cnt to zero in any case where it touches sequence parameters that
affect future nextval results.  This will result in some user-visible
changes in the contents of a sequence's log_cnt column, as reflected in the
patch's regression test changes; but no application should be depending on
that anyway, since it was already true that log_cnt changes rather
unpredictably depending on checkpoint timing.

In addition, make some basically-cosmetic improvements to get rid of
sequence.c's undesirable intimacy with page layout details.  It was always
really trying to WAL-log the contents of the sequence tuple, so we should
have it do that directly using a HeapTuple's t_data and t_len, rather than
backing into it with some magic assumptions about where the tuple would be
on the sequence's page.

Back-patch to all supported branches.

12 years agoDocument that pg_basebackup will create its output directory
Peter Eisentraut [Wed, 25 Jul 2012 19:00:00 +0000 (22:00 +0300)]
Document that pg_basebackup will create its output directory

12 years agoAdd translator comments to module names
Alvaro Herrera [Wed, 25 Jul 2012 04:02:49 +0000 (00:02 -0400)]
Add translator comments to module names

12 years agoChange syntax of new CHECK NO INHERIT constraints
Alvaro Herrera [Tue, 24 Jul 2012 19:49:54 +0000 (15:49 -0400)]
Change syntax of new CHECK NO INHERIT constraints

The initially implemented syntax, "CHECK NO INHERIT (expr)" was not
deemed very good, so switch to "CHECK (expr) NO INHERIT" instead.  This
way it looks similar to SQL-standards compliant constraint attribute.

Backport to 9.2 where the new syntax and feature was introduced.

Per discussion.

12 years agoUpdate information schema to SQL:2011
Peter Eisentraut [Mon, 23 Jul 2012 19:31:43 +0000 (22:31 +0300)]
Update information schema to SQL:2011

This is just a section renumbering for now.  Some details might be
filled in later.

12 years agoMake pgbench vacuum before building indexes.
Robert Haas [Mon, 23 Jul 2012 18:38:34 +0000 (14:38 -0400)]
Make pgbench vacuum before building indexes.

This is apparently faster than doing things the other way around when
the scale factor is large.

Along the way, adjust -n to suppress vacuuming during initialization
as well as during test runs.

Jeff Janes, with some small changes by me.

12 years agoFix name collision between concurrent regression tests.
Tom Lane [Sun, 22 Jul 2012 04:01:19 +0000 (00:01 -0400)]
Fix name collision between concurrent regression tests.

Commit f5bcd398addcbeb785f0513cf28cba5d1ecd2c8a introduced a test using
a table named "circles" in inherit.sql.  Unfortunately, the concurrently
executed constraints test was already using that table name, so the
parallel regression tests would sometimes fail.  Rename table to dodge
the problem.  Per buildfarm.

12 years agoImprove copydir() code for the case that fsync is off.
Tom Lane [Sun, 22 Jul 2012 00:10:29 +0000 (20:10 -0400)]
Improve copydir() code for the case that fsync is off.

We should avoid calling sync_file_range or posix_fadvise in this case,
since (a) we don't really care if the data gets synced, and might as
well save the kernel calls; (b) at least on Linux we know that the
kernel might block us until it's scheduled the write.

Also, avoid making a useless second traversal of the directory tree
if we're not actually going to call fsync(2) after all.

12 years agoUse --nosync during make check's initdb call.
Tom Lane [Sat, 21 Jul 2012 23:56:22 +0000 (19:56 -0400)]
Use --nosync during make check's initdb call.

We left this out of commit b966dd6c4228d696b291c1cdcb5ab8c8475fefa8
so as to get some more buildfarm testing of the new fsync code in initdb.
But since no problems have turned up, it's probably time to save the
cycles.

12 years agoSuppress volatile-related warning seen in some compilers.
Tom Lane [Sat, 21 Jul 2012 23:39:03 +0000 (19:39 -0400)]
Suppress volatile-related warning seen in some compilers.

Antique versions of gcc complain about vars that are initialized outside
PG_TRY and then modified within it.  Rather than marking the var volatile,
expend one more line of code.

12 years agoAccount for SRFs in targetlists in planner rowcount estimates.
Tom Lane [Sat, 21 Jul 2012 21:45:07 +0000 (17:45 -0400)]
Account for SRFs in targetlists in planner rowcount estimates.

We made use of the ROWS estimate for set-returning functions used in FROM,
but not for those used in SELECT targetlists; which is a bit of an
oversight considering there are common usages that require the latter
approach.  Improve that.  (I had initially thought it might be worth
folding this into cost_qual_eval, but after investigation concluded that
that wouldn't be very helpful, so just do it separately.)  Per complaint
from David Johnston.

Back-patch to 9.2, but not further, for fear of destabilizing plan choices
in existing releases.

12 years agoRevert temporary patch to debug Windows breakage.
Robert Haas [Sat, 21 Jul 2012 02:31:19 +0000 (22:31 -0400)]
Revert temporary patch to debug Windows breakage.

This reverts commit 0a248208a038d7847ef98996c6b70209d782415c.

12 years agoRepair plpgsql_validator breakage.
Robert Haas [Sat, 21 Jul 2012 01:25:26 +0000 (21:25 -0400)]
Repair plpgsql_validator breakage.

Commit 3a0e4d36ebd7f477822d5bae41ba121a40d22ccc arranged to
reference stack-allocated variables after they were out of scope.
That's no good, so let's arrange to not do that after all.