]> granicus.if.org Git - postgresql/blob - doc/TODO
Add:
[postgresql] / doc / TODO
1
2 PostgreSQL TODO List
3 ====================
4 Current maintainer:     Bruce Momjian (pgman@candle.pha.pa.us)
5 Last updated:           Mon Mar  6 00:16:20 EST 2006
6
7 The most recent version of this document can be viewed at
8 http://www.postgresql.org/docs/faqs.TODO.html.
9
10 #A hyphen, "-", marks changes that will appear in the upcoming 8.2 release.#
11 #A percent sign, "%", marks items that are easier to implement.#
12
13 Bracketed items, "[]", have more detail.
14
15 This list contains all known PostgreSQL bugs and feature requests. If
16 you would like to work on an item, please read the Developer's FAQ
17 first.
18
19
20 Administration
21 ==============
22
23 * %Remove behavior of postmaster -o
24 * -%Allow pooled connections to list all prepared statements
25
26   This would allow an application inheriting a pooled connection to know
27   the statements prepared in the current session.
28
29 * Allow major upgrades without dump/reload, perhaps using pg_upgrade 
30   [pg_upgrade]
31 * Check for unreferenced table files created by transactions that were
32   in-progress when the server terminated abruptly
33 * Allow administrators to safely terminate individual sessions either
34   via an SQL function or SIGTERM 
35
36   Lock table corruption following SIGTERM of an individual backend
37   has been reported in 8.0.  A possible cause was fixed in 8.1, but
38   it is unknown whether other problems exist.  This item mostly
39   requires additional testing rather than of writing any new code.
40
41 * %Set proper permissions on non-system schemas during db creation
42
43   Currently all schemas are owned by the super-user because they are
44   copied from the template1 database.
45
46 * Support table partitioning that allows a single table to be stored
47   in subtables that are partitioned based on the primary key or a WHERE
48   clause
49 * Add function to report the time of the most recent server reload
50 * Allow statistics collector information to be pulled from the collector
51   process directly, rather than requiring the collector to write a
52   filesystem file twice a second?
53
54
55 * Improve replication solutions
56
57         o Load balancing
58
59           You can use any of the master/slave replication servers to use a
60           standby server for data warehousing. To allow read/write queries to
61           multiple servers, you need multi-master replication like pgcluster.
62
63         o Allow replication over unreliable or non-persistent links
64
65
66 * Configuration files
67
68         o -Add "include file" functionality in postgresql.conf
69         o %Allow commenting of variables in postgresql.conf to restore them
70           to defaults
71
72           Currently, if a variable is commented out, it keeps the
73           previous uncommented value until a server restarted.
74
75         o %Allow pg_hba.conf settings to be controlled via SQL
76
77           This would add a function to load the SQL table from
78           pg_hba.conf, and one to writes its contents to the flat file.
79           The table should have a line number that is a float so rows
80           can be inserted between existing rows, e.g. row 2.5 goes
81           between row 2 and row 3.
82
83         o Allow pg_hba.conf to specify host names along with IP addresses
84
85           Host name lookup could occur when the postmaster reads the
86           pg_hba.conf file, or when the backend starts.  Another
87           solution would be to reverse lookup the connection IP and
88           check that hostname against the host names in pg_hba.conf.
89           We could also then check that the host name maps to the IP
90           address.
91
92         o %Allow postgresql.conf file values to be changed via an SQL
93           API, perhaps using SET GLOBAL
94         o Allow the server to be stopped/restarted via an SQL API
95         o -Issue a warning if a change-on-restart-only postgresql.conf value
96           is modified  and the server config files are reloaded
97         o Mark change-on-restart-only values in postgresql.conf
98
99
100 * Tablespaces
101
102         * Allow a database in tablespace t1 with tables created in
103           tablespace t2 to be used as a template for a new database created
104           with default tablespace t2
105
106           All objects in the default database tablespace must have default
107           tablespace specifications. This is because new databases are
108           created by copying directories. If you mix default tablespace
109           tables and tablespace-specified tables in the same directory,
110           creating a new database from such a mixed directory would create a
111           new database with tables that had incorrect explicit tablespaces.
112           To fix this would require modifying pg_class in the newly copied
113           database, which we don't currently do.
114
115         * Allow reporting of which objects are in which tablespaces
116
117           This item is difficult because a tablespace can contain objects
118           from multiple databases. There is a server-side function that
119           returns the databases which use a specific tablespace, so this
120           requires a tool that will call that function and connect to each
121           database to find the objects in each database for that tablespace.
122
123         o %Add a GUC variable to control the tablespace for temporary objects
124           and sort files
125
126           It could start with a random tablespace from a supplied list and
127           cycle through the list.
128
129         o Allow WAL replay of CREATE TABLESPACE to work when the directory
130           structure on the recovery computer is different from the original
131
132         o Allow per-tablespace quotas
133
134
135 * Point-In-Time Recovery (PITR)
136
137           o Allow point-in-time recovery to archive partially filled
138             write-ahead logs [pitr]
139
140             Currently only full WAL files are archived. This means that the
141             most recent transactions aren't available for recovery in case
142             of a disk failure. This could be triggered by a user command or
143             a timer.
144
145           o Automatically force archiving of partially-filled WAL files when
146             pg_stop_backup() is called or the server is stopped
147
148             Doing this will allow administrators to know more easily when
149             the archive contains all the files needed for point-in-time
150             recovery.
151
152           o %Create dump tool for write-ahead logs for use in determining
153             transaction id for point-in-time recovery
154           o Allow a warm standby system to also allow read-only statements
155             [pitr]
156
157             This is useful for checking PITR recovery.
158
159           o Allow the PITR process to be debugged and data examined
160
161
162 Monitoring
163 ==========
164
165 * Allow server log information to be output as INSERT statements
166
167   This would allow server log information to be easily loaded into
168   a database for analysis.
169
170 * %Add ability to monitor the use of temporary sort files
171 * Allow server logs to be remotely read and removed using SQL commands
172 * Allow protocol-level BIND parameter values to be logged
173
174
175 Data Types
176 ==========
177
178 * Improve the MONEY data type
179
180   Change the MONEY data type to use DECIMAL internally, with special
181   locale-aware output formatting.
182
183 * Change NUMERIC to enforce the maximum precision
184 * Add NUMERIC division operator that doesn't round?
185
186   Currently NUMERIC _rounds_ the result to the specified precision.  
187   This means division can return a result that multiplied by the 
188   divisor is greater than the dividend, e.g. this returns a value > 10:
189
190     SELECT (10::numeric(2,0) / 6::numeric(2,0))::numeric(2,0) * 6;
191
192   The positive modulus result returned by NUMERICs might be considered
193   inaccurate, in one sense.
194
195 * %Disallow changing default expression of a SERIAL column
196 * %Disallow changing sequence characteristics like INCREMENT for SERIAL columns
197 * Fix data types where equality comparison isn't intuitive, e.g. box
198 * -Zero umasked bits in conversion from INET cast to CIDR
199 * -Prevent INET cast to CIDR from dropping netmask, SELECT '1.1.1.1'::inet::cidr
200 * -Allow INET + INT8 to increment the host part of the address or
201   throw an error on overflow
202 * -Add 'tid != tid ' operator for use in corruption recovery
203 * Allow user-defined types to specify a type modifier at table creation
204   time
205
206
207 * Dates and Times
208
209         o Allow infinite dates and intervals just like infinite timestamps
210         o Merge hardwired timezone names with the TZ database; allow either 
211           kind everywhere a TZ name is currently taken
212         o Allow customization of the known set of TZ names (generalize the
213           present australian_timezones hack)
214         o Allow TIMESTAMP WITH TIME ZONE to store the original timezone
215           information, either zone name or offset from UTC [timezone]
216
217           If the TIMESTAMP value is stored with a time zone name, interval 
218           computations should adjust based on the time zone rules.
219
220         o Fix SELECT '0.01 years'::interval, '0.01 months'::interval
221         o Fix SELECT INTERVAL '1' MONTH
222         o Add a GUC variable to allow output of interval values in ISO8601 
223           format
224         o Improve timestamptz subtraction to be DST-aware
225
226           Currently, subtracting one date from another that crosses a
227           daylight savings time adjustment can return '1 day 1 hour', but
228           adding that back to the first date returns a time one hour in
229           the future.  This is caused by the adjustment of '25 hours' to
230           '1 day 1 hour', and '1 day' is the same time the next day, even
231           if daylight savings adjustments are involved.
232
233         o Fix interval display to support values exceeding 2^31 hours
234         o Add overflow checking to timestamp and interval arithmetic    
235         o Add ISO INTERVAL handling
236                 o Add support for day-time syntax, INTERVAL '1 2:03:04' DAY TO 
237                   SECOND
238                 o Add support for year-month syntax, INTERVAL '50-6' YEAR TO MONTH
239                 o For syntax that isn't uniquely ISO or PG syntax, like '1:30' or
240                   '1', treat as ISO if there is a range specification clause,
241                   and as PG if there no clause is present, e.g. interpret 
242                           '1:30' MINUTE TO SECOND as '1 minute 30 seconds', and 
243                           interpret '1:30' as '1 hour, 30 minutes'
244                 o Interpret INTERVAL '1 year' MONTH as CAST (INTERVAL '1 year' AS
245                   INTERVAL MONTH), and this should return '12 months'
246                 o Round or truncate values to the requested precision, e.g.
247                   INTERVAL '11 months' AS YEAR should return one or zero
248                 o Support precision, CREATE TABLE foo (a INTERVAL MONTH(3))
249
250
251 * Arrays
252
253         o -Allow NULLs in arrays
254         o Delay resolution of array expression's data type so assignment
255           coercion can be performed on empty array expressions
256
257
258 * Binary Data
259
260         o Improve vacuum of large objects, like /contrib/vacuumlo?
261         o Add security checking for large objects
262         o Auto-delete large objects when referencing row is deleted
263
264           /contrib/lo offers this functionality.
265
266         o Allow read/write into TOAST values like large objects
267
268           This requires the TOAST column to be stored EXTERNAL.
269
270
271 Functions
272 =========
273
274 * Allow INET subnet tests using non-constants to be indexed
275 * Add transaction_timestamp(), statement_timestamp(), clock_timestamp()
276   functionality
277
278   Current CURRENT_TIMESTAMP returns the start time of the current
279   transaction, and gettimeofday() returns the wallclock time. This will
280   make time reporting more consistent and will allow reporting of
281   the statement start time.
282
283 * %Add pg_get_acldef(), pg_get_typedefault(), pg_get_attrdef(),
284   pg_get_tabledef(), pg_get_domaindef(), pg_get_functiondef()
285 * -Allow to_char() to print localized month names
286 * Allow to_date() and to_timestamp() accept localized month names
287 * Add missing parameter handling in to_char()
288
289         http://archives.postgresql.org/pgsql-hackers/2005-12/msg00948.php
290
291 * Allow functions to have a schema search path specified at creation time
292 * Allow substring/replace() to get/set bit values
293 * Allow to_char() on interval values to accumulate the highest unit
294   requested
295
296   Some special format flag would be required to request such
297   accumulation.  Such functionality could also be added to EXTRACT. 
298   Prevent accumulation that crosses the month/day boundary because of
299   the uneven number of days in a month.
300
301         o to_char(INTERVAL '1 hour 5 minutes', 'MI') => 65
302         o to_char(INTERVAL '43 hours 20 minutes', 'MI' ) => 2600 
303         o to_char(INTERVAL '43 hours 20 minutes', 'WK:DD:HR:MI') => 0:1:19:20
304         o to_char(INTERVAL '3 years 5 months','MM') => 41
305
306 * -Add sleep() function, remove from regress.c
307 * Allow user-defined functions retuning a domain value to enforce domain
308   constraints
309 * Add SPI_gettypmod() to return the typemod for a TupleDesc
310
311
312 Multi-Language Support
313 ======================
314
315 * Add NCHAR (as distinguished from ordinary varchar),
316 * Allow locale to be set at database creation
317
318   Currently locale can only be set during initdb.  No global tables have
319   locale-aware columns.  However, the database template used during
320   database creation might have locale-aware indexes.  The indexes would
321   need to be reindexed to match the new locale.
322
323 * Allow encoding on a per-column basis
324
325   Right now only one encoding is allowed per database.
326
327 * Support multiple simultaneous character sets, per SQL92
328 * Improve UTF8 combined character handling?
329 * Add octet_length_server() and octet_length_client()
330 * Make octet_length_client() the same as octet_length()?
331 * Fix problems with wrong runtime encoding conversion for NLS message files
332
333
334 Views / Rules
335 =============
336
337 * Automatically create rules on views so they are updateable, per SQL99
338
339   We can only auto-create rules for simple views.  For more complex
340   cases users will still have to write rules manually.
341
342 * Add the functionality for WITH CHECK OPTION clause of CREATE VIEW
343 * Allow NOTIFY in rules involving conditionals
344 * Allow VIEW/RULE recompilation when the underlying tables change
345
346   Another issue is whether underlying table changes should be reflected
347   in the view, e.g. should SELECT * show additional columns if they
348   are added after the view is created.
349
350
351 SQL Commands
352 ============
353
354 * Change LIMIT/OFFSET and FETCH/MOVE to use int8
355 * Add CORRESPONDING BY to UNION/INTERSECT/EXCEPT
356 * Add ROLLUP, CUBE, GROUPING SETS options to GROUP BY
357 * %Allow SET CONSTRAINTS to be qualified by schema/table name
358 * -Allow TRUNCATE ... CASCADE/RESTRICT
359
360   This is like DELETE CASCADE, but truncates.
361
362 * %Add a separate TRUNCATE permission
363
364   Currently only the owner can TRUNCATE a table because triggers are not
365   called, and the table is locked in exclusive mode.
366
367 * Allow PREPARE of cursors
368 * -Allow PREPARE to automatically determine parameter types based on the SQL
369   statement (Neil)
370 * Allow finer control over the caching of prepared query plans
371
372   Currently, queries prepared via the libpq API are planned on first
373   execute using the supplied parameters --- allow SQL PREPARE to do the
374   same.  Also, allow control over replanning prepared queries either
375   manually or automatically when statistics for execute parameters
376   differ dramatically from those used during planning.
377
378 * Allow LISTEN/NOTIFY to store info in memory rather than tables?
379
380   Currently LISTEN/NOTIFY information is stored in pg_listener. Storing
381   such information in memory would improve performance.
382
383 * Add optional textual message to NOTIFY
384
385   This would allow an informational message to be added to the notify
386   message, perhaps indicating the row modified or other custom
387   information.
388
389 * Add a GUC variable to warn about non-standard SQL usage in queries
390 * Add SQL-standard MERGE command, typically used to merge two tables
391   [merge]
392
393   This is similar to UPDATE, then for unmatched rows, INSERT.
394   Whether concurrent access allows modifications which could cause
395   row loss is implementation independent.
396
397 * Add REPLACE or UPSERT command that does UPDATE, or on failure, INSERT
398   [merge]
399
400   To implement this cleanly requires that the table have a unique index
401   so duplicate checking can be easily performed.  It is possible to
402   do it without a unique index if we require the user to LOCK the table
403   before the MERGE.
404
405 * Add NOVICE output level for helpful messages like automatic sequence/index
406   creation
407 * -Add COMMENT ON for all cluster global objects (roles, databases
408   and tablespaces)
409 * -Make row-wise comparisons work per SQL spec
410
411   Right now, '(a, b) < (1, 2)' is processed as 'a < 1 and b < 2', but
412   the SQL standard requires it to be processed as a column-by-column
413   comparison, so the proper comparison is '(a < 1) OR (a = 1 AND b < 2)'.
414
415 * Add RESET CONNECTION command to reset all session state
416
417   This would include resetting of all variables (RESET ALL), dropping of
418   temporary tables, removing any NOTIFYs, cursors, open transactions,
419   prepared queries, currval()s, etc.  This could be used  for connection
420   pooling.  We could also change RESET ALL to have this functionality.  
421   The difficult of this features is allowing RESET ALL to not affect 
422   changes made by the interface driver for its internal use.  One idea 
423   is for this to be a protocol-only feature.  Another approach is to 
424   notify the protocol when a RESET CONNECTION command is used.
425
426 * Add GUC to issue notice about statements that use unjoined tables
427 * Allow EXPLAIN to identify tables that were skipped because of 
428   constraint_exclusion
429 * Allow EXPLAIN output to be more easily processed by scripts
430 * Eventually enable escape_string_warning and standard_conforming_strings
431 * Simplify dropping roles that have objects in several databases
432 * Allow COMMENT ON to accept an expression rather than just a string
433 * Allow the count returned by SELECT, etc to be to represent as an int64
434   to allow a higher range of values
435 * Make CLUSTER preserve recently-dead tuples per MVCC requirements
436 * Add SQL99 WITH clause to SELECT
437 * Add SQL99 WITH RECURSIVE to SELECT
438
439
440 * CREATE
441
442         o Allow CREATE TABLE AS to determine column lengths for complex
443           expressions like SELECT col1 || col2
444         o Use more reliable method for CREATE DATABASE to get a consistent
445           copy of db?
446         o -Add ON COMMIT capability to CREATE TABLE AS ... SELECT
447
448
449 * UPDATE
450         o Allow UPDATE to handle complex aggregates [update]?
451         o -Allow an alias to be provided for the target table in
452           UPDATE/DELETE (Neil)
453         o Allow UPDATE tab SET ROW (col, ...) = (...) for updating multiple
454           columns
455
456
457 * ALTER
458
459         o %Have ALTER TABLE RENAME rename SERIAL sequence names
460         o Add ALTER DOMAIN to modify the underlying data type
461         o %Allow ALTER TABLE ... ALTER CONSTRAINT ... RENAME
462         o %Allow ALTER TABLE to change constraint deferrability and actions
463         o Add missing object types for ALTER ... SET SCHEMA
464         o Allow ALTER TABLESPACE to move to different directories
465         o Allow databases to be moved to different tablespaces
466         o Allow moving system tables to other tablespaces, where possible
467
468           Currently non-global system tables must be in the default database
469           tablespace. Global system tables can never be moved.
470
471         o %Prevent child tables from altering or dropping constraints 
472           like CHECK that were inherited from the parent table
473         o Have ALTER INDEX update the name of a constraint using that index
474         o Add ALTER TABLE RENAME CONSTRAINT, update index name also
475
476
477 * CLUSTER
478
479         o Automatically maintain clustering on a table
480
481           This might require some background daemon to maintain clustering
482           during periods of low usage. It might also require tables to be only
483           partially filled for easier reorganization.  Another idea would
484           be to create a merged heap/index data file so an index lookup would
485           automatically access the heap data too.  A third idea would be to
486           store heap rows in hashed groups, perhaps using a user-supplied
487           hash function.
488
489         o %Add default clustering to system tables
490
491           To do this, determine the ideal cluster index for each system
492           table and set the cluster setting during initdb.
493
494
495 * COPY
496
497         o Allow COPY to report error lines and continue
498
499           This requires the use of a savepoint before each COPY line is
500           processed, with ROLLBACK on COPY failure.
501
502         o -Have COPY return the number of rows loaded/unloaded?
503         o Allow COPY on a newly-created table to skip WAL logging
504
505           On crash recovery, the table involved in the COPY would
506           be removed or have its heap and index files truncated.  One
507           issue is that no other backend should be able to add to 
508           the table at the same time, which is something that is 
509           currently allowed.
510
511         o Allow COPY to output from views
512
513           Another idea would be to allow actual SELECT statements in a COPY.
514
515
516 * GRANT/REVOKE
517
518         o Allow column-level privileges
519         o %Allow GRANT/REVOKE permissions to be applied to all schema objects
520           with one command
521
522           The proposed syntax is:
523                 GRANT SELECT ON ALL TABLES IN public TO phpuser;
524                 GRANT SELECT ON NEW TABLES IN public TO phpuser;
525
526         * Allow GRANT/REVOKE permissions to be inherited by objects based on
527           schema permissions
528
529         * Allow SERIAL sequences to inherit permissions from the base table?
530
531
532 * CURSOR
533
534         o Allow UPDATE/DELETE WHERE CURRENT OF cursor
535
536           This requires using the row ctid to map cursor rows back to the
537           original heap row. This become more complicated if WITH HOLD cursors
538           are to be supported because WITH HOLD cursors have a copy of the row
539           and no FOR UPDATE lock.
540
541         o Prevent DROP TABLE from dropping a row referenced by its own open
542           cursor?
543
544         o -Allow pooled connections to list all open WITH HOLD cursors
545
546           Because WITH HOLD cursors exist outside transactions, this allows
547           them to be listed so they can be closed.
548
549
550 * INSERT
551
552         o Allow INSERT/UPDATE of the system-generated oid value for a row
553         o Allow INSERT INTO tab (col1, ..) VALUES (val1, ..), (val2, ..)
554         o Allow INSERT/UPDATE ... RETURNING new.col or old.col
555
556           This is useful for returning the auto-generated key for an INSERT.
557           One complication is how to handle rules that run as part of
558           the insert.
559
560
561 * SHOW/SET
562
563         o Add SET PERFORMANCE_TIPS option to suggest INDEX, VACUUM, VACUUM
564           ANALYZE, and CLUSTER
565         o Add SET PATH for schemas?
566
567           This is basically the same as SET search_path.
568
569
570 * Server-Side Languages
571
572         o Fix PL/pgSQL RENAME to work on variables other than OLD/NEW
573         o Allow function parameters to be passed by name,
574           get_employee_salary(emp_id => 12345, tax_year => 2001)
575         o Add Oracle-style packages
576         o Add table function support to pltcl, plpython
577         o Add capability to create and call PROCEDURES
578         o Allow PL/pgSQL to handle %TYPE arrays, e.g. tab.col%TYPE[]
579         o Allow function argument names to be statements from PL/PgSQL
580         o Add MOVE to PL/pgSQL
581         o Add support for polymorphic arguments and return types to
582           languages other than PL/PgSQL
583         o Add support for OUT and INOUT parameters to languages other 
584           than PL/PgSQL
585         o Add single-step debugging of PL/PgSQL functions
586         o Allow PL/PgSQL to support WITH HOLD cursors
587
588
589 Clients
590 =======
591
592 * -Have initdb set the input DateStyle (MDY or DMY) based on locale
593 * Have pg_ctl look at PGHOST in case it is a socket directory?
594 * Allow pg_ctl to work properly with configuration files located outside
595   the PGDATA directory
596
597   pg_ctl can not read the pid file because it isn't located in the
598   config directory but in the PGDATA directory.  The solution is to
599   allow pg_ctl to read and understand postgresql.conf to find the
600   data_directory value.
601
602
603 * psql
604
605         o Have psql show current values for a sequence
606         o Move psql backslash database information into the backend, use
607           mnemonic commands? [psql]
608
609           This would allow non-psql clients to pull the same information out
610           of the database as psql.
611
612         o Fix psql's display of schema information (Neil)
613         o Allow psql \pset boolean variables to set to fixed values, rather
614           than toggle
615         o Consistently display privilege information for all objects in psql
616         o -Improve psql's handling of multi-line statements
617
618           Currently, while \e saves a single statement as one entry, interactive
619           statements are saved one line at a time.  Ideally all statements
620           would be saved like \e does.
621
622         o -Allow multi-line column values to align in the proper columns
623
624           If the second output column value is 'a\nb', the 'b' should appear
625           in the second display column, rather than the first column as it
626           does now.
627
628         o Display IN, INOUT, and OUT parameters in \df+
629
630           It probably requires psql to output newlines in the proper
631           column, which is already on the TODO list.
632
633         o Add auto-expanded mode so expanded output is used if the row
634           length is wider than the screen width.  
635
636           Consider using auto-expanded mode for backslash commands like \df+.
637
638         o Prevent tab completion of SET TRANSACTION from querying the
639           database and therefore preventing the transaction isolation
640           level from being set.
641
642           Currently, SET <tab> causes a database lookup to check all
643           supported session variables.  This query causes problems
644           because setting the transaction isolation level must be the
645           first statement of a transaction.
646
647
648 * pg_dump
649
650         o %Have pg_dump use multi-statement transactions for INSERT dumps
651         o %Allow pg_dump to use multiple -t and -n switches [pg_dump]
652         o %Add dumping of comments on index columns and composite type columns
653         o %Add full object name to the tag field.  eg. for operators we need
654           '=(integer, integer)', instead of just '='.
655         o Add pg_dumpall custom format dumps?
656         o %Add CSV output format
657         o Update pg_dump and psql to use the new COPY libpq API (Christopher)
658         o Remove unnecessary function pointer abstractions in pg_dump source
659           code
660         o Allow selection of individual object(s) of all types, not just
661           tables
662         o In a selective dump, allow dumping of an object and all its 
663           dependencies
664         o Add options like pg_restore -l and -L to pg_dump
665         o Stop dumping CASCADE on DROP TYPE commands in clean mode
666         o Allow pg_dump --clean to drop roles that own objects or have
667           privileges
668         o Add -f to pg_dumpall
669
670
671 * ecpg
672
673         o Docs
674
675           Document differences between ecpg and the SQL standard and
676           information about the Informix-compatibility module.
677
678         o Solve cardinality > 1 for input descriptors / variables?
679         o Add a semantic check level, e.g. check if a table really exists
680         o fix handling of DB attributes that are arrays
681         o Use backend PREPARE/EXECUTE facility for ecpg where possible
682         o Implement SQLDA
683         o Fix nested C comments
684         o %sqlwarn[6] should be 'W' if the PRECISION or SCALE value specified
685         o Make SET CONNECTION thread-aware, non-standard?
686         o Allow multidimensional arrays
687         o Add internationalized message strings
688
689
690 libpq
691
692         o Add a function to support Parse/DescribeStatement capability
693         o Add PQescapeIdentifier()
694         o Prevent PQfnumber() from lowercasing unquoted the column name
695
696           PQfnumber() should never have been doing lowercasing, but 
697           historically it has so we need a way to prevent it
698
699         o Allow statement results to be automatically batched to the client
700
701           Currently, all statement results are transferred to the libpq
702           client before libpq makes the results available to the 
703           application.  This feature would allow the application to make
704           use of the first result rows while the rest are transferred, or
705           held on the server waiting for them to be requested by libpq.
706           One complexity is that a statement like SELECT 1/col could error
707           out mid-way through the result set.
708
709
710 Referential Integrity
711 =====================
712
713 * Add MATCH PARTIAL referential integrity
714 * Add deferred trigger queue file
715
716   Right now all deferred trigger information is stored in backend
717   memory.  This could exhaust memory for very large trigger queues.
718   This item involves dumping large queues into files.
719
720 * Change foreign key constraint for array -> element to mean element
721   in array?
722 * Allow DEFERRABLE UNIQUE constraints?
723 * Allow triggers to be disabled in only the current session.
724
725   This is currently possible by starting a multi-statement transaction,
726   modifying the system tables, performing the desired SQL, restoring the
727   system tables, and committing the transaction.  ALTER TABLE ...
728   TRIGGER requires a table lock so it is not ideal for this usage.
729
730 * With disabled triggers, allow pg_dump to use ALTER TABLE ADD FOREIGN KEY
731
732   If the dump is known to be valid, allow foreign keys to be added
733   without revalidating the data.
734
735 * Allow statement-level triggers to access modified rows
736 * Support triggers on columns (Greg Sabino Mullane)
737 * Enforce referential integrity for system tables
738 * Allow AFTER triggers on system tables
739
740   System tables are modified in many places in the backend without going
741   through the executor and therefore not causing triggers to fire. To
742   complete this item, the functions that modify system tables will have
743   to fire triggers.
744
745
746 Dependency Checking
747 ===================
748
749 * Flush cached query plans when the dependent objects change,
750   when the cardinality of parameters changes dramatically, or
751   when new ANALYZE statistics are available
752
753   A more complex solution would be to save multiple plans for different
754   cardinality and use the appropriate plan based on the EXECUTE values.
755
756 * Track dependencies in function bodies and recompile/invalidate
757
758   This is particularly important for references to temporary tables
759   in PL/PgSQL because PL/PgSQL caches query plans.  The only workaround
760   in PL/PgSQL is to use EXECUTE.  One complexity is that a function
761   might itself drop and recreate dependent tables, causing it to
762   invalidate its own query plan.
763
764
765 Exotic Features
766 ===============
767
768 * Add pre-parsing phase that converts non-ISO syntax to supported
769   syntax
770
771   This could allow SQL written for other databases to run without
772   modification.
773
774 * Allow plug-in modules to emulate features from other databases
775 * SQL*Net listener that makes PostgreSQL appear as an Oracle database
776   to clients
777 * Allow statements across databases or servers with transaction
778   semantics
779
780   This can be done using dblink and two-phase commit.
781
782 * Add the features of packages
783
784         o  Make private objects accessible only to objects in the same schema
785         o  Allow current_schema.objname to access current schema objects
786         o  Add session variables
787         o  Allow nested schemas
788
789
790 Indexes
791 =======
792
793 * Allow inherited tables to inherit index, UNIQUE constraint, and primary
794   key, foreign key
795 * UNIQUE INDEX on base column not honored on INSERTs/UPDATEs from
796   inherited table:  INSERT INTO inherit_table (unique_index_col) VALUES
797   (dup) should fail
798
799   The main difficulty with this item is the problem of creating an index
800   that can span more than one table.
801
802 * Allow SELECT ... FOR UPDATE on inherited tables
803 * Add UNIQUE capability to non-btree indexes
804 * Prevent index uniqueness checks when UPDATE does not modify the column
805
806   Uniqueness (index) checks are done when updating a column even if the
807   column is not modified by the UPDATE.
808
809 * Allow the creation of on-disk bitmap indexes which can be quickly
810   combined with other bitmap indexes
811
812   Such indexes could be more compact if there are only a few distinct values.
813   Such indexes can also be compressed.  Keeping such indexes updated can be
814   costly.
815
816 * Allow use of indexes to search for NULLs
817
818   One solution is to create a partial index on an IS NULL expression.
819
820 * Allow accurate statistics to be collected on indexes with more than
821   one column or expression indexes, perhaps using per-index statistics
822 * Add fillfactor to control reserved free space during index creation
823 * Allow the creation of indexes with mixed ascending/descending specifiers
824 * Allow constraint_exclusion to work for UNIONs like it does for
825   inheritance, allow it to work for UPDATE and DELETE statements, and allow
826   it to be used for all statements with little performance impact
827 * Allow CREATE INDEX to take an additional parameter for use with
828   special index types
829 * Consider compressing indexes by storing key values duplicated in
830   several rows as a single index entry
831
832   This is difficult because it requires datatype-specific knowledge.
833
834
835 * GIST
836
837         o Add more GIST index support for geometric data types
838         o Allow GIST indexes to create certain complex index types, like
839           digital trees (see Aoki)
840
841 * Hash
842
843         o Pack hash index buckets onto disk pages more efficiently
844
845           Currently only one hash bucket can be stored on a page. Ideally
846           several hash buckets could be stored on a single page and greater
847           granularity used for the hash algorithm.
848
849         o Consider sorting hash buckets so entries can be found using a
850           binary search, rather than a linear scan
851
852         o In hash indexes, consider storing the hash value with or instead
853           of the key itself
854
855         o Add WAL logging for crash recovery
856         o Allow multi-column hash indexes
857
858
859 Fsync
860 =====
861
862 * Improve commit_delay handling to reduce fsync()
863 * Determine optimal fdatasync/fsync, O_SYNC/O_DSYNC options
864
865   Ideally this requires a separate test program that can be run
866   at initdb time or optionally later.  Consider O_SYNC when
867   O_DIRECT exists.
868
869 * %Add an option to sync() before fsync()'ing checkpoint files
870 * Add program to test if fsync has a delay compared to non-fsync
871
872
873 Cache Usage
874 ===========
875
876 * Allow free-behind capability for large sequential scans, perhaps using
877   posix_fadvise()
878
879   Posix_fadvise() can control both sequential/random file caching and
880   free-behind behavior, but it is unclear how the setting affects other
881   backends that also have the file open, and the feature is not supported
882   on all operating systems.
883
884 * Speed up COUNT(*)
885
886   We could use a fixed row count and a +/- count to follow MVCC
887   visibility rules, or a single cached value could be used and
888   invalidated if anyone modifies the table.  Another idea is to
889   get a count directly from a unique index, but for this to be
890   faster than a sequential scan it must avoid access to the heap
891   to obtain tuple visibility information.
892
893 * Add estimated_count(*) to return an estimate of COUNT(*)
894
895   This would use the planner ANALYZE statistics to return an estimated
896   count.
897
898 * Allow data to be pulled directly from indexes
899
900   Currently indexes do not have enough tuple visibility information 
901   to allow data to be pulled from the index without also accessing 
902   the heap.  One way to allow this is to set a bit on index tuples 
903   to indicate if a tuple is currently visible to all transactions 
904   when the first valid heap lookup happens.  This bit would have to 
905   be cleared when a heap tuple is expired.  
906
907   Another idea is to maintain a bitmap of heap pages where all rows
908   are visible to all backends, and allow index lookups to reference 
909   that bitmap to avoid heap lookups, perhaps the same bitmap we might
910   add someday to determine which heap pages need vacuuming.  Frequently
911   accessed bitmaps would have to be stored in shared memory.  One 8k
912   page of bitmaps could track 512MB of heap pages.
913
914 * Consider automatic caching of statements at various levels:
915
916         o Parsed query tree
917         o Query execute plan
918         o Query results
919
920 * Allow sequential scans to take advantage of other concurrent
921   sequential scans, also called "Synchronised Scanning"
922
923   One possible implementation is to start sequential scans from the lowest
924   numbered buffer in the shared cache, and when reaching the end wrap
925   around to the beginning, rather than always starting sequential scans
926   at the start of the table.
927
928
929 Vacuum
930 ======
931
932 * Improve speed with indexes
933
934   For large table adjustments during VACUUM FULL, it is faster to 
935   reindex rather than update the index.
936
937 * Reduce lock time during VACUUM FULL by moving tuples with read lock,
938   then write lock and truncate table
939
940   Moved tuples are invisible to other backends so they don't require a
941   write lock. However, the read lock promotion to write lock could lead
942   to deadlock situations.
943
944 * Auto-fill the free space map by scanning the buffer cache or by
945   checking pages written by the background writer
946 * Create a bitmap of pages that need vacuuming
947
948   Instead of sequentially scanning the entire table, have the background
949   writer or some other process record pages that have expired rows, then
950   VACUUM can look at just those pages rather than the entire table.  In
951   the event of a system crash, the bitmap would probably be invalidated.
952   One complexity is that index entries still have to be vacuumed, and
953   doing this without an index scan (by using the heap values to find the
954   index entry) might be slow and unreliable, especially for user-defined
955   index functions.
956
957 * -Add system view to show free space map contents
958 * Allow FSM to return free space toward the beginning of the heap file,
959   in hopes that empty pages at the end can be truncated by VACUUM
960 * Allow FSM page return free space based on table clustering, to assist
961   in maintaining clustering?
962
963
964 * Auto-vacuum
965
966         o Use free-space map information to guide refilling
967         o %Issue log message to suggest VACUUM FULL if a table is nearly
968           empty?
969         o Improve xid wraparound detection by recording per-table rather
970           than per-database
971         o Consider logging activity either to the logs or a system view
972
973
974 Locking
975 =======
976
977 * Fix priority ordering of read and write light-weight locks (Neil)
978
979
980 Startup Time Improvements
981 =========================
982
983 * Experiment with multi-threaded backend [thread]
984
985   This would prevent the overhead associated with process creation. Most
986   operating systems have trivial process creation time compared to
987   database startup overhead, but a few operating systems (Win32,
988   Solaris) might benefit from threading.  Also explore the idea of
989   a single session using multiple threads to execute a statement faster.
990
991 * Add connection pooling
992
993   It is unclear if this should be done inside the backend code or done
994   by something external like pgpool. The passing of file descriptors to
995   existing backends is one of the difficulties with a backend approach.
996
997
998 Write-Ahead Log
999 ===============
1000
1001 * Eliminate need to write full pages to WAL before page modification [wal]
1002
1003   Currently, to protect against partial disk page writes, we write
1004   full page images to WAL before they are modified so we can correct any
1005   partial page writes during recovery.  These pages can also be
1006   eliminated from point-in-time archive files.
1007
1008         o  When off, write CRC to WAL and check file system blocks
1009            on recovery
1010
1011            If CRC check fails during recovery, remember the page in case
1012            a later CRC for that page properly matches.
1013
1014         o  Write full pages during file system write and not when
1015            the page is modified in the buffer cache
1016
1017            This allows most full page writes to happen in the background
1018            writer.  It might cause problems for applying WAL on recovery
1019            into a partially-written page, but later the full page will be
1020            replaced from WAL.
1021
1022 * Allow WAL traffic to be streamed to another server for stand-by
1023   replication
1024 * Reduce WAL traffic so only modified values are written rather than
1025   entire rows?
1026 * Allow the pg_xlog directory location to be specified during initdb
1027   with a symlink back to the /data location
1028 * Allow WAL information to recover corrupted pg_controldata
1029 * Find a way to reduce rotational delay when repeatedly writing
1030   last WAL page
1031
1032   Currently fsync of WAL requires the disk platter to perform a full
1033   rotation to fsync again. One idea is to write the WAL to different
1034   offsets that might reduce the rotational delay.
1035
1036 * Allow buffered WAL writes and fsync
1037
1038   Instead of guaranteeing recovery of all committed transactions, this
1039   would provide improved performance by delaying WAL writes and fsync
1040   so an abrupt operating system restart might lose a few seconds of
1041   committed transactions but still be consistent.  We could perhaps
1042   remove the 'fsync' parameter (which results in an an inconsistent
1043   database) in favor of this capability.
1044
1045 * Allow WAL logging to be turned off for a table, but the table
1046   might be dropped or truncated during crash recovery [walcontrol]
1047
1048   Allow tables to bypass WAL writes and just fsync() dirty pages on
1049   commit.  This should be implemented using ALTER TABLE, e.g. ALTER 
1050   TABLE PERSISTENCE [ DROP | TRUNCATE | DEFAULT ].  Tables using 
1051   non-default logging should not use referential integrity with 
1052   default-logging tables.  A table without dirty buffers during a
1053   crash could perhaps avoid the drop/truncate.
1054
1055 * Allow WAL logging to be turned off for a table, but the table would
1056   avoid being truncated/dropped [walcontrol]
1057
1058   To do this, only a single writer can modify the table, and writes 
1059   must happen only on new pages so the new pages can be removed during
1060   crash recovery.  Readers can continue accessing the table.  Such 
1061   tables probably cannot have indexes.  One complexity is the handling 
1062   of indexes on TOAST tables.
1063
1064
1065 Optimizer / Executor
1066 ====================
1067
1068 * Improve selectivity functions for geometric operators
1069 * Allow ORDER BY ... LIMIT # to select high/low value without sort or
1070   index using a sequential scan for highest/lowest values
1071
1072   Right now, if no index exists, ORDER BY ... LIMIT # requires we sort
1073   all values to return the high/low value.  Instead The idea is to do a 
1074   sequential scan to find the high/low value, thus avoiding the sort.
1075   MIN/MAX already does this, but not for LIMIT > 1.
1076
1077 * Precompile SQL functions to avoid overhead
1078 * Create utility to compute accurate random_page_cost value
1079 * Improve ability to display optimizer analysis using OPTIMIZER_DEBUG
1080 * Have EXPLAIN ANALYZE highlight poor optimizer estimates
1081 * Consider using hash buckets to do DISTINCT, rather than sorting
1082
1083   This would be beneficial when there are few distinct values.  This is
1084   already used by GROUP BY.
1085
1086 * Log statements where the optimizer row estimates were dramatically
1087   different from the number of rows actually found?
1088
1089
1090 Miscellaneous Performance
1091 =========================
1092
1093 * Do async I/O for faster random read-ahead of data
1094
1095   Async I/O allows multiple I/O requests to be sent to the disk with
1096   results coming back asynchronously.
1097
1098 * Use mmap() rather than SYSV shared memory or to write WAL files?
1099
1100   This would remove the requirement for SYSV SHM but would introduce
1101   portability issues. Anonymous mmap (or mmap to /dev/zero) is required
1102   to prevent I/O overhead.
1103
1104 * Consider mmap()'ing files into a backend?
1105
1106   Doing I/O to large tables would consume a lot of address space or
1107   require frequent mapping/unmapping.  Extending the file also causes
1108   mapping problems that might require mapping only individual pages,
1109   leading to thousands of mappings.  Another problem is that there is no
1110   way to _prevent_ I/O to disk from the dirty shared buffers so changes
1111   could hit disk before WAL is written.
1112
1113 * Add a script to ask system configuration questions and tune postgresql.conf
1114 * Merge xmin/xmax/cmin/cmax back into three header fields
1115
1116   Before subtransactions, there used to be only three fields needed to
1117   store these four values. This was possible because only the current
1118   transaction looks at the cmin/cmax values. If the current transaction
1119   created and expired the row the fields stored where xmin (same as
1120   xmax), cmin, cmax, and if the transaction was expiring a row from a
1121   another transaction, the fields stored were xmin (cmin was not
1122   needed), xmax, and cmax. Such a system worked because a transaction
1123   could only see rows from another completed transaction. However,
1124   subtransactions can see rows from outer transactions, and once the
1125   subtransaction completes, the outer transaction continues, requiring
1126   the storage of all four fields. With subtransactions, an outer
1127   transaction can create a row, a subtransaction expire it, and when the
1128   subtransaction completes, the outer transaction still has to have
1129   proper visibility of the row's cmin, for example, for cursors.
1130
1131   One possible solution is to create a phantom cid which represents a
1132   cmin/cmax pair and is stored in local memory.  Another idea is to
1133   store both cmin and cmax only in local memory.
1134
1135 * Research storing disk pages with no alignment/padding
1136
1137
1138 Source Code
1139 ===========
1140
1141 * Add use of 'const' for variables in source tree
1142 * Rename some /contrib modules from pg* to pg_*
1143 * Move some things from /contrib into main tree
1144 * Move some /contrib modules out to their own project sites
1145 * %Remove warnings created by -Wcast-align
1146 * Move platform-specific ps status display info from ps_status.c to ports
1147 * Add optional CRC checksum to heap and index pages
1148 * Improve documentation to build only interfaces (Marc)
1149 * Remove or relicense modules that are not under the BSD license, if possible
1150 * %Remove memory/file descriptor freeing before ereport(ERROR)
1151 * Acquire lock on a relation before building a relcache entry for it
1152 * %Promote debug_query_string into a server-side function current_query()
1153 * %Allow the identifier length to be increased via a configure option
1154 * Allow cross-compiling by generating the zic database on the target system
1155 * Improve NLS maintenance of libpgport messages linked onto applications
1156 * Allow ecpg to work with MSVC and BCC
1157 * Add xpath_array() to /contrib/xml2 to return results as an array
1158 * Allow building in directories containing spaces
1159
1160   This is probably not possible because 'gmake' and other compiler tools
1161   do not fully support quoting of paths with spaces.
1162
1163 * -Allow installing to directories containing spaces
1164
1165   This is possible if proper quoting is added to the makefiles for the
1166   install targets.  Because PostgreSQL supports relocatable installs, it
1167   is already possible to install into a directory that doesn't contain 
1168   spaces and then copy the install to a directory with spaces.
1169
1170 * Fix sgmltools so PDFs can be generated with bookmarks
1171 * -%Clean up compiler warnings (especially with gcc version 4)
1172 * Use UTF8 encoding for NLS messages so all server encodings can
1173   read them properly
1174 * Update Bonjour to work with newer cross-platform SDK
1175 * -Remove BeOS and QNX-specific code
1176 * Split out libpq pgpass and environment documentation sections to make
1177   it easier for non-developers to find
1178 * Improve port/qsort() to handle sorts with 50% unique and 50% duplicate
1179   value [qsort]
1180
1181   This involves choosing better pivot points for the quicksort.
1182
1183
1184 * Win32
1185
1186         o Remove configure.in check for link failure when cause is found
1187         o Remove readdir() errno patch when runtime/mingwex/dirent.c rev
1188           1.4 is released
1189         o Remove psql newline patch when we find out why mingw outputs an
1190           extra newline
1191         o Allow psql to use readline once non-US code pages work with
1192           backslashes
1193         o Re-enable timezone output on log_line_prefix '%t' when a
1194           shorter timezone string is available
1195         o Fix problem with shared memory on the Win32 Terminal Server
1196         o Improve signal handling,
1197           http://archives.postgresql.org/pgsql-patches/2005-06/msg00027.php
1198         o Add long file support for binary pg_dump output
1199
1200           While Win32 supports 64-bit files, the MinGW API does not,
1201           meaning we have to build an fseeko replacement on top of the
1202           Win32 API, and we have to make sure MinGW handles it.  Another
1203           option is to wait for the MinGW project to fix it, or use the
1204           code from the LibGW32C project as a guide.
1205
1206         o Port contrib/xml2
1207
1208 * Wire Protocol Changes
1209
1210         o Allow dynamic character set handling
1211         o Add decoded type, length, precision
1212         o Use compression?
1213         o Update clients to use data types, typmod, schema.table.column names
1214           of result sets using new statement protocol
1215
1216
1217 ---------------------------------------------------------------------------
1218
1219
1220 Developers who have claimed items are:
1221 --------------------------------------
1222 * Alvaro is Alvaro Herrera <alvherre@dcc.uchile.cl>
1223 * Andrew is Andrew Dunstan <andrew@dunslane.net>
1224 * Bruce is Bruce Momjian <pgman@candle.pha.pa.us> of Software Research Assoc.
1225 * Christopher is Christopher Kings-Lynne <chriskl@familyhealth.com.au> of
1226     Family Health Network
1227 * D'Arcy is D'Arcy J.M. Cain <darcy@druid.net> of The Cain Gang Ltd.
1228 * Fabien is Fabien Coelho <coelho@cri.ensmp.fr>
1229 * Gavin is Gavin Sherry <swm@linuxworld.com.au> of Alcove Systems Engineering
1230 * Greg is Greg Sabino Mullane <greg@turnstep.com>
1231 * Jan is Jan Wieck <JanWieck@Yahoo.com> of Afilias, Inc.
1232 * Joe is Joe Conway <mail@joeconway.com>
1233 * Karel is Karel Zak <zakkr@zf.jcu.cz>
1234 * Magnus is Magnus Hagander <mha@sollentuna.net>
1235 * Marc is Marc Fournier <scrappy@hub.org> of PostgreSQL, Inc.
1236 * Matthew T. O'Connor <matthew@zeut.net>
1237 * Michael is Michael Meskes <meskes@postgresql.org> of Credativ
1238 * Neil is Neil Conway <neilc@samurai.com>
1239 * Oleg is Oleg Bartunov <oleg@sai.msu.su>
1240 * Peter is Peter Eisentraut <peter_e@gmx.net>
1241 * Philip is Philip Warner <pjw@rhyme.com.au> of Albatross Consulting Pty. Ltd.
1242 * Rod is Rod Taylor <pg@rbt.ca>
1243 * Simon is Simon Riggs <simon@2ndquadrant.com>
1244 * Stephan is Stephan Szabo <sszabo@megazone23.bigpanda.com>
1245 * Tatsuo is Tatsuo Ishii <t-ishii@sra.co.jp> of Software Research Assoc.
1246 * Teodor is Teodor Sigaev <teodor@sigaev.ru>
1247 * Tom is Tom Lane <tgl@sss.pgh.pa.us> of Red Hat