]> granicus.if.org Git - postgresql/commit
Make ts_locale.c's character-type functions cope with UTF-16.
authorTom Lane <tgl@sss.pgh.pa.us>
Sat, 3 Nov 2018 17:56:10 +0000 (13:56 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Sat, 3 Nov 2018 17:56:10 +0000 (13:56 -0400)
commit6e6092989fbb27fecdbfbcd66f39e10f18aa0a69
treeb0d67f038eb2eb98d6a13cb2acf6e14d740ec134
parent94ea1cf731834baff3a17b266c202d482fb1d9a1
Make ts_locale.c's character-type functions cope with UTF-16.

On Windows, in UTF8 database encoding, what char2wchar() produces is
UTF16 not UTF32, ie, characters above U+FFFF will be represented by
surrogate pairs.  t_isdigit() and siblings did not account for this
and failed to provide a large enough result buffer.  That in turn
led to bogus "invalid multibyte character for locale" errors, because
contrary to what you might think from char2wchar()'s documentation,
its Windows code path doesn't cope sanely with buffer overflow.

The solution for t_isdigit() and siblings is pretty clear: provide
a 3-wchar_t result buffer not 2.

char2wchar() also needs some work to provide more consistent, and more
accurately documented, buffer overrun behavior.  But that's a bigger job
and it doesn't actually have any immediate payoff, so leave it for later.

Per bug #15476 from Kenji Uno, who deserves credit for identifying the
cause of the problem.  Back-patch to all active branches.

Discussion: https://postgr.es/m/15476-4314f480acf0f114@postgresql.org
src/backend/tsearch/ts_locale.c