]> granicus.if.org Git - postgresql/commit
Fix ancient encoding error in hungarian.stop.
authorTom Lane <tgl@sss.pgh.pa.us>
Wed, 11 Jun 2014 02:48:16 +0000 (22:48 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Wed, 11 Jun 2014 02:48:31 +0000 (22:48 -0400)
commit7f9fbb842b09da851e003a70c6c53fd8ca6c6f82
treece3811eb8fdb53706e11789c5ac113c1b3b6278b
parentab76208e3df6841b3770edeece57d0f048392237
Fix ancient encoding error in hungarian.stop.

When we grabbed this file off the Snowball project's website, we mistakenly
supposed that it was in LATIN1 encoding, but evidently it was actually in
LATIN2.  This resulted in ő (o-double-acute, U+0151, which is code 0xF5 in
LATIN2) being misconverted into õ (o-tilde, U+00F5), as complained of in
bug #10589 from Zoltán Sörös.  We'd have messed up u-double-acute too,
but there aren't any of those in the file.  Other characters used in the
file have the same codes in LATIN1 and LATIN2, which no doubt helped hide
the problem for so long.

The error is not only ours: the Snowball project also was confused about
which encoding is required for Hungarian.  But dealing with that will
require source-code changes that I'm not at all sure we'll wish to
back-patch.  Fixing the stopword file seems reasonably safe to back-patch
however.
src/backend/snowball/stopwords/hungarian.stop