]> granicus.if.org Git - postgresql/commitdiff
Fix ancient encoding error in hungarian.stop.
authorTom Lane <tgl@sss.pgh.pa.us>
Wed, 11 Jun 2014 02:48:16 +0000 (22:48 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Wed, 11 Jun 2014 02:48:45 +0000 (22:48 -0400)
When we grabbed this file off the Snowball project's website, we mistakenly
supposed that it was in LATIN1 encoding, but evidently it was actually in
LATIN2.  This resulted in ő (o-double-acute, U+0151, which is code 0xF5 in
LATIN2) being misconverted into õ (o-tilde, U+00F5), as complained of in
bug #10589 from Zoltán Sörös.  We'd have messed up u-double-acute too,
but there aren't any of those in the file.  Other characters used in the
file have the same codes in LATIN1 and LATIN2, which no doubt helped hide
the problem for so long.

The error is not only ours: the Snowball project also was confused about
which encoding is required for Hungarian.  But dealing with that will
require source-code changes that I'm not at all sure we'll wish to
back-patch.  Fixing the stopword file seems reasonably safe to back-patch
however.

src/backend/snowball/stopwords/hungarian.stop

index 94e9f9a0b07a68aeff30605fc445db71f63be630..abfd35ce976c76582911396c74f9f35f990aaf1e 100644 (file)
@@ -55,10 +55,10 @@ ekkor
 el
 elég
 ellen
-elõ
-elõször
-elõtt
-elsõ
+elő
+először
+előtt
+első
 én
 éppen
 ebben
@@ -149,9 +149,9 @@ nincs
 olyan
 ott
 össze
-õk
-õket
+ők
+őket
 pedig
 persze
 rá