]> granicus.if.org Git - python/commitdiff
#1555570: correctly handle a \r\n that is split by the read buffer.
authorR. David Murray <rdmurray@bitdance.com>
Sat, 17 Jul 2010 01:19:57 +0000 (01:19 +0000)
committerR. David Murray <rdmurray@bitdance.com>
Sat, 17 Jul 2010 01:19:57 +0000 (01:19 +0000)
Patch and test by Tony Nelson.

Lib/email/feedparser.py
Lib/email/test/test_email.py
Misc/NEWS

index a6853c2b6d00d8fd4c93799993c1078b58115da1..8db70b3c3632878fb0d840a000522a7a53cace02 100644 (file)
@@ -104,6 +104,10 @@ class BufferedSubFile(object):
         # data after the final RE.  In the case of a NL/CR terminated string,
         # this is the empty string.
         self._partial = parts.pop()
+        #GAN 29Mar09  bugs 1555570, 1721862  Confusion at 8K boundary ending with \r:
+        # is there a \n to follow later?
+        if not self._partial and parts and parts[-1].endswith('\r'):
+            self._partial = parts.pop(-2)+parts.pop()
         # parts is a list of strings, alternating between the line contents
         # and the eol character(s).  Gather up a list of lines after
         # re-attaching the newlines.
index be0565e6bc83c553c1ddb1587216b31df0240ce9..09f51dfaca6fffc7e6eebc08f7944aff12718f2a 100644 (file)
@@ -2454,6 +2454,39 @@ Do you like this message?
 -Me
 """)
 
+    def test_pushCR_LF(self):
+        '''FeedParser BufferedSubFile.push() assumed it received complete
+           line endings.  A CR ending one push() followed by a LF starting
+           the next push() added an empty line.
+        '''
+        imt = [
+            ("a\r \n",  2),
+            ("b",       0),
+            ("c\n",     1),
+            ("",        0),
+            ("d\r\n",   1),
+            ("e\r",     0),
+            ("\nf",     1),
+            ("\r\n",    1),
+          ]
+        from email.feedparser import BufferedSubFile, NeedMoreData
+        bsf = BufferedSubFile()
+        om = []
+        nt = 0
+        for il, n in imt:
+            bsf.push(il)
+            nt += n
+            n1 = 0
+            while True:
+                ol = bsf.readline()
+                if ol == NeedMoreData:
+                    break
+                om.append(ol)
+                n1 += 1
+            self.assertTrue(n == n1)
+        self.assertTrue(len(om) == nt)
+        self.assertTrue(''.join([il for il, n in imt]) == ''.join(om))
+
 
 \f
 class TestParsers(TestEmailBase):
index 494fa1a55b4f9d8f27e66568ad1d478ec77cac75..7abb5647debeec67d7bece24cced2f48ff0b0839 100644 (file)
--- a/Misc/NEWS
+++ b/Misc/NEWS
@@ -473,6 +473,9 @@ C-API
 Library
 -------
 
+- Issue #1555570: email no longer inserts extra blank lines when a \r\n
+  combo crosses an 8192 byte boundary.
+
 - Issue #9243: Fix sndhdr module and add unit tests, contributed by James Lee.
 
 - ``ast.literal_eval()`` now allows byte literals.