]> granicus.if.org Git - python/commitdiff
Merged revisions 60481,60485,60489-60492,60494-60496,60498-60499,60501-60503,60505...
authorChristian Heimes <christian@cheimes.de>
Sat, 23 Feb 2008 13:18:03 +0000 (13:18 +0000)
committerChristian Heimes <christian@cheimes.de>
Sat, 23 Feb 2008 13:18:03 +0000 (13:18 +0000)
svn+ssh://pythondev@svn.python.org/python/trunk

........
  r60965 | eric.smith | 2008-02-22 18:43:17 +0100 (Fri, 22 Feb 2008) | 1 line

  Tests for bin() builtin.  These need to get merged into py3k, which has no tests for bin.
........
  r60968 | raymond.hettinger | 2008-02-22 20:50:06 +0100 (Fri, 22 Feb 2008) | 1 line

  Document itertools.product().
........
  r60969 | raymond.hettinger | 2008-02-23 03:20:41 +0100 (Sat, 23 Feb 2008) | 9 lines

  Improve the implementation of itertools.product()

  * Fix-up issues pointed-out by Neal Norwitz.
  * Add extensive comments.
  * The lz->result variable is now a tuple instead of a list.
  * Use fast macro getitem/setitem calls so most code is in-line.
  * Re-use the result tuple if available (modify in-place instead of copy).
........
  r60972 | raymond.hettinger | 2008-02-23 05:03:50 +0100 (Sat, 23 Feb 2008) | 1 line

  Add more comments
........
  r60973 | raymond.hettinger | 2008-02-23 11:04:15 +0100 (Sat, 23 Feb 2008) | 1 line

  Add recipe using itertools.product().
........
  r60974 | facundo.batista | 2008-02-23 13:01:13 +0100 (Sat, 23 Feb 2008) | 6 lines

  Issue 1881. Increased the stack limit from 500 to 1500. Also added
  a test for this (and because of this test you'll see in stderr a
  message that parser.c sends before raising MemoryError).
  Thanks Ralf Schmitt.
........
  r60975 | facundo.batista | 2008-02-23 13:27:17 +0100 (Sat, 23 Feb 2008) | 4 lines

  Issue 1776581. Minor corrections to smtplib, and two small tests.
  Thanks Alan McIntyre.
........
  r60976 | facundo.batista | 2008-02-23 13:46:10 +0100 (Sat, 23 Feb 2008) | 5 lines

  Issue 1781. Now ConfigParser.add_section does not let you add a
  DEFAULT section any more, because it duplicated sections with
  the rest of the machinery. Thanks Tim Lesher and Manuel Kaufmann.
........

Doc/library/configparser.rst
Doc/library/itertools.rst
Lib/ConfigParser.py
Lib/smtplib.py
Lib/test/test_builtin.py
Lib/test/test_cfgparser.py
Lib/test/test_itertools.py
Lib/test/test_parser.py
Lib/test/test_smtplib.py
Modules/itertoolsmodule.c
Parser/parser.h

index 89bd44183d8ee391594eefb1e6cedddfd0ecf70e..aa4dc7cabfbfad6a62ec5fa31957c8b892710a92 100644 (file)
@@ -176,8 +176,9 @@ RawConfigParser Objects
 .. method:: RawConfigParser.add_section(section)
 
    Add a section named *section* to the instance.  If a section by the given name
-   already exists, :exc:`DuplicateSectionError` is raised.
-
+   already exists, :exc:`DuplicateSectionError` is raised. If the name
+   ``DEFAULT`` (or any of it's case-insensitive variants) is passed,
+   :exc:`ValueError` is raised.
 
 .. method:: RawConfigParser.has_section(section)
 
index 013ed3867b44feb0f47bbb710573506b3b6fe2a1..af73b570ad445f03a3e466be8293eaadd6ea15ca 100644 (file)
@@ -289,6 +289,29 @@ loops that truncate the stream.
    example :func:`islice` or :func:`takewhile`).
 
 
+.. function:: product(*iterables)
+
+   Cartesian product of input iterables.
+
+   Equivalent to nested for-loops in a generator expression. For example,
+   ``product(A, B)`` returns the same as ``((x,y) for x in A for y in B)``.
+
+   The leftmost iterators are in the outermost for-loop, so the output tuples
+   cycle in a manner similar to an odometer (with the rightmost element
+   changing on every iteration).
+
+   Equivalent to (but without building the entire result in memory)::
+
+       def product(*args):
+           pools = map(tuple, args)
+           if pools:            
+               result = [[]]
+               for pool in pools:
+                   result = [x+[y] for x in result for y in pool]
+               for prod in result:
+                   yield tuple(prod)
+
+
 .. function:: repeat(object[, times])
 
    Make an iterator that returns *object* over and over again. Runs indefinitely
@@ -526,3 +549,9 @@ which incur interpreter overhead. ::
                pending -= 1
                nexts = cycle(islice(nexts, pending))
 
+   def powerset(iterable):
+       "powerset('ab') --> set([]), set(['b']), set(['a']), set(['a', 'b'])"
+       skip = object()
+       for t in product(*izip(repeat(skip), iterable)):
+           yield set(e for e in t if e is not skip)
+
index 167b963d3ea1491586b8780c0e568f4310cd5376..5e36cc96008b9e7977600bab134ea2134b4b7968 100644 (file)
@@ -235,8 +235,12 @@ class RawConfigParser:
         """Create a new section in the configuration.
 
         Raise DuplicateSectionError if a section by the specified name
-        already exists.
+        already exists. Raise ValueError if name is DEFAULT or any of it's
+        case-insensitive variants.
         """
+        if section.lower() == "default":
+            raise ValueError('Invalid section name: %s' % section)
+
         if section in self._sections:
             raise DuplicateSectionError(section)
         self._sections[section] = self._dict()
index 2b7befb7718d8f2d02beb60a222490167017facb..da5e767e1fb5d8d1af359b36aaa91d40d187185e 100755 (executable)
@@ -298,7 +298,7 @@ class SMTP:
     def send(self, s):
         """Send `s' to the server."""
         if self.debuglevel > 0: print('send:', repr(s), file=stderr)
-        if self.sock:
+        if hasattr(self, 'sock') and self.sock:
             if isinstance(s, str):
                 s = s.encode("ascii")
             try:
@@ -489,7 +489,7 @@ class SMTP:
     vrfy=verify
 
     def expn(self, address):
-        """SMTP 'verify' command -- checks for address validity."""
+        """SMTP 'expn' command -- expands a mailing list."""
         self.putcmd("expn", quoteaddr(address))
         return self.getreply()
 
index 42c55cc37bcf9fd7f82aa54edf854b9ff1caba1b..111090c1ab09578f0df1cc5a89b031c731fae4a2 100644 (file)
@@ -1829,6 +1829,15 @@ class BuiltinTest(unittest.TestCase):
                     return i
         self.assertRaises(ValueError, list, zip(BadSeq(), BadSeq()))
 
+    def test_bin(self):
+        self.assertEqual(bin(0), '0b0')
+        self.assertEqual(bin(1), '0b1')
+        self.assertEqual(bin(-1), '-0b1')
+        self.assertEqual(bin(2**65), '0b1' + '0' * 65)
+        self.assertEqual(bin(2**65-1), '0b' + '1' * 65)
+        self.assertEqual(bin(-(2**65)), '-0b1' + '0' * 65)
+        self.assertEqual(bin(-(2**65-1)), '-0b' + '1' * 65)
+
 class TestSorted(unittest.TestCase):
 
     def test_basic(self):
index 3ef82be0b7280d211afe4a9cd584e8f0c5504483..a2da55620c173791ecfef363f9c60cbd9faea0a1 100644 (file)
@@ -436,6 +436,14 @@ class SafeConfigParserTestCase(ConfigParserTestCase):
         self.assertRaises(TypeError, cf.set, "sect", "option2", 1.0)
         self.assertRaises(TypeError, cf.set, "sect", "option2", object())
 
+    def test_add_section_default_1(self):
+        cf = self.newconfig()
+        self.assertRaises(ValueError, cf.add_section, "default")
+
+    def test_add_section_default_2(self):
+        cf = self.newconfig()
+        self.assertRaises(ValueError, cf.add_section, "DEFAULT")
+
 class SortedTestCase(RawConfigParserTestCase):
     def newconfig(self, defaults=None):
         self.cf = self.config_class(defaults=defaults, dict_type=SortedDict)
index 380d1217d586e5f749d07f24d63de3c820e47193..744b344a81747cd1f4a0af0fc38f668344624e9f 100644 (file)
@@ -283,6 +283,9 @@ class TestBasicOps(unittest.TestCase):
             args = map(iter, args)
             self.assertEqual(len(list(product(*args))), n)
 
+        # Test implementation detail:  tuple re-use
+        self.assertEqual(len(set(map(id, product('abc', 'def')))), 1)
+        self.assertNotEqual(len(set(map(id, list(product('abc', 'def'))))), 1)
 
     def test_repeat(self):
         self.assertEqual(lzip(range(3),repeat('a')),
index 3bebe7e6ee1f1274a08ebb3480658474874fa977..054d6d2c49e44dd7f146414b3ad34dd273e41259 100644 (file)
@@ -450,11 +450,29 @@ class CompileTestCase(unittest.TestCase):
         st = parser.suite('a = "\\u1"')
         self.assertRaises(SyntaxError, parser.compilest, st)
 
+class ParserStackLimitTestCase(unittest.TestCase):
+    """try to push the parser to/over it's limits.
+    see http://bugs.python.org/issue1881 for a discussion
+    """
+    def _nested_expression(self, level):
+        return "["*level+"]"*level
+
+    def test_deeply_nested_list(self):
+        # XXX used to be 99 levels in 2.x
+        e = self._nested_expression(93)
+        st = parser.expr(e)
+        st.compile()
+
+    def test_trigger_memory_error(self):
+        e = self._nested_expression(100)
+        self.assertRaises(MemoryError, parser.expr, e)
+
 def test_main():
     test_support.run_unittest(
         RoundtripLegalSyntaxTestCase,
         IllegalSyntaxTestCase,
         CompileTestCase,
+        ParserStackLimitTestCase,
     )
 
 
index 4151d6b655d4e24742a89a66387d63c121fbe56a..6b00b809c6a472a547dbc1f93ee30198af76f0ce 100644 (file)
@@ -82,8 +82,9 @@ class GeneralTests(TestCase):
         # to reference the nonexistent 'sock' attribute of the SMTP object
         # causes an AttributeError)
         smtp = smtplib.SMTP()
-        self.assertRaises(AttributeError, smtp.ehlo)
-        self.assertRaises(AttributeError, smtp.send, 'test msg')
+        self.assertRaises(smtplib.SMTPServerDisconnected, smtp.ehlo)
+        self.assertRaises(smtplib.SMTPServerDisconnected,
+                          smtp.send, 'test msg')
 
     def testLocalHostName(self):
         # check that supplied local_hostname is used
index 613515a3cbf1afa78f7ca3107ea0a0ab30a8be39..5b6aec35c308be983256cbbd150124937ef85a4a 100644 (file)
@@ -1716,10 +1716,10 @@ static PyTypeObject chain_type = {
 typedef struct {
        PyObject_HEAD
        PyObject *pools;                /* tuple of pool tuples */
-       Py_ssize_t *maxvec;
-       Py_ssize_t *indices;
-       PyObject *result;
-       int stopped;
+       Py_ssize_t *maxvec;             /* size of each pool */
+       Py_ssize_t *indices;            /* one index per pool */
+       PyObject *result;               /* most recently returned result tuple */
+       int stopped;                    /* set to 1 when the product iterator is exhausted */
 } productobject;
 
 static PyTypeObject product_type;
@@ -1766,7 +1766,7 @@ product_new(PyTypeObject *type, PyObject *args, PyObject *kwds)
        lz = (productobject *)type->tp_alloc(type, 0);
        if (lz == NULL) {
                Py_DECREF(pools);
-               return NULL;
+               goto error;
        }
 
        lz->pools = pools;
@@ -1810,7 +1810,7 @@ product_next(productobject *lz)
 {
        PyObject *pool;
        PyObject *elem;
-       PyObject *tuple_result;
+       PyObject *oldelem;
        PyObject *pools = lz->pools;
        PyObject *result = lz->result;
        Py_ssize_t npools = PyTuple_GET_SIZE(pools);
@@ -1818,10 +1818,14 @@ product_next(productobject *lz)
 
        if (lz->stopped)
                return NULL;
+
        if (result == NULL) {
+                /* On the first pass, return an initial tuple filled with the 
+                   first element from each pool.  If any pool is empty, then 
+                   whole product is empty and we're already done */
                if (npools == 0)
                        goto empty;
-               result = PyList_New(npools);
+               result = PyTuple_New(npools);
                if (result == NULL)
                        goto empty;
                lz->result = result;
@@ -1831,34 +1835,61 @@ product_next(productobject *lz)
                                goto empty;
                        elem = PyTuple_GET_ITEM(pool, 0);
                        Py_INCREF(elem);
-                       PyList_SET_ITEM(result, i, elem);
+                       PyTuple_SET_ITEM(result, i, elem);
                }
        } else {
                Py_ssize_t *indices = lz->indices;
                Py_ssize_t *maxvec = lz->maxvec;
+
+               /* Copy the previous result tuple or re-use it if available */
+               if (Py_REFCNT(result) > 1) {
+                       PyObject *old_result = result;
+                       result = PyTuple_New(npools);
+                       if (result == NULL)
+                               goto empty;
+                       lz->result = result;
+                       for (i=0; i < npools; i++) {
+                               elem = PyTuple_GET_ITEM(old_result, i);
+                               Py_INCREF(elem);
+                               PyTuple_SET_ITEM(result, i, elem);
+                       }
+                       Py_DECREF(old_result);
+               }
+               /* Now, we've got the only copy so we can update it in-place */
+               assert (Py_REFCNT(result) == 1);
+
+                /* Update the pool indices right-to-left.  Only advance to the
+                   next pool when the previous one rolls-over */
                for (i=npools-1 ; i >= 0 ; i--) {
                        pool = PyTuple_GET_ITEM(pools, i);
                        indices[i]++;
                        if (indices[i] == maxvec[i]) {
+                               /* Roll-over and advance to next pool */
                                indices[i] = 0;
                                elem = PyTuple_GET_ITEM(pool, 0);
                                Py_INCREF(elem);
-                               PyList_SetItem(result, i, elem);
+                               oldelem = PyTuple_GET_ITEM(result, i);
+                               PyTuple_SET_ITEM(result, i, elem);
+                               Py_DECREF(oldelem);
                        } else {
+                               /* No rollover. Just increment and stop here. */
                                elem = PyTuple_GET_ITEM(pool, indices[i]);
                                Py_INCREF(elem);
-                               PyList_SetItem(result, i, elem);
+                               oldelem = PyTuple_GET_ITEM(result, i);
+                               PyTuple_SET_ITEM(result, i, elem);
+                               Py_DECREF(oldelem);
                                break;
                        }
                }
+
+               /* If i is negative, then the indices have all rolled-over
+                   and we're done. */
                if (i < 0)
-                       return NULL;
+                       goto empty;
        }
 
-       tuple_result = PySequence_Tuple(result);
-       if (tuple_result == NULL)
-               lz->stopped = 1;
-       return tuple_result;
+       Py_INCREF(result);
+       return result;
 
 empty:
        lz->stopped = 1;
@@ -1868,7 +1899,7 @@ empty:
 PyDoc_STRVAR(product_doc,
 "product(*iterables) --> product object\n\
 \n\
-Cartesian product of input interables.  Equivalent to nested for-loops.\n\n\
+Cartesian product of input iterables.  Equivalent to nested for-loops.\n\n\
 For example, product(A, B) returns the same as:  ((x,y) for x in A for y in B).\n\
 The leftmost iterators are in the outermost for-loop, so the output tuples\n\
 cycle in a manner similar to an odometer (with the rightmost element changing\n\
index bdca3e9440a05702e924b8916cfe58bb054cc189..403236d1ea2b87cdedea2003df3f1e8a7bb0e7a9 100644 (file)
@@ -7,7 +7,7 @@ extern "C" {
 
 /* Parser interface */
 
-#define MAXSTACK 500
+#define MAXSTACK 1500
 
 typedef struct {
        int              s_state;       /* State in current DFA */