]> granicus.if.org Git - python/commitdiff
Patch #1454481: Make thread stack size runtime tunable.
authorAndrew MacIntyre <andymac@bullseye.apana.org.au>
Tue, 13 Jun 2006 15:04:24 +0000 (15:04 +0000)
committerAndrew MacIntyre <andymac@bullseye.apana.org.au>
Tue, 13 Jun 2006 15:04:24 +0000 (15:04 +0000)
Heavily revised, comprising revisions:
46640 - original trunk revision (backed out in r46655)
46647 - markup fix (backed out in r46655)
46692:46918 merged from branch aimacintyre-sf1454481

branch tested on buildbots (Windows buildbots had problems
not related to these changes).

14 files changed:
Doc/lib/libthread.tex
Doc/lib/libthreading.tex
Include/pythread.h
Lib/dummy_thread.py
Lib/test/output/test_thread
Lib/test/test_thread.py
Lib/test/test_threading.py
Lib/threading.py
Misc/NEWS
Modules/threadmodule.c
Python/thread.c
Python/thread_nt.h
Python/thread_os2.h
Python/thread_pthread.h

index 9573ab3fb03674e87f7bbcbbf7d74450a2a6487c..d007eecde88a8fe7c080194dfeed3076922112ff 100644 (file)
@@ -74,6 +74,26 @@ data.  Thread identifiers may be recycled when a thread exits and
 another thread is created.
 \end{funcdesc}
 
+\begin{funcdesc}{stack_size}{\optional{size}}
+Return the thread stack size used when creating new threads.  The
+optional \var{size} argument specifies the stack size to be used for
+subsequently created threads, and must be 0 (use platform or
+configured default) or a positive integer value of at least 32,768 (32kB).
+If changing the thread stack size is unsupported, a \exception{ThreadError}
+is raised.  If the specified stack size is invalid, a \exception{ValueError}
+is raised and the stack size is unmodified.  32kB is currently the minimum
+supported stack size value to guarantee sufficient stack space for the
+interpreter itself.  Note that some platforms may have particular
+restrictions on values for the stack size, such as requiring a minimum
+stack size > 32kB or requiring allocation in multiples of the system
+memory page size - platform documentation should be referred to for
+more information (4kB pages are common; using multiples of 4096 for
+the stack size is the suggested approach in the absence of more
+specific information).
+Availability: Windows, systems with \POSIX{} threads.
+\versionadded{2.5}
+\end{funcdesc}
+
 
 Lock objects have the following methods:
 
index 8fb3137744f99b88dc99fc95cacf2c6c244ca0a3..033475020ae9a9c4e90377d868b6506a236a58e3 100644 (file)
@@ -125,6 +125,26 @@ method is called.
 \versionadded{2.3}
 \end{funcdesc}
 
+\begin{funcdesc}{stack_size}{\optional{size}}
+Return the thread stack size used when creating new threads.  The
+optional \var{size} argument specifies the stack size to be used for
+subsequently created threads, and must be 0 (use platform or
+configured default) or a positive integer value of at least 32,768 (32kB).
+If changing the thread stack size is unsupported, a \exception{ThreadError}
+is raised.  If the specified stack size is invalid, a \exception{ValueError}
+is raised and the stack size is unmodified.  32kB is currently the minimum
+supported stack size value to guarantee sufficient stack space for the
+interpreter itself.  Note that some platforms may have particular
+restrictions on values for the stack size, such as requiring a minimum
+stack size > 32kB or requiring allocation in multiples of the system
+memory page size - platform documentation should be referred to for
+more information (4kB pages are common; using multiples of 4096 for
+the stack size is the suggested approach in the absence of more
+specific information).
+Availability: Windows, systems with \POSIX{} threads.
+\versionadded{2.5}
+\end{funcdesc}
+
 Detailed interfaces for the objects are documented below.  
 
 The design of this module is loosely based on Java's threading model.
index 0fa8db04f021d9df7a1013e9517fb46096d71e8e..f26db160bf4bea53cca0c9f564850c64ab52c7b3 100644 (file)
@@ -25,6 +25,9 @@ PyAPI_FUNC(int) PyThread_acquire_lock(PyThread_type_lock, int);
 #define NOWAIT_LOCK    0
 PyAPI_FUNC(void) PyThread_release_lock(PyThread_type_lock);
 
+PyAPI_FUNC(size_t) PyThread_get_stacksize(void);
+PyAPI_FUNC(int) PyThread_set_stacksize(size_t);
+
 #ifndef NO_EXIT_PROG
 PyAPI_FUNC(void) PyThread_exit_prog(int);
 PyAPI_FUNC(void) PyThread__PyThread_exit_prog(int);
index 21fd03f27f80bd1746ec8b3d1f01fd025af9027b..7c26f9e5ef00f8c0b7a2b3d80a5938b5fffd4a00 100644 (file)
@@ -20,6 +20,7 @@ __all__ = ['error', 'start_new_thread', 'exit', 'get_ident', 'allocate_lock',
            'interrupt_main', 'LockType']
 
 import traceback as _traceback
+import warnings
 
 class error(Exception):
     """Dummy implementation of thread.error."""
@@ -75,6 +76,13 @@ def allocate_lock():
     """Dummy implementation of thread.allocate_lock()."""
     return LockType()
 
+def stack_size(size=None):
+    """Dummy implementation of thread.stack_size()."""
+    if size is not None:
+        msg = "setting thread stack size not supported on this platform"
+        warnings.warn(msg, RuntimeWarning)
+    return 0
+
 class LockType(object):
     """Class implementing dummy implementation of thread.LockType.
 
index d49651dd4f64c9feb0b3f5a3a7934fa6d531c9aa..d8174ab0624cfd1fea78fc5f579ac39ace1ce0f2 100644 (file)
@@ -4,3 +4,15 @@ all tasks done
 
 *** Barrier Test ***
 all tasks done
+
+*** Changing thread stack size ***
+caught expected ValueError setting stack_size(4096)
+successfully set stack_size(32768)
+successfully set stack_size(1048576)
+successfully set stack_size(0)
+trying stack_size = 32768
+waiting for all tasks to complete
+all tasks done
+trying stack_size = 1048576
+waiting for all tasks to complete
+all tasks done
index ea345b60a015e3f3a68ef08fcb0b4279ef5bfd3d..7b523e2cec709435d9282e96068cf262185838a2 100644 (file)
@@ -115,3 +115,46 @@ for i in range(numtasks):
     thread.start_new_thread(task2, (i,))
 done.acquire()
 print 'all tasks done'
+
+# not all platforms support changing thread stack size
+print '\n*** Changing thread stack size ***'
+if thread.stack_size() != 0:
+    raise ValueError, "initial stack_size not 0"
+
+thread.stack_size(0) 
+if thread.stack_size() != 0:
+    raise ValueError, "stack_size not reset to default"
+
+from os import name as os_name
+if os_name in ("nt", "os2", "posix"):
+
+    tss_supported = 1
+    try:
+        thread.stack_size(4096)
+    except ValueError:
+        print 'caught expected ValueError setting stack_size(4096)'
+    except thread.ThreadError:
+        tss_supported = 0
+        print 'platform does not support changing thread stack size'
+
+    if tss_supported:
+        failed = lambda s, e: s != e
+        fail_msg = "stack_size(%d) failed - should succeed"
+        for tss in (32768, 0x100000, 0):
+            thread.stack_size(tss)
+            if failed(thread.stack_size(), tss):
+                raise ValueError, fail_msg % tss
+            print 'successfully set stack_size(%d)' % tss
+
+        for tss in (32768, 0x100000):
+            print 'trying stack_size = %d' % tss
+            next_ident = 0
+            for i in range(numtasks):
+                newtask()
+
+            print 'waiting for all tasks to complete'
+            done.acquire()
+            print 'all tasks done'
+
+        # reset stack size to default
+        thread.stack_size(0)
index 7eb9758ecf261fa5deb5a4ca51566115c3687563..02f338ac6c0170a10b2e733ff477469dd8c19285 100644 (file)
@@ -85,6 +85,22 @@ class ThreadTests(unittest.TestCase):
             print 'all tasks done'
         self.assertEqual(numrunning.get(), 0)
 
+    # run with a minimum thread stack size (32kB)
+    def test_various_ops_small_stack(self):
+        if verbose:
+            print 'with 32kB thread stack size...'
+        threading.stack_size(0x8000)
+        self.test_various_ops()
+        threading.stack_size(0)
+
+    # run with a large thread stack size (1MB)
+    def test_various_ops_large_stack(self):
+        if verbose:
+            print 'with 1MB thread stack size...'
+        threading.stack_size(0x100000)
+        self.test_various_ops()
+        threading.stack_size(0)
+
     def test_foreign_thread(self):
         # Check that a "foreign" thread can use the threading module.
         def f(mutex):
index c27140d76edc55478bcad14a1179efaf41cae16a..5655dded32d1679d39ddc83d939800f040cf809d 100644 (file)
@@ -15,7 +15,7 @@ from collections import deque
 # Rename some stuff so "from threading import *" is safe
 __all__ = ['activeCount', 'Condition', 'currentThread', 'enumerate', 'Event',
            'Lock', 'RLock', 'Semaphore', 'BoundedSemaphore', 'Thread',
-           'Timer', 'setprofile', 'settrace', 'local']
+           'Timer', 'setprofile', 'settrace', 'local', 'stack_size']
 
 _start_new_thread = thread.start_new_thread
 _allocate_lock = thread.allocate_lock
@@ -713,6 +713,8 @@ def enumerate():
     _active_limbo_lock.release()
     return active
 
+from thread import stack_size
+
 # Create the main thread object
 
 _MainThread()
index 04240e87b83d1101e31c62b6e49bb5ad8ec70017..82838f3d00200e5ced664783ac5d3379a2d69d98 100644 (file)
--- a/Misc/NEWS
+++ b/Misc/NEWS
@@ -112,6 +112,9 @@ Extension Modules
 - Patch #1435422: zlib's compress and decompress objects now have a
   copy() method.
 
+- Patch #1454481: thread stack size is now tunable at runtime for thread
+  enabled builds on Windows and systems with Posix threads support.
+
 - On Win32, os.listdir now supports arbitrarily-long Unicode path names
   (up to the system limit of 32K characters).
 
index 6169658f93f2af26c116272284fbb701e374be97..fd0bd085a468565dea23ab0cc2f93c5bcdd821c4 100644 (file)
@@ -586,6 +586,61 @@ allocated consecutive numbers starting at 1, this behavior should not\n\
 be relied upon, and the number should be seen purely as a magic cookie.\n\
 A thread's identity may be reused for another thread after it exits.");
 
+static PyObject *
+thread_stack_size(PyObject *self, PyObject *args)
+{
+       size_t old_size;
+       Py_ssize_t new_size = 0;
+       PyObject *set_size = NULL;
+       int rc;
+
+       if (!PyArg_ParseTuple(args, "|n:stack_size", &new_size))
+               return NULL;
+
+       if (new_size < 0) {
+               PyErr_SetString(PyExc_ValueError,
+                               "size must be 0 or a positive value");
+               return NULL;
+       }
+
+       old_size = PyThread_get_stacksize();
+
+       rc = PyThread_set_stacksize((size_t) new_size);
+       if (rc == -1) {
+               PyErr_Format(PyExc_ValueError,
+                            "size not valid: %zd bytes",
+                            new_size);
+               return NULL;
+       }
+       if (rc == -2) {
+               PyErr_SetString(ThreadError,
+                               "setting stack size not supported");
+               return NULL;
+       }
+
+       return PyInt_FromSsize_t((Py_ssize_t) old_size);
+}
+
+PyDoc_STRVAR(stack_size_doc,
+"stack_size([size]) -> size\n\
+\n\
+Return the thread stack size used when creating new threads.  The\n\
+optional size argument specifies the stack size (in bytes) to be used\n\
+for subsequently created threads, and must be 0 (use platform or\n\
+configured default) or a positive integer value of at least 32,768 (32k).\n\
+If changing the thread stack size is unsupported, a ThreadError\n\
+exception is raised.  If the specified size is invalid, a ValueError\n\
+exception is raised, and the stack size is unmodified.  32k bytes\n\
+ currently the minimum supported stack size value to guarantee\n\
+sufficient stack space for the interpreter itself.\n\
+\n\
+Note that some platforms may have particular restrictions on values for\n\
+the stack size, such as requiring a minimum stack size larger than 32kB or\n\
+requiring allocation in multiples of the system memory page size\n\
+- platform documentation should be referred to for more information\n\
+(4kB pages are common; using multiples of 4096 for the stack size is\n\
+the suggested approach in the absence of more specific information).");
+
 static PyMethodDef thread_methods[] = {
        {"start_new_thread",    (PyCFunction)thread_PyThread_start_new_thread,
                                METH_VARARGS,
@@ -605,6 +660,9 @@ static PyMethodDef thread_methods[] = {
         METH_NOARGS, interrupt_doc},
        {"get_ident",           (PyCFunction)thread_get_ident, 
         METH_NOARGS, get_ident_doc},
+       {"stack_size",          (PyCFunction)thread_stack_size,
+                               METH_VARARGS,
+                               stack_size_doc},
 #ifndef NO_EXIT_PROG
        {"exit_prog",           (PyCFunction)thread_PyThread_exit_prog,
         METH_VARARGS},
index c9356dcbfda2e9529818367d85d89a57ca85b45d..bc501822c0ec51cc9483346c8dc38cab96040d18 100644 (file)
@@ -95,6 +95,11 @@ PyThread_init_thread(void)
        PyThread__init_thread();
 }
 
+/* Support for runtime thread stack size tuning.
+   A value of 0 means using the platform's default stack size
+   or the size specified by the THREAD_STACK_SIZE macro. */
+static size_t _pythread_stacksize = 0;
+
 #ifdef SGI_THREADS
 #include "thread_sgi.h"
 #endif
@@ -150,6 +155,28 @@ PyThread_init_thread(void)
 #endif
 */
 
+/* return the current thread stack size */
+size_t
+PyThread_get_stacksize(void)
+{
+       return _pythread_stacksize;
+}
+
+/* Only platforms defining a THREAD_SET_STACKSIZE() macro
+   in thread_<platform>.h support changing the stack size.
+   Return 0 if stack size is valid,
+          -1 if stack size value is invalid,
+          -2 if setting stack size is not supported. */
+int
+PyThread_set_stacksize(size_t size)
+{
+#if defined(THREAD_SET_STACKSIZE)
+       return THREAD_SET_STACKSIZE(size);
+#else
+       return -2;
+#endif
+}
+
 #ifndef Py_HAVE_NATIVE_TLS
 /* If the platform has not supplied a platform specific
    TLS implementation, provide our own.
index 4dc6d6c313e4e5a3509b144b9c68f7d84451780a..67f5ed51747543c961a5f94627a58e11309390d3 100644 (file)
@@ -196,7 +196,7 @@ PyThread_start_new_thread(void (*func)(void *), void *arg)
        if (obj.done == NULL)
                return -1;
 
-       rv = _beginthread(bootstrap, 0, &obj); /* use default stack size */
+       rv = _beginthread(bootstrap, _pythread_stacksize, &obj);
        if (rv == (Py_uintptr_t)-1) {
                /* I've seen errno == EAGAIN here, which means "there are
                 * too many threads".
@@ -335,3 +335,30 @@ PyThread_release_lock(PyThread_type_lock aLock)
        if (!(aLock && LeaveNonRecursiveMutex((PNRMUTEX) aLock)))
                dprintf(("%ld: Could not PyThread_release_lock(%p) error: %l\n", PyThread_get_thread_ident(), aLock, GetLastError()));
 }
+
+/* minimum/maximum thread stack sizes supported */
+#define THREAD_MIN_STACKSIZE   0x8000          /* 32kB */
+#define THREAD_MAX_STACKSIZE   0x10000000      /* 256MB */
+
+/* set the thread stack size.
+ * Return 0 if size is valid, -1 otherwise.
+ */
+static int
+_pythread_nt_set_stacksize(size_t size)
+{
+       /* set to default */
+       if (size == 0) {
+               _pythread_stacksize = 0;
+               return 0;
+       }
+
+       /* valid range? */
+       if (size >= THREAD_MIN_STACKSIZE && size < THREAD_MAX_STACKSIZE) {
+               _pythread_stacksize = size;
+               return 0;
+       }
+
+       return -1;
+}
+
+#define THREAD_SET_STACKSIZE(x)        _pythread_nt_set_stacksize(x)
index 86e91c1e1a66660312881d317e788c7b37a266ff..3ed9d08a3147b50205f3edcb5f32d9cc92aa9e34 100644 (file)
 long PyThread_get_thread_ident(void);
 #endif
 
+/* default thread stack size of 64kB */
 #if !defined(THREAD_STACK_SIZE)
 #define        THREAD_STACK_SIZE       0x10000
 #endif
 
+#define OS2_STACKSIZE(x)       (x ? x : THREAD_STACK_SIZE)
+
 /*
  * Initialization of the C package, should not be needed.
  */
@@ -35,7 +38,10 @@ PyThread_start_new_thread(void (*func)(void *), void *arg)
        int aThread;
        int success = 0;
 
-       aThread = _beginthread(func, NULL, THREAD_STACK_SIZE, arg);
+       aThread = _beginthread(func,
+                               NULL,
+                               OS2_STACKSIZE(_pythread_stacksize),
+                               arg);
 
        if (aThread == -1) {
                success = -1;
@@ -275,3 +281,30 @@ PyThread_release_lock(PyThread_type_lock aLock)
        DosExitCritSec();
 #endif
 }
+
+/* minimum/maximum thread stack sizes supported */
+#define THREAD_MIN_STACKSIZE   0x8000          /* 32kB */
+#define THREAD_MAX_STACKSIZE   0x2000000       /* 32MB */
+
+/* set the thread stack size.
+ * Return 0 if size is valid, -1 otherwise.
+ */
+static int
+_pythread_os2_set_stacksize(size_t size)
+{
+       /* set to default */
+       if (size == 0) {
+               _pythread_stacksize = 0;
+               return 0;
+       }
+
+       /* valid range? */
+       if (size >= THREAD_MIN_STACKSIZE && size < THREAD_MAX_STACKSIZE) {
+               _pythread_stacksize = size;
+               return 0;
+       }
+
+       return -1;
+}
+
+#define THREAD_SET_STACKSIZE(x)        _pythread_os2_set_stacksize(x)
index c29a61c809a2a2ca110ee290b90e663f12f51d02..60d2fb216eb0793849bb36b2b8cf0c38a19c7109 100644 (file)
 #endif
 #include <signal.h>
 
+/* The POSIX spec requires that use of pthread_attr_setstacksize
+   be conditional on _POSIX_THREAD_ATTR_STACKSIZE being defined. */
+#ifdef _POSIX_THREAD_ATTR_STACKSIZE
+#ifndef THREAD_STACK_SIZE
+#define        THREAD_STACK_SIZE       0       /* use default stack size */
+#endif
+/* for safety, ensure a viable minimum stacksize */
+#define        THREAD_STACK_MIN        0x8000  /* 32kB */
+#else  /* !_POSIX_THREAD_ATTR_STACKSIZE */
+#ifdef THREAD_STACK_SIZE
+#error "THREAD_STACK_SIZE defined but _POSIX_THREAD_ATTR_STACKSIZE undefined"
+#endif
+#endif
+
 /* The POSIX spec says that implementations supporting the sem_*
    family of functions must indicate this by defining
    _POSIX_SEMAPHORES. */   
@@ -138,15 +152,27 @@ PyThread_start_new_thread(void (*func)(void *), void *arg)
 #if defined(THREAD_STACK_SIZE) || defined(PTHREAD_SYSTEM_SCHED_SUPPORTED)
        pthread_attr_t attrs;
 #endif
+#if defined(THREAD_STACK_SIZE)
+       size_t  tss;
+#endif
+
        dprintf(("PyThread_start_new_thread called\n"));
        if (!initialized)
                PyThread_init_thread();
 
 #if defined(THREAD_STACK_SIZE) || defined(PTHREAD_SYSTEM_SCHED_SUPPORTED)
-       pthread_attr_init(&attrs);
+       if (pthread_attr_init(&attrs) != 0)
+               return -1;
 #endif
-#ifdef THREAD_STACK_SIZE
-       pthread_attr_setstacksize(&attrs, THREAD_STACK_SIZE);
+#if defined(THREAD_STACK_SIZE)
+       tss = (_pythread_stacksize != 0) ? _pythread_stacksize
+                                        : THREAD_STACK_SIZE;
+       if (tss != 0) {
+               if (pthread_attr_setstacksize(&attrs, tss) != 0) {
+                       pthread_attr_destroy(&attrs);
+                       return -1;
+               }
+       }
 #endif
 #if defined(PTHREAD_SYSTEM_SCHED_SUPPORTED)
         pthread_attr_setscope(&attrs, PTHREAD_SCOPE_SYSTEM);
@@ -460,3 +486,48 @@ PyThread_release_lock(PyThread_type_lock lock)
 }
 
 #endif /* USE_SEMAPHORES */
+
+/* set the thread stack size.
+ * Return 0 if size is valid, -1 if size is invalid,
+ * -2 if setting stack size is not supported.
+ */
+static int
+_pythread_pthread_set_stacksize(size_t size)
+{
+#if defined(THREAD_STACK_SIZE)
+       pthread_attr_t attrs;
+       size_t tss_min;
+       int rc = 0;
+#endif
+
+       /* set to default */
+       if (size == 0) {
+               _pythread_stacksize = 0;
+               return 0;
+       }
+
+#if defined(THREAD_STACK_SIZE)
+#if defined(PTHREAD_STACK_MIN)
+       tss_min = PTHREAD_STACK_MIN > THREAD_STACK_MIN ? PTHREAD_STACK_MIN
+                                                      : THREAD_STACK_MIN;
+#else
+       tss_min = THREAD_STACK_MIN;
+#endif
+       if (size >= tss_min) {
+               /* validate stack size by setting thread attribute */
+               if (pthread_attr_init(&attrs) == 0) {
+                       rc = pthread_attr_setstacksize(&attrs, size);
+                       pthread_attr_destroy(&attrs);
+                       if (rc == 0) {
+                               _pythread_stacksize = size;
+                               return 0;
+                       }
+               }
+       }
+       return -1;
+#else
+       return -2;
+#endif
+}
+
+#define THREAD_SET_STACKSIZE(x)        _pythread_pthread_set_stacksize(x)