]> granicus.if.org Git - python/commitdiff
Remove the round() discussion which is now out-of-date.
authorRaymond Hettinger <python@rcn.com>
Sun, 26 Apr 2009 20:10:50 +0000 (20:10 +0000)
committerRaymond Hettinger <python@rcn.com>
Sun, 26 Apr 2009 20:10:50 +0000 (20:10 +0000)
Doc/tutorial/floatingpoint.rst

index f060e694855bad84d2ed6c7e2eecc6da065934f0..78dc1d60bc78a9e60b839836ae9c331e8a4f7089 100644 (file)
@@ -108,23 +108,8 @@ reproduce *x*, but the output may be more pleasant to look at::
 It's important to realize that this is, in a real sense, an illusion: you're
 simply rounding the *display* of the true machine value.
 
-Other surprises follow from this one.  For example, after seeing ::
-
-   >>> format(0.1, '.17g')
-   '0.10000000000000001'
-
-you may be tempted to use the :func:`round` function to chop it back to the
-single digit you expect.  But that makes no difference::
-
-   >>> format(round(0.1, 1), '.17g')
-   '0.10000000000000001'
-
-The problem is that the binary floating-point value stored for "0.1" was already
-the best possible binary approximation to 1/10, so trying to round it again
-can't make it better:  it was already as good as it gets.
-
-Another consequence is that since 0.1 is not exactly 1/10, summing ten values of
-0.1 may not yield exactly 1.0, either::
+One illusion may beget another.  For example, since 0.1 is not exactly 1/10,
+summing ten values of 0.1 may not yield exactly 1.0, either::
 
    >>> sum = 0.0
    >>> for i in range(10):