]> granicus.if.org Git - python/commit
bpo-33312: Fix clang ubsan out of bounds warnings in dict. (GH-6537) (GH-6543)
authorMiss Islington (bot) <31488909+miss-islington@users.noreply.github.com>
Fri, 20 Apr 2018 17:06:21 +0000 (10:06 -0700)
committerGregory P. Smith <greg@krypto.org>
Fri, 20 Apr 2018 17:06:21 +0000 (10:06 -0700)
commit392520bd78cd18639a27e5d2803c2e1c2bd593a8
tree60e7657a15f43032eb28c68200fcf8c1c3f9ef65
parent18cd82815b9bdeabc5ac03aa7f58102109ccf368
bpo-33312: Fix clang ubsan out of bounds warnings in dict. (GH-6537) (GH-6543)

Fix clang ubsan (undefined behavior sanitizer) warnings in dictobject.c by
adjusting how the internal struct _dictkeysobject shared keys structure is
declared.

This remains ABI compatible.  We get rid of the union at the end of the
struct being used for conveinence to avoid typecasting in favor of char[]
variable length array at the end of a struct. This is known to clang to be
used for variable sized objects and will not cause an undefined behavior
problem.  Similarly, char arrays do not have strict aliasing undefined
behavior when cast.

PEP-007 does not currently list variable length arrays (VLAs) as allowed
in our subset of C99.  If this turns out to be a problem, the fix to this is
to change the char `dk_indices[]` into `dk_indices[1]` and restore the
three size computation subtractions this change removes:
  `- Py_MEMBER_SIZE(PyDictKeysObject, dk_indices)`

If this works as is I'll make a separate PR to update PEP-007.
(cherry picked from commit 397f1b28c4a12e3b3ed59a89599eabc457412649)
Misc/NEWS.d/next/Core and Builtins/2018-04-19-08-30-07.bpo-33312.mDe2iL.rst [new file with mode: 0644]
Objects/dict-common.h
Objects/dictobject.c