use a stronger return type in directVis

use a stronger return type for clear

use a stronger return type for in_cone and inCone

use a stronger return type for INTERSECT

make intersect static

This function is not used outside of its containing file.

use a stronger return type for inBetween

remove unnecessary bracketing in visibility.c

remove an open coded NULL

use more modern #pragma once guards in lib/pathplan

remove unused NEQ

remove unused CW

remove unused CCW

remove unused OBSCURED

remove unused freepoly

remove unused copypoly

Merge branch 'smattr/3931cfd4-1c69-45b6-8aac-0d7b0f38d47b' into 'main'

clean up in lib/sparse

See merge request graphviz/graphviz!1983

remove unused SparseMatrix_delete_sparse_columns

remove unused SparseMatrix_delete_empty_columns

remove unused SparseMatrix_largest_component

remove unused SparseMatrix_exclude_submatrix

remove unused SparseMatrix_connectedQ

remove unused SparseMatrix_pseudo_diameter_only

remove unused SparseMatrix_crop

remove unused SparseMatrix_apply_fun_general

remove unused SparseMatrix_normalize_by_row

remove unused SparseMatrix_normalize_to_rowsum1

abbreviate open coded fmax/fmin in limitBoxes

Merge branch 'smattr/67e74e7b-a7dd-4ac1-b503-e1721198551c' into 'main'

clean up in lib/pathplan

See merge request graphviz/graphviz!1982

remove commented out code in triang.c

remove unnecessary prototype

The definition of dpd_ccw appears before any of its uses, so having a leading
prototype is unnecessary.

use C99 bools in triang.c instead of internal constants

remove unused triangle_t type

remove unused lvertex_2_t type

remove cbrt alternative implementation

The cbrt function is guaranteed to be provided in C99, with which Graphviz is
now compiled.

use C99 bools in shortest.c instead of internal constants

remove duplicate #include <stdlib.h>

remove unused elist_t type

remove unused p2e_t type

remove unused macros LT and GT

Merge branch 'smattr/cc687d3f-f2c0-4bfd-b2a5-3efb2f3b6cf7' into 'main'

more clean up in lib/glcomp

See merge request graphviz/graphviz!1984

remove commented out code in glCompLabelNew

remove unused glCompLabelSetFontName

remove unused glCompLabelSetFontSize

remove unused glCompLabelSetText

remove unused glCompLabelMouseUp

remove unused glCompLabelMouseOver

remove unused glCompLabelMouseOut

remove unused glCompLabelMouseIn

remove unused glCompLabelMouseDown

remove unused glCompLabelDoubleClick

remove unused glCompLabelClick

remove glCompSetRemoveLabel prototype

This function was removed in 9a9cfd4e90775aa14a11a0db6745783f3a59ef56 but its
prototype was not.

remove glCompSetAddLabel prototype

This function was removed in 9a9cfd4e90775aa14a11a0db6745783f3a59ef56 but its
prototype was not.

Merge branch 'smattr/7a64fbc3-20d4-440c-9030-47fa929ae962' into 'main'

fix incorrect return value in inside_polygon

Closes #2082

See merge request graphviz/graphviz!1988

fix incorrect return value in inside_polygon

A refactor in 7731b18f403b545ea6eca99f429dd9b63e0659d6 incorrectly flipped the
polarity of one of the return sites in inside_polygon. The effect of this was
confusing assertion failures. Fixes #2082.

add a test case for #2082

Merge branch 'smattr/604a7505-2c95-4af0-9355-93f51e2c5dbf' into 'main'

fix: do not fclose(NULL) in gvmap

See merge request graphviz/graphviz!1981

fix: do not fclose(NULL) in gvmap

gvmap opens a debugging file to write timing information to if verbosity is
enabled. It tried to unconditionally close this file, regardless of whether
verbosity was enabled. The result was that, without verbosity enabled, it would
call fclose(NULL). The effect of this seems to vary across operating systems but
can result in a crash. This fix only tries to close the file if it was
previously opened. Related to #1822.

Unfortunately we cannot un-xfail test_gvmap_fclose because it fails for another
reason on some platforms.

add a test case for gvmap crash

As discussed on #1822, gvmap currently crashes sometimes. It seems this is not
input dependent, but rather platform dependent. A fix will arrive in an upcoming
commit.

remove some unused imports in test_regression.py

fix prior merge mistake

Merge branch 'smattr/8c949bd7-1fa9-4b34-bcb5-d838d72f676f' into 'main'

test case for #2078 and gvplugin bug fixing

See merge request graphviz/graphviz!1980

squash some -Wsign-conversion warnings in gvplugin_library_load

remove unused return value of gvplugin_activate

mark name and plugin_path to gvplugin_activate as const

Neither of these are modified by the function.

remove shadowing of path in gvplugin_activate

This squashes a -Wshadow compiler warning.

squash a -Wsign-compare warning in a gvplugin.c loop

remove temporary buffer for the name of registered GVC plugins

Similar to the previous commit, this removes a temporary buffer that was only
being used for splitting a name on a ':' separator. Using the same strategy of
maintaining start and end as pointers into the original string, we can remove
the need for the temporary buffer and remove the limitation on ≤63 character
names.

remove temporary buffer for name of the GVC plugin being loaded

The GVC plugin loading machinery copied the first 63 characters of the plugin
name to a temporary buffer in order to mutate it. However the mutation is simply
chopping up the plugin name based on a ':' separator. By tracking the start and
end of each component as pointers into the original sting, we can remove the
need for this temporary buffer.

Though this saves some stack memory, the primary motivation for this change is
to remove the truncation-to-63-characters behavior. There is no need to limit
plugin names to 63 characters. Note that the names of registered plugins are
still limited to 63 characters, so this does not fully remove the restriction.

fix out of bounds read when examining a registered plugin with a long name

Similar to the previous commit, the GVC plugin loading code copies the names of
registered plugins to a temporary buffer as it iterates through them to allow
mutating the name. And just like the code for mutating the name of the plugin
begin loaded, it would fail to NUL-terminate this temporary buffer, causing a
following strchr to over-read.

The fix again is to simply zero-initialize the temporary buffer, so the
copied-in string is always NUL-terminated.

fix out of bounds read when loading a plugin with a long name

The GVC plugin loading code copies the first 63 characters of the name of a
plugin to a temporary buffer in order to do various string manipulation on it.
However, this buffer was not initialized and never manually terminated. As a
result, a plugin name of 63 characters or more would result in the buffer
containing a non-terminated string. Subsequent strchr on this buffer would
over-read if it never saw a ':', resulting in unpredictable behavior.

This fix simply zero-initializes the buffer to begin with, so the copied-in
string is always NUL-terminated.

add a test case for #2078

Merge branch 'smattr/A8D77CFB-89C5-4EC3-B3BB-5E95B152E225' into 'main'

some clean up in nop and lib/ingraphs

See merge request graphviz/graphviz!1979

mark nop’s command line parameter variables static

These are not used outside of their containing file.

use a C99 bool for nop’s chkOnly flag

The semantics of this flag were already a boolean value, so we can use the type
system to more obviously indicate this.

remove an unnecessary cast

This pointer implicitly coerces.

use a C99 bool for ingraph’s heap flag

The semantics of this flag were already a boolean value, so we can use the type
system to more obviously indicate this.

use an unsigned value for ingraphs error count

Obviously the number of errors that has occurred can never be negative. An
unsigned type more accurately indicates this. The only client of ingraphs that
actually checks the error count is nop, so this change has very little effect.

more portable exit status from nop

The exit status of nop was a bitwise-OR of two error counts. I do not see how
the actual value of this could ever be useful, except for being non-zero.
However, a non-zero exit status is not always an error. E.g. on VMS there are
some non-zero exit statuses that still indicate success.

This change causes nop to more reliably and portably exit with EXIT_FAILURE when
encountering errors.

make nop usage string a constant array

The compiler could probably determine this already, but this makes it a little
more obvious that it can be inlined and the useString symbol can be the start of
the data rather than a pointer to the start of the data.

remove an unnecessary open coded NULL

handle unexpected getopt errors in nop

This case is never expected to be reachable. However, having a default case
helps catch when new options are introduced in the getopt call but not handled
in the switch. In a sense, this is a defensive coding measure. This also
squashes a -Wswitch-default compiler warning.

replace ingraphs header guard with more modern #pragma once

remove unused FREE_STATE

This has been unused since the initial revision of this file. It is unclear what
purpose it was intended to serve.

remove useless #include of config.h

The generated config.h only contains a number of #defines, so its inclusion at
the end of a file has no effect. All code following this line was removed in
7cc812f5c1b64832a0324a293cc8968ba044e0a4 which should have also removed this
line but did not.

Merge branch 'smattr/1bbce952-8b1a-4e2b-bc72-3a4a5a53616a' into 'main'

clean up in lib/common

See merge request graphviz/graphviz!1978

remove commented out code in mincross.c

remove commented out code in shapes.c

remove NOTDEF-guarded code

This is not defined anywhere in the build.

remove unused findAttrColor

remove write_canonical_dot prototype for function that does not exist

This function was removed in d3760b95bd696ab130c26dd36927ed498f7aae37 but its
prototype was not.

remove write_attributed_dot prototype for function that does not exist

This function was removed in d3760b95bd696ab130c26dd36927ed498f7aae37 but its
prototype was not.

remove setup_graph prototype for function that does not exist

This function was removed in ac9772156cea7cff4d8f1be7fd9396bdb6027505 but its
prototype was not.

remove emit_jobs_eof prototype for function that does not exist

This function was removed in 574e183b6caed4954702929a952c06c59a141a9e but its
prototype was not.

mark pps parameter to limitBoxes as const

To more obviously indicate this parameter is not modified.

Merge branch 'smattr/839387A5-BAE4-43F2-88C1-C6818F406667'

Add --tag=CC when compiling quartz plugin

Edit by Matthew Fernandez: When compiling libraries, libtool infers a so called
“tag” indicating the language model it should use when creating objects.
The libtool docs¹ claim `CC` is inferred when no tag is explicitly given, but
empirically this does not seem to be true. On macOS, some versions of libtool
give up when seeing a .m file with the error:

  libtool: compile: unable to infer tagged configuration
  libtool:   error: specify a tag with '--tag'

To fix this, we now explicitly set the `CC` tag. Note that this is not guarded
to be macOS-only because this action needs to be taken in all environments with
Objective-C support that are building the Quartz plugin (if this is in fact
possible on anything other than macOS).

This commit also fixes a further problem where AM_LIBTOOLFLAGS was misspelled
as AM_LIBTOOLSFLAGS. It looks like 79aa7d77ef433d66c0142168d2817b4c7014d263
previously tried to fix this same problem but (1) the WITH_DARWIN9 guard is
insufficient for recent macOS versions and (2) the typo made this whole change
a no-op.

This issue was reported by downstream Macports users.

Fixes #2065.

¹ https://www.gnu.org/software/libtool/manual/html_node/Tags.html

Merge branch 'smattr/E9ACDB7A-3EE0-4BF7-B2A8-14EB2AC31B99' into 'main'

some clean up in lib/expr

See merge request graphviz/graphviz!1976

remove unused exrewind()

remove commented out Makefile directives

The comments about libast’s usage of environ are legacy. This declaration was
removed in 3af3980dff0b6a8ca134ea0620b4ffb484906707.