sfdpgen: remove unimplemented 'DistanceMatrix_restrict_filtering'

sfdpgen maximal_…: remove unused 'randomize' parameter

sfdpgen: make 'UniformStressSmoother_new' a static function

This function is not used outside of its containing file.

sfdpgen UniformStressSmoother_new: remove unused 'flag' parameter

sfdpgen UniformStressSmoother_new: remove unused 'x' parameter

sfdpgen UniformStressSmoother_new: remove unused 'dim' parameter

sfdpgen stress_model: remove unused 'A' parameter

sfdpgen: make 'get_stress' static

This function is unused outside of its containing file and is only used when
`DEBUG_PRINT` is defined.

sfdpgen get_stress: remove 'weighted' parameter that is always 1

sfdpgen get_stress: remove unused 'data' parameter

sfdpgen jacobi: remove unused 'flag' parameter

Merge branch 'smattr/45dc48f2-fa91-42ed-8530-8bcaf9fdb303' into 'main'

neatogen compiler warning squashing

See merge request graphviz/graphviz!2771

neatogen call_tri: remove unused 'dim' parameter

neatogen CMDS_orthog: remove unused 'g' parameter

neatogen constrained_majorization_new_with_gaps: remove unused 'ndim' parameter

Note that the call to this function from
`constrained_majorization_new_with_gaps` also seems confused about the meaning
of its parameters. But no attempt is made to correct this.

neatogen: remove unused 'constrained_majorization_gradient_projection'

This function has seemingly never been used.

neatogen computeHierarchyBoundaries: remove unused 'n' parameter

neatogen mkConstraintG: remove unused 'g' parameter

neatogen bfs_bounded: remove unused 'n' parameter

neatogen initLayout: remove unused 'graph' parameter

neatogen voronoi: remove unused 'triangulate' parameter

Merge branch 'smattr/5fa804c5-668e-4a54-b373-00bc933032d5' into 'main'

more compiler warning squashing

See merge request graphviz/graphviz!2770

smyrna on_attrAddBtn_clicked: use const type to squash a -Wcast-qual warning

Unfortunately we cannot also do the same for `attr_name` in this function
because it is passed to a Graphviz function that accepts a non-const pointer.

smyrna safestrdup: accept a const pointer

This will simplify an upcoming change.

smyrna set_refresh_filters: use const types to squash some -Wcast-qual warnings

Unfortunately we cannot also do the same for `attr_name` in this function
because it is passed to a Graphviz function that accepts a non-const pointer.

smyrna doApply: remove unused 'doAll' code path

smyrna doApply: remove unused 'widget' parameter

Note this also makes `widget` unused in `on_attrApplyBtn_clicked` which is a
Glade callback and cannot have its corresponding parameter removed. So we squash
the resulting warning there.

smyrna on_attrAddBtn_clicked: squash -Wunused-parameter warnings

55efb8e562bca6c4090a73712342ac006e133704 that squashes other such warnings in
this file missed that these are also unused in `on_attrAddBtn_clicked`.

smyrna mOpenSlot: squash -Wunused-parameter warnings

bd869436742887a0089f5ad817ecb36a1546987c that squashed other such warnings in
this file, missed that these are also unused in `mOpenSlot`.

smyrna btnToolFit_clicked: use float literals to simplify some code

smyrna btnToolZoomFit_clicked: rephrase unorthodox ternaries

This function was using assignments on the right hand sides of ternary
expressions. This is technically allowed, but leads to very hard to read code.

smyrna toolboxcallbacks: remove unnecessary parens

This also adjusts the location of some variable definitions to C99 style.

smyrna toolboxcallbacks: remove excess white space

smyrna toolboxcallbacks: squash -Wunused-parameter warnings

These functions are used as Glade callbacks, so need to conform to particular
type signatures.

smyrna topviewsettings: squash -Wunused-parameter warnings

These functions are used as Glade callbacks, so need to conform to particular
type signatures.

smyrna load_settings_from_graph: remove unused 'g' parameter

tclpkg tclGdSizeCmd: squash an -Wunused-parameter warning

This parameter cannot easily be removed because this function is used as a
callback and needs to conform to a particular type signature.

Merge branch 'smattr/d5eaf8b2-870d-4ef0-9557-51428f498a1b' into 'main'

misc simplification

See merge request graphviz/graphviz!2768

Pango plugin: remove unnecessary cast

GDK plugin: remove unnecessary casts

GD plugin: remove unnecessary casts

rsvg plugin gvloadimage_rsvg_cairo: remove unnecessary cast

glcomp plugin file_exists: simplify readability test

We do not need to open a file to test if it is readable.

expr extoken_fn: simplify hex parsing loop

expr prformat: replace pointer and extent with central string view abstraction

common: remove some unnecessary casts

Merge branch 'fix-subgraph-layout-and-rendering' into 'main'

Fix subgraph layout and rendering

Closes #1800

See merge request graphviz/graphviz!2767

remove GD_drawing(g) NULL guard

This guard is unnecessary since `graph_cleanup` alrady has the
necessary guards. This also ensures that the Agraphinfo_t record and
the graph's label is cleaned away even if the graph for some reason
doesn't have a drawing (can this ever happen?).

gvFreeLayout: correct comments about reset and root graph

This comment was added in 44b02b91bd156cb832894fb4948bf4bc75ab27cb,
but this commit changed the cleanup to work on the given graph
(possibly a subgraph), not the root graph. The resets mentioned were
removed in 67acd9e27a053a5b80b3d1458f512d472debb434,
b3b7e0d1aea43baa81bf06a27d38447d6958c1b8 and
a71555a4ac650bf91396c77c277697b45eee44e6, although the called
`graph_cleanup` function does its own reset.

gvFreeLayout: remove incorrect comment about only the root graph having a drawing

This comment was added in c55b546e3965a8dfd2a66763961c4a8003e433bf,
but both subgraphs and root graphs have a reference to (the same)
drawing through this statement in gvLayoutJobs:

    GD_drawing(agroot(g)) = GD_drawing(g);

twopigen: layout: fix heap-buffer-overflow by storing dimension in root graph

The layout allocates memory based on the dimension of the root graph,
but since the dimension was stored in the subgraph and the dimension
in the root graph defaulted to zero, too little memory was allocated.

An alternative solution would have been to use the dimension of the
subgraph, but this had other implications and the chosen solution is
the same as what the other two layout engines supporting the dim
attribute (neato and sfdp) use. Twopi always uses two dimensions.

This fixes the last memory issue detected by ASan in the
test_subgraph_layout test, which now runs without failures.

circogen: layout: fix heap-buffer-overflow by storing dimension in root graph

The layout allocates memory based on the dimension of the root graph,
but since the dimension was stored in the subgraph and the dimension
in the root graph defaulted to zero, too little memory was allocated.

An alternative solution would have been to use the dimension of the
subgraph, but this had other implications and the chosen solution is
the same as what the other two layout engines supporting the `dim`
attribute (neato and sfdp) use. Circo always uses two dimensions.

fdpgen: layout: fix heap-buffer-overflow by storing dimension in root graph

The layout allocates memory based on the dimension of the root graph,
but since the dimension was stored in the subgraph and the dimension
in the root graph defaulted to zero, too little memory was allocated.

An alternative solution would have been to use the dimension of the
subgraph, but this had other implications and the chosen solution is
the same as what the other two layout engines supporting the `dim`
attribute (neato and sfdp) use.

gvRender*: render subgraph when given, not always root graph

These functions always rendered the root graph, even if a sub graph
was given. Apart from being incorrect, this caused
heap-buffer-overflow when trying to render a graph consisting of two
subgraph of which only one had a layout. Also, even if both subgraphs
had layouts, they somehow mixed up the bounding boxes of the graphs
causing some nodes and edges not to be rendered since they were
outside the graph bounding box.

gvLayoutJobs: initialize also root graph if it isn't already

The root graph info is needed by gvLayoutJobs when doing subgraph
layout. This fixes a heap-buffer-overflow detected by ASan in the
test_subgraph_layout test.

add new test test_subgraph_layout

This test is run in CI with ASan leak detection enabled. It currectly
fails because ASan detects several memory issues in various layout
engines.

patchwork: fix memory leak by freeing cluster data in graph cleanup

This fixes a memory leak detected by ASan in the test_clusters test,
which now runs without failures

dotgen cluster: fix memory leaks by freeing data from removed rank leaders

The `build_skeleton` function inserts virtual nodes and edges into the
graph to be used by the clustering algorithms. The `expand_cluster`
function later installs real nodes or sub-clusters and deletes the
virtual nodes and edges by calling the `remove_rank_leaders` function
which removes these from the graph. However, it didn't free the data
allocated for them which caused several memory leaks.

add new test case test_clusters

Upcoming commits in this series will make changes to subgraph layout
and since clusters are also subgraphs, we want to weed out any memory
issues related to clusters separately.

This test is run in CI with ASan leak detection enabled. It currectly
fails because ASan detects memory leaks in the dot and patchwork
layout engines.

don't clean away Agraphinfo_t in layout specific cleanups

This cleanup is since 2b3b37c47244f57a9690bff8fb92f77d17ec616c handled
by the general `graph_cleanup` function.

This information is since 44b02b91bd156cb832894fb4948bf4bc75ab27cb
needed by the general layout cleanup function that runs after the
layout-specific cleanup.

This problem was fixed for root graphs in commit
c55b546e3965a8dfd2a66763961c4a8003e433bf, but not for subgraph layout.

This fixes a heap-buffer-overflow detected by ASan in the
test_neatopack test, which now runs without failures.

This commit also reverts commit
291b7a40f742551797e5681acbb8f5662c084822 since the
dot.demo/neatopack.c example now runs without failures.

Fixes https://gitlab.com/graphviz/graphviz/-/issues/1800.

add new test_neatopack test

Upcoming commits in this series will make changes to gvFreeLayout and
we want to ensure that those changes don't introduce any memory leaks
when run with ASan, since gvFreeLayout handles cleanup of both
subgraphs and the root graph and the test case extracts subgraphs from
the root graph.

This test is run in CI with ASan leak detection enabled. It is more or
less a replica of 'dot.demo/neatopack.c', which is also tested in CI
by 'tests/test_examples.py', but with leak detection disabled. It
currently fails because of a heap-buffer-overflow in the gvFreeLayout.

Towards https://gitlab.com/graphviz/graphviz/-/issues/1800.

dot.demo/neatopack.c: add missing free of connected components subgraphs

Towards https://gitlab.com/graphviz/graphviz/-/issues/1800.

dot.demo/neatopack.c: add missing initialization

Normally gvLayoutJobs does this initialization, but since we call
ccomps before doing the layout and it expects graphs and nodes to have
'Agraphinfo_t' and 'Anodeinfo_t' records attached already, we must do
this initialization in the user program instead, see
https://graphviz.org/pdf/pack.3.pdf.

Fixes first part of
https://gitlab.com/graphviz/graphviz/-/issues/1800.

add new test_subgraphs test

Upcoming commits in this series will make changes to gvFreeLayout and
we want to ensure that those changes don't introduce any memory leaks
when run with ASan, since gvFreeLayout handles cleanup of both
subgraphs and the root graph.

This test is run in CI with ASan leak detection enabled.

Towards https://gitlab.com/graphviz/graphviz/-/issues/1800.

osage_cleanup: add missing cleanup of edges

This fixes a memory leak detected by ASan in the test_engines test,
which now runs without failures

add new simple test_engines test

Upcoming commits in this series will make changes to gvFreeLayout and
we want to ensure that those changes don't introduce any memory leaks
when run with ASan, since gvFreeLayout calls layout-specific cleanup
functions.

This test is run in CI with ASan leak detection enabled. It currently
fails because of a memory leak in the osage layout.

Towards https://gitlab.com/graphviz/graphviz/-/issues/1800.

add the fmt library as a test dependency

add libfmt-dev to Ubuntu 22.04 Dockerfile

It is going to be used in new tests in upcoming commits.

tests: CMake: change test_common from a static to a shared library

This was the original intention according to the commit message in
commit a9daedd8bee1b5620a933b612c3335b90bde263d.

tests/CMakeLists.txt: sort test cases

Merge branch 'smattr/BA128E20-1C11-4C5C-978E-6F16C28B3671' into 'main'

rephrase comparators to avoid arithmetic

See merge request graphviz/graphviz!2766

sparse comp_ascend_int: remove unnecessary parens

sfdpgen scomp: remove unnecessary parens

patchwork nodecmp: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

pack cmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

neatogen cmpIpair: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

neatogen cmpitem: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

fdpgen ijcmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

dotgen edgeposcmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

dotgen nodeposcmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

dotgen ordercmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

common textfont_comparf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

common increasingrankcmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

common decreasingrankcmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

cgraph agsubnodeseqcmpf: remove unnecessary casts

cgraph agsubnodeidcmpf: remove unnecessary casts

gvcolor cmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

dijkstra cmpf: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

dotgen edgelblcmpfn: remove unnecessary casts

dotgen edgecmp: rephrase comparator to avoid arithmetic

cccb8b1d22a18031fc92d93133c7fa14ef7e1361 fixed an integer overflow in a
`memcmp`-/`strcmp`-like comparator. The same situation exists in the code
touched in this commit. Rather than wait for an edge case to expose an overflow
here, this change makes the same update, removing arithmetic and the consequent
possibility of overflow.

Note that the first comparison in this function appears to be the wrong way
around. But this (mistake?) is left as-is.

dotgen edgecmp: remove unnecessary casts

circogen: remove commented out 'cleanBlocklist'

This was commented out when first committed in the initial revision,
256ef66663ca0c072554ee3f5e7971911031b3c7. It has never been uncommented or used.

Merge branch 'smattr/ac7d6a52-2008-42b9-8ce4-e82b996d2211' into 'main'

squash more -Wunused-parameter warnings

See merge request graphviz/graphviz!2765

neatogen getPath: remove unused obstacle parameters

This function ignores obstacles when routing.

dotgen make_flat_adj_edges: remove unused 'P' parameter

dotgen cloneNode: remove unused 'flipped' parameter

dotgen constraining_flat_edge: remove unused 'v' parameter

dotgen getCluster: remove unused 'g' parameter

This also makes `g` in `makeCompoundEdge` unused, so we remove that parameter
too.

dotgen make_interclust_chain: remove unused 'g' parameter

topfish make_coarse_ex_graph: remove unused 'nvtxs' parameter