]> granicus.if.org Git - icinga2/blob - doc/21-development.md
Fix spelling errors.
[icinga2] / doc / 21-development.md
1 # Development <a id="development"></a>
2
3 This chapter provides hints on Icinga 2 debugging,
4 development, package builds and tests.
5
6 * [Debug Icinga 2](21-development.md#development-debug)
7     * [GDB Backtrace](21-development.md#development-debug-gdb-backtrace)
8     * [Core Dump](21-development.md#development-debug-core-dump)
9 * [Test Icinga 2](21-development.md#development-tests)
10     * [Snapshot Packages (Nightly Builds)](21-development.md#development-tests-snapshot-packages)
11 * [Develop Icinga 2](21-development.md#development-develop)
12     * [Preparations](21-development.md#development-develop-styleguide)
13     * [Design Patterns](21-development.md#development-develop-design-patterns)
14     * [Build Tools](21-development.md#development-develop-builds-tools)
15     * [Unit Tests](21-development.md#development-develop-tests)
16     * [Style Guide](21-development.md#development-develop-styleguide)
17 * [Development Environment](21-development.md#development-environment)
18     * [Linux Dev Environment](21-development.md#development-linux-dev-env)
19     * [macOS Dev Environment](21-development.md#development-macos-dev-env)
20     * [Windows Dev Environment](21-development.md#development-windows-dev-env)
21 * [Package Builds](21-development.md#development-package-builds)
22     * [RPM](21-development.md#development-package-builds-rpms)
23     * [DEB](21-development.md#development-package-builds-deb)
24     * [Windows](21-development.md#development-package-builds-windows)
25 * [Advanced Tips](21-development.md#development-advanced)
26
27 <!-- mkdocs requires 4 spaces indent for nested lists: https://github.com/Python-Markdown/markdown/issues/3 -->
28
29 ## Debug Icinga 2 <a id="development-debug"></a>
30
31 This chapter targets all users who have been asked by developers to provide
32 a stack trace or coredump if the application crashed. It is also useful
33 for developers working with different debuggers.
34
35 > **Note:**
36 >
37 > This is intentionally mentioned before any development insights
38 > as debugging is a more frequent and commonly asked question.
39
40 ### Debug Requirements <a id="debug-requirements"></a>
41
42 Make sure that the debug symbols are available for Icinga 2.
43 The Icinga 2 packages provide a debug package which must be
44 installed separately for all involved binaries, like `icinga2-bin`
45 or `icinga2-ido-mysql`.
46
47 Distribution       | Command
48 -------------------|------------------------------------------
49 Debian/Ubuntu      | `apt-get install icinga2-dbg`
50 RHEL/CentOS        | `yum install icinga2-debuginfo`
51 Fedora             | `dnf install icinga2-debuginfo icinga2-bin-debuginfo icinga2-ido-mysql-debuginfo`
52 SLES/openSUSE      | `zypper install icinga2-bin-debuginfo icinga2-ido-mysql-debuginfo`
53
54 Furthermore, you may also have to install debug symbols for Boost and your C++ library.
55
56 If you're building your own binaries, you should use the `-DCMAKE_BUILD_TYPE=Debug` cmake
57 build flag for debug builds.
58
59
60 ### GDB as Debugger <a id="development-debug-gdb"></a>
61
62 Install GDB in your development environment.
63
64 Distribution       | Command
65 -------------------|------------------------------------------
66 Debian/Ubuntu      | `apt-get install gdb`
67 RHEL/CentOS        | `yum install gdb`
68 Fedora             | `dnf install gdb`
69 SLES/openSUSE      | `zypper install gdb`
70
71 #### GDB Run <a id="development-debug-gdb-run"></a>
72
73 Call GDB with the binary (`/usr/sbin/icinga2` is a wrapper script calling
74 `/usr/lib64/icinga2/sbin/icinga2` since 2.4) and all arguments and run it in foreground.
75
76 ```
77 gdb --args /usr/lib64/icinga2/sbin/icinga2 daemon -x debug
78 ```
79
80 The exact path to the Icinga 2 binary differs on each distribution. On Ubuntu
81 it is installed into `/usr/lib/x86_64-linux-gnu/icinga2/sbin/icinga2` on 64-bit systems
82 for example.
83
84 > **Note**
85 >
86 > If gdb tells you it's missing debug symbols, quit gdb and install
87 > them: `Missing separate debuginfos, use: debuginfo-install ...`
88
89 Run/restart the application.
90
91 ```
92 (gdb) r
93 ```
94
95 Kill the running application.
96
97 ```
98 (gdb) k
99 ```
100
101 Continue after breakpoint.
102
103 ```
104 (gdb) c
105 ```
106
107 #### GDB Core Dump <a id="development-debug-gdb-coredump"></a>
108
109 Either attach to the running process using `gdb -p PID` or start
110 a new gdb run.
111
112 ```
113 (gdb) r
114 (gdb) generate-core-file
115 ```
116
117 #### GDB Backtrace <a id="development-debug-gdb-backtrace"></a>
118
119 If Icinga 2 aborted its operation abnormally, generate a backtrace.
120
121 > **Note**
122 >
123 > Please install the [required debug symbols](21-development.md#debug-requirements)
124 > prior to generating a backtrace.
125
126 `thread apply all` is important here since this includes all running threads.
127 We need this information when e.g. debugging dead locks and hanging features.
128
129 ```
130 (gdb) bt
131 (gdb) thread apply all bt full
132 ```
133
134 If gdb stops at a SIGPIPE signal please disable the signal before
135 running Icinga 2. This isn't an error, but we need to workaround it.
136
137 ```
138 (gdb) handle SIGPIPE nostop noprint pass
139 (gdb) r
140 ```
141
142 If you create a [new issue](https://github.com/Icinga/icinga2/issues),
143 make sure to attach as much detail as possible.
144
145 #### GDB Backtrace from Running Process <a id="development-debug-gdb-backtrace-running"></a>
146
147 If Icinga 2 is still running, generate a full backtrace from the running
148 process and store it into a new file (e.g. for debugging dead locks).
149
150 > **Note**
151 >
152 > Please install the [required debug symbols](21-development.md#debug-requirements)
153 > prior to generating a backtrace.
154
155 Icinga 2 runs with 2 processes: main and command executor, therefore generate two backtrace logs
156 and add them to the GitHub issue.
157
158 ```
159 for pid in $(pidof icinga2); do gdb -p $pid -batch -ex "thread apply all bt full" -ex "detach" -ex "q" > gdb_bt_${pid}_`date +%s`.log; done
160 ```
161
162 #### GDB Thread List from Running Process <a id="development-debug-gdb-thread-list-running"></a>
163
164 Instead of a full backtrace, you sometimes just need a list of running threads.
165
166 ```
167 for pid in $(pidof icinga2); do gdb -p $pid -batch -ex "info threads" -ex "detach" -ex "q" > gdb_threads_${pid}_`date +%s`.log; done
168 ```
169
170 #### GDB Backtrace Stepping <a id="development-debug-gdb-backtrace-stepping"></a>
171
172 Identifying the problem may require stepping into the backtrace, analysing
173 the current scope, attributes, and possible unmet requirements. `p` prints
174 the value of the selected variable or function call result.
175
176 ```
177 (gdb) up
178 (gdb) down
179 (gdb) p checkable
180 (gdb) p checkable.px->m_Name
181 ```
182
183 #### GDB Breakpoints <a id="development-debug-gdb-breakpoint"></a>
184
185 To set a breakpoint to a specific function call, or file specific line.
186
187 ```
188 (gdb) b checkable.cpp:125
189 (gdb) b icinga::Checkable::SetEnablePerfdata
190 ```
191
192 GDB will ask about loading the required symbols later, select `yes` instead
193 of `no`.
194
195 Then run Icinga 2 until it reaches the first breakpoint. Continue with `c`
196 afterwards.
197
198 ```
199 (gdb) run
200 (gdb) c
201 ```
202
203 In case you want to step into the next line of code, use `n`. If there is a
204 function call where you want to step into, use `s`.
205
206 ```
207 (gdb) n
208
209 (gdb) s
210 ```
211
212 If you want to delete all breakpoints, use `d` and select `yes`.
213
214 ```
215 (gdb) d
216 ```
217
218 > **Tip**
219 >
220 > When debugging exceptions, set your breakpoint like this: `b __cxa_throw`.
221
222 Breakpoint Example:
223
224 ```
225 (gdb) b __cxa_throw
226 (gdb) r
227 (gdb) up
228 ....
229 (gdb) up
230 #11 0x00007ffff7cbf9ff in icinga::Utility::GlobRecursive(icinga::String const&, icinga::String const&, boost::function<void (icinga::String const&)> const&, int) (path=..., pattern=..., callback=..., type=1)
231     at /home/michi/coding/icinga/icinga2/lib/base/utility.cpp:609
232 609                     callback(cpath);
233 (gdb) l
234 604
235 605     #endif /* _WIN32 */
236 606
237 607             std::sort(files.begin(), files.end());
238 608             BOOST_FOREACH(const String& cpath, files) {
239 609                     callback(cpath);
240 610             }
241 611
242 612             std::sort(dirs.begin(), dirs.end());
243 613             BOOST_FOREACH(const String& cpath, dirs) {
244 (gdb) p files
245 $3 = std::vector of length 11, capacity 16 = {{static NPos = 18446744073709551615, m_Data = "/etc/icinga2/conf.d/agent.conf"}, {static NPos = 18446744073709551615,
246     m_Data = "/etc/icinga2/conf.d/commands.conf"}, {static NPos = 18446744073709551615, m_Data = "/etc/icinga2/conf.d/downtimes.conf"}, {static NPos = 18446744073709551615,
247     m_Data = "/etc/icinga2/conf.d/groups.conf"}, {static NPos = 18446744073709551615, m_Data = "/etc/icinga2/conf.d/notifications.conf"}, {static NPos = 18446744073709551615,
248     m_Data = "/etc/icinga2/conf.d/satellite.conf"}, {static NPos = 18446744073709551615, m_Data = "/etc/icinga2/conf.d/services.conf"}, {static NPos = 18446744073709551615,
249     m_Data = "/etc/icinga2/conf.d/templates.conf"}, {static NPos = 18446744073709551615, m_Data = "/etc/icinga2/conf.d/test.conf"}, {static NPos = 18446744073709551615,
250     m_Data = "/etc/icinga2/conf.d/timeperiods.conf"}, {static NPos = 18446744073709551615, m_Data = "/etc/icinga2/conf.d/users.conf"}}
251 ```
252
253
254 ### Core Dump <a id="development-debug-core-dump"></a>
255
256 When the Icinga 2 daemon crashes with a `SIGSEGV` signal
257 a core dump file should be written. This will help
258 developers to analyze and fix the problem.
259
260 #### Core Dump File Size Limit <a id="development-debug-core-dump-limit"></a>
261
262 This requires setting the core dump file size to `unlimited`.
263
264
265 ##### Systemd
266
267 ```
268 systemctl edit icinga2.service
269
270 [Service]
271 ...
272 LimitCORE=infinity
273
274 systemctl daemon-reload
275
276 systemctl restart icinga2
277 ```
278
279 ##### Init Script
280
281 ```
282 vim /etc/init.d/icinga2
283 ...
284 ulimit -c unlimited
285
286 service icinga2 restart
287 ```
288
289 ##### Verify
290
291 Verify that the Icinga 2 process core file size limit is set to `unlimited`.
292
293 ```
294 for pid in $(pidof icinga2); do cat /proc/$pid/limits; done
295
296 ...
297 Max core file size        unlimited            unlimited            bytes
298 ```
299
300
301 #### Core Dump Kernel Format <a id="development-debug-core-dump-format"></a>
302
303 The Icinga 2 daemon runs with the SUID bit set. Therefore you need
304 to explicitly enable core dumps for SUID on Linux.
305
306 ```
307 sysctl -w fs.suid_dumpable=2
308 ```
309
310 Adjust the coredump kernel format and file location on Linux:
311
312 ```
313 sysctl -w kernel.core_pattern=/var/lib/cores/core.%e.%p
314
315 install -m 1777 -d /var/lib/cores
316 ```
317
318 MacOS:
319
320 ```
321 sysctl -w kern.corefile=/cores/core.%P
322
323 chmod 777 /cores
324 ```
325
326 #### Core Dump Analysis <a id="development-debug-core-dump-analysis"></a>
327
328 Once Icinga 2 crashes again a new coredump file will be written. Please
329 attach this file to your bug report in addition to the general details.
330
331 Simple test case for a `SIGSEGV` simulation with `sleep`:
332
333 ```
334 ulimit -c unlimited
335 sleep 1800&
336 [1] <PID>
337 kill -SEGV <PID>
338 gdb `which sleep` /var/lib/cores/core.sleep.<PID>
339 (gdb) bt
340 rm /var/lib/cores/core.sleep.*
341 ```
342
343 Analyzing Icinga 2:
344
345 ```
346 gdb /usr/lib64/icinga2/sbin/icinga2 core.icinga2.<PID>
347 (gdb) bt
348 ```
349
350 ### LLDB as Debugger <a id="development-debug-lldb"></a>
351
352 LLDB is available on macOS with the Xcode command line tools.
353
354 ```
355 $ xcode-select --install
356 ```
357
358 In order to run Icinga 2 with LLDB you need to pass the binary as argument.
359
360 ```
361 lldb -- /usr/local/icinga2/lib/icinga2/sbin/icinga2 daemon
362 ```
363
364 Breakpoint:
365
366 ```
367 > b checkable.cpp:57
368 > b icinga::Checkable::ProcessCheckResult
369 ```
370
371 Full backtrace:
372
373 ```
374 > bt all
375 ```
376
377 Select thread:
378
379 ```
380 > thr sel 5
381 ```
382
383 Step into:
384
385 ```
386 > s
387 ```
388
389 Next step:
390
391 ```
392 > n
393 ```
394
395 Continue:
396
397 ```
398 > c
399 ```
400
401 Up/down in stacktrace:
402
403 ```
404 > up
405 > down
406 ```
407
408 ## Test Icinga 2 <a id="development-tests"></a>
409
410 ### Snapshot Packages (Nightly Builds) <a id="development-tests-snapshot-packages"></a>
411
412 Icinga provides snapshot packages as nightly builds from [Git master](https://github.com/icinga/icinga2).
413
414 These packages contain development code which should be considered "work in progress".
415 While developers ensure that tests are running fine with CI actions on PRs,
416 things might break, or changes are not yet documented in the changelog.
417
418 You can help the developers and test the snapshot packages, e.g. when larger
419 changes or rewrites are taking place for a new major version. Your feedback
420 is very much appreciated.
421
422 Snapshot packages are available for all supported platforms including
423 Linux and Windows and can be obtained from [https://packages.icinga.com](https://packages.icinga.com).
424
425 The [Vagrant boxes](https://github.com/Icinga/icinga-vagrant) also use
426 the Icinga snapshot packages to allow easier integration tests. It is also
427 possible to use Docker with base OS images and installing the snapshot
428 packages.
429
430 If you encounter a problem, please [open a new issue](https://github.com/Icinga/icinga2/issues/new/choose)
431 on GitHub and mention that you're testing the snapshot packages.
432
433 #### RHEL/CentOS <a id="development-tests-snapshot-packages-rhel"></a>
434
435 2.11+ requires the [EPEL repository](02-installation.md#package-repositories-rhel-epel) for Boost 1.66+.
436
437 In addition to that, the `icinga-rpm-release` package already provides the `icinga-snapshot-builds`
438 repository but it is disabled by default.
439
440 ```
441 yum -y install https://packages.icinga.com/epel/icinga-rpm-release-7-latest.noarch.rpm
442 yum -y install epel-release
443 yum makecache
444
445 yum install --enablerepo=icinga-snapshot-builds icinga2
446 ```
447
448 #### Debian <a id="development-tests-snapshot-packages-debian"></a>
449
450 2.11+ requires Boost 1.66+ which either is provided by the OS, backports or Icinga stable repositories.
451 It is advised to configure both Icinga repositories, stable and snapshot and selectively
452 choose the repository with the `-t` flag on `apt-get install`.
453
454 ```
455 apt-get update
456 apt-get -y install apt-transport-https wget gnupg
457
458 wget -O - https://packages.icinga.com/icinga.key | apt-key add -
459
460 DIST=$(awk -F"[)(]+" '/VERSION=/ {print $2}' /etc/os-release); \
461  echo "deb https://packages.icinga.com/debian icinga-${DIST} main" > \
462  /etc/apt/sources.list.d/${DIST}-icinga.list
463  echo "deb-src https://packages.icinga.com/debian icinga-${DIST} main" >> \
464  /etc/apt/sources.list.d/${DIST}-icinga.list
465
466 DIST=$(awk -F"[)(]+" '/VERSION=/ {print $2}' /etc/os-release); \
467  echo "deb http://packages.icinga.com/debian icinga-${DIST}-snapshots main" > \
468  /etc/apt/sources.list.d/${DIST}-icinga-snapshots.list
469  echo "deb-src http://packages.icinga.com/debian icinga-${DIST}-snapshots main" >> \
470  /etc/apt/sources.list.d/${DIST}-icinga-snapshots.list
471
472 apt-get update
473 ```
474
475 On Debian Stretch, you'll also need to add Debian Backports.
476
477 ```
478 DIST=$(awk -F"[)(]+" '/VERSION=/ {print $2}' /etc/os-release); \
479  echo "deb https://deb.debian.org/debian ${DIST}-backports main" > \
480  /etc/apt/sources.list.d/${DIST}-backports.list
481
482 apt-get update
483 ```
484
485 Then install the snapshot packages.
486
487 ```
488 DIST=$(awk -F"[)(]+" '/VERSION=/ {print $2}' /etc/os-release); \
489 apt-get install -t icinga-${DIST}-snapshots icinga2
490 ```
491
492 #### Ubuntu <a id="development-tests-snapshot-packages-ubuntu"></a>
493
494 ```
495 apt-get update
496 apt-get -y install apt-transport-https wget gnupg
497
498 wget -O - https://packages.icinga.com/icinga.key | apt-key add -
499
500 . /etc/os-release; if [ ! -z ${UBUNTU_CODENAME+x} ]; then DIST="${UBUNTU_CODENAME}"; else DIST="$(lsb_release -c| awk '{print $2}')"; fi; \
501  echo "deb https://packages.icinga.com/ubuntu icinga-${DIST} main" > \
502  /etc/apt/sources.list.d/${DIST}-icinga.list
503  echo "deb-src https://packages.icinga.com/ubuntu icinga-${DIST} main" >> \
504  /etc/apt/sources.list.d/${DIST}-icinga.list
505
506 . /etc/os-release; if [ ! -z ${UBUNTU_CODENAME+x} ]; then DIST="${UBUNTU_CODENAME}"; else DIST="$(lsb_release -c| awk '{print $2}')"; fi; \
507  echo "deb https://packages.icinga.com/ubuntu icinga-${DIST}-snapshots main" > \
508  /etc/apt/sources.list.d/${DIST}-icinga-snapshots.list
509  echo "deb-src https://packages.icinga.com/ubuntu icinga-${DIST}-snapshots main" >> \
510  /etc/apt/sources.list.d/${DIST}-icinga-snapshots.list
511
512 apt-get update
513 ```
514
515 Then install the snapshot packages.
516
517 ```
518 . /etc/os-release; if [ ! -z ${UBUNTU_CODENAME+x} ]; then DIST="${UBUNTU_CODENAME}"; else DIST="$(lsb_release -c| awk '{print $2}')"; fi; \
519 apt-get install -t icinga-${DIST}-snapshots icinga2
520 ```
521
522 #### SLES <a id="development-tests-snapshot-packages-sles"></a>
523
524 The required Boost packages are provided with the stable release repository.
525
526 ```
527 rpm --import https://packages.icinga.com/icinga.key
528
529 zypper ar https://packages.icinga.com/SUSE/ICINGA-release.repo
530 zypper ref
531
532 zypper ar https://packages.icinga.com/SUSE/ICINGA-snapshot.repo
533 zypper ref
534 ```
535
536 Selectively install the snapshot packages using the `-r` parameter.
537
538 ```
539 zypper in -r icinga-snapshot-builds icinga2
540 ```
541
542
543 ### Unit Tests <a id="development-tests-unit"></a>
544
545 Build the binaries and run the tests.
546
547
548 ```
549 make -j4 -C debug
550 make test -C debug
551 ```
552
553 Run a specific boost test:
554
555 ```
556 debug/Bin/Debug/boosttest-test-base --run_test=remote_url
557 ```
558
559
560
561 ## Develop Icinga 2 <a id="development-develop"></a>
562
563 Icinga 2 can be built on many platforms such as Linux, Unix and Windows.
564 There are limitations in terms of support, e.g. Windows is only supported for agents,
565 not a full-featured master or satellite.
566
567 Before you start with actual development, there is a couple of pre-requisites.
568
569 ### Preparations <a id="development-develop-prepare"></a>
570
571 #### Choose your Editor <a id="development-develop-choose-editor"></a>
572
573 Icinga 2 can be developed with your favorite editor. Icinga developers prefer
574 these tools:
575
576 - vim
577 - CLion (macOS, Linux)
578 - MS Visual Studio (Windows)
579 - Atom
580
581 Editors differ on the functionality. The more helpers you get for C++ development,
582 the faster your development workflow will be.
583
584 #### Get to know the architecture <a id="development-develop-get-to-know-the-architecture"></a>
585
586 Icinga 2 can run standalone or in distributed environments. It contains a whole lot
587 more than a simple check execution engine.
588
589 Read more about it in the [Technical Concepts](19-technical-concepts.md#technical-concepts) chapter.
590
591 #### Get to know the code <a id="development-develop-get-to-know-the-code"></a>
592
593 First off, you really need to know C++ and portions of C++11 and the boost libraries.
594 Best is to start with a book or online tutorial to get into the basics.
595 Icinga developers gained their knowledge through studies, training and self-teaching
596 code by trying it out and asking senior developers for guidance.
597
598 Here's a few books we can recommend:
599
600 * [Accelerated C++: Practical Programming by Example](https://www.amazon.com/Accelerated-C-Practical-Programming-Example/dp/020170353X) (Andrew Koenig, Barbara E. Moo)
601 * [Effective C++](https://www.amazon.com/Effective-Specific-Improve-Programs-Designs/dp/0321334876) (Scott Meyers)
602 * [Boost C++ Application Development Cookbook - Second Edition: Recipes to simplify your application development](https://www.amazon.com/dp/1787282244/ref=cm_sw_em_r_mt_dp_U_dN1OCbERS00EQ) (Antony Polukhin)
603 * [Der C++ Programmierer](https://www.amazon.de/Programmierer-lernen-Professionell-anwenden-L%C3%B6sungen/dp/3446416447), German (Ulrich Breymann)
604 * [C++11 programmieren](https://www.amazon.de/gp/product/3836217325/), German (Torsten T. Will)
605
606 In addition, it is a good bet to also know SQL when diving into backend development.
607
608 * [SQL Performance Explained](https://www.amazon.de/gp/product/3950307826/) (Markus Winand)
609
610 Last but not least, if you are developing on Windows, get to know the internals about services and the Win32 API.
611
612 ### Design Patterns <a id="development-develop-design-patterns"></a>
613
614 Icinga 2 heavily relies on object-oriented programming and encapsulates common
615 functionality into classes and objects. It also uses modern programming techniques
616 to e.g. work with shared pointer memory management.
617
618 Icinga 2 consists of libraries bundled into the main binary. Therefore you'll
619 find many code parts in the `lib/` directory wheras the actual application is
620 built from `icinga-app/`. Accompanied with Icinga 2, there's the Windows plugins
621 which are standalone and compiled from `plugins/`.
622
623 Library        | Description
624 ---------------|------------------------------------
625 base           | Objects, values, types, streams, tockets, TLS, utilities, etc.
626 config         | Configuration compiler, expressions, etc.
627 cli            | CLI (sub) commands and helpers.
628 icinga         | Icinga specific objects and event handling.
629 remote         | Cluster and HTTP client/server and REST API related code.
630 checker        | Checker feature, check scheduler.
631 notification   | Notification feature, notification scheduler.
632 methods        | Command execution methods, plugins and built-in checks.
633 perfdata       | Performance data related, including Graphite, Elastic, etc.
634 db\_ido        | IDO database abstraction layer.
635 db\_ido\_mysql | IDO database driver for MySQL.
636 db\_ido\_pgsql | IDO database driver for PgSQL.
637 mysql\_shin    | Library stub for linking against the MySQL client libraries.
638 pgsql\_shim    | Library stub for linking against the PgSQL client libraries.
639
640 #### Class Compiler <a id="development-develop-design-patterns-class-compiler"></a>
641
642 Another thing you will recognize are the `.ti` files which are compiled
643 by our own class compiler into actual source code. The meta language allows
644 developers to easily add object attributes and specify their behaviour.
645
646 Some object attributes need to be stored over restarts in the state file
647 and therefore have the `state` attribute set. Others are treated as `config`
648 attribute and automatically get configuration validation functions created.
649 Hidden or read-only REST API attributes are marked with `no_user_view` and
650 `no_user_modify`.
651
652 The most beneficial thing are getters and setters being generated. The actual object
653 inherits from `ObjectImpl<TYPE>` and therefore gets them "for free".
654
655 Example:
656
657 ```
658 vim lib/perfdata/gelfwriter.ti
659
660   [config] enable_tls;
661
662 vim lib/perfdata/gelfwriter.cpp
663
664     if (GetEnableTls()) {
665 ```
666
667 The logic is hidden in `tools/mkclass/` in case you want to learn more about it.
668 The first steps during CMake & make also tell you about code generation.
669
670 ### Build Tools <a id="development-develop-builds-tools"></a>
671
672 #### CMake <a id="development-develop-builds-cmake"></a>
673
674 In its early development stages in 2012, Icinga 2 was built with autoconf/automake
675 and separate Windows project files. We've found this very fragile, and have changed
676 this into CMake as our build tool.
677
678 The most common benefits:
679
680 * Everything is described in CMakeLists.txt in each directory
681 * CMake only needs to know that a sub directory needs to be included.
682 * The global CMakeLists.txt acts as main entry point for requirement checks and library/header includes.
683 * Separate binary build directories, the actual source tree stays clean.
684 * CMake automatically generates a Visual Studio project file `icinga2.sln` on Windows.
685
686 #### Unity Builds <a id="development-develop-builds-unity-builds"></a>
687
688 Another thing you should be aware of: Unity builds on and off.
689
690 Typically, we already use caching mechanisms to reduce recompile time with ccache.
691 For release builds, there's always a new build needed as the difference is huge compared
692 to a previous (major) release.
693
694 Therefore we've invented the Unity builds, which basically concatenates all source files
695 into one big library source code file. The compiler then doesn't need to load the many small
696 files but compiles and links this huge one.
697
698 Unity builds require more memory which is why you should disable them for development
699 builds in small sized VMs (Linux, Windows) and also Docker containers.
700
701 There's a couple of header files which are included everywhere. If you touch/edit them,
702 the cache is invalidated and you need to recompile a lot more files then. `base/utility.hpp`
703 and `remote/zone.hpp` are good candidates for this.
704
705 ### Unit Tests <a id="development-develop-tests"></a>
706
707 New functions and classes must implement new unit tests. Whenever
708 you decide to add new functions, ensure that you don't need a complex
709 mock or runtime attributes in order to test them. Better isolate
710 code into function interfaces which can be invoked in the Boost tests
711 framework.
712
713 Look into the existing tests in the [test/](https://github.com/Icinga/icinga2/tree/master/test) directory
714 and adopt new test cases.
715
716 Specific tests require special time windows, they are only
717 enabled in debug builds for developers. This is the case e.g.
718 for testing the flapping algorithm with expected state change
719 detection at a specific point from now.
720
721
722 ### Style Guide <a id="development-develop-styleguide"></a>
723
724 Overview of project files:
725
726 File Type      | File Name/Extension | Description
727 ---------------|---------------------|-----------------------------
728 Header         | .hpp                | Classes, enums, typedefs inside the icinga Namespace.
729 Source         | .cpp                | Method implementation for class functions, static/global variables.
730 CMake          | CMakeLists.txt      | Build configuration, source and header file references.
731 CMake Source   | .cmake              | Source/Header files generated from CMake placeholders.
732 ITL/conf.d     | .conf               | Template library and example files as configuration
733 Class Compiler | .ti                 | Object classes in our own language, generates source code as `<filename>-ti.{c,h}pp`.
734 Lexer/Parser   | .ll, .yy            | Flex/Bison code generated into source code from CMake builds.
735 Docs           | .md                 | Markdown docs and READMEs.
736
737 Anything else are additional tools and scripts for developers and build systems.
738
739 All files must include the copyright header. We don't use the
740 current year as this implies yearly updates we don't want.
741
742 Depending on the file type, this must be a comment.
743
744 ```
745 /* Icinga 2 | (c) 2012 Icinga GmbH | GPLv2+ */
746
747 # Icinga 2 | (c) 2012 Icinga GmbH | GPLv2+
748 ```
749
750 #### Code Formatting <a id="development-develop-code-formatting"></a>
751
752 We follow the clang format, with some exceptions.
753
754 - Curly braces for functions and classes always start at a new line.
755
756 ```
757 String ConfigObjectUtility::EscapeName(const String& name)
758 {
759 //...
760 }
761
762 String ConfigObjectUtility::CreateObjectConfig(const Type::Ptr& type, const String& fullName,
763         bool ignoreOnError, const Array::Ptr& templates, const Dictionary::Ptr& attrs)
764 {
765 //...
766 }
767 ```
768
769 - Too long lines break at a parameter, the new line needs a tab indent.
770
771 ```
772         static String CreateObjectConfig(const Type::Ptr& type, const String& fullName,
773                 bool ignoreOnError, const Array::Ptr& templates, const Dictionary::Ptr& attrs);
774 ```
775
776 - Conditions require curly braces if it is not a single if with just one line.
777
778
779 ```
780         if (s == "OK") {
781                 //...
782         } else {
783                 //...
784         }
785
786         if (!n)
787                 return;
788 ```
789
790 - There's a space between `if` and the opening brace `(`. Also after the closing brace `)` and opening curly brace `{`.
791 - Negation with `!` doesn't need an extra space.
792 - Else branches always start in the same line after the closing curly brace.
793
794
795 #### Code Comments <a id="development-develop-code-comments"></a>
796
797 Add comments wherever you think that another developer will have a hard
798 time to understand the complex algorithm. Or you might have forgotten
799 it in a year and struggle again. Also use comments to highlight specific
800 stages in a function. Generally speaking, make things easier for the
801 team and external contributors.
802
803 Comments can also be used to mark additional references and TODOs.
804 If there is a specific GitHub issue or discussion going on,
805 use that information as a summary and link over to it on purpose.
806
807 - Single line comments may use `//` or `/* ... */`
808 - Multi line comments must use this format:
809
810 ```
811 /* Ensure to check for XY
812  * This relies on the fact that ABC has been set before.
813  */
814 ```
815
816 #### Function Docs <a id="development-develop-function-docs"></a>
817
818 Function header documentation must be added. The current code basis
819 needs rework, future functions must provide this.
820
821 Editors like CLion or Visual Studio allow you to type `/**` followed
822 by Enter and generate the skeleton from the implemented function.
823
824 Add a short summary in the first line about the function's purpose.
825 Edit the param section with short description on their intention.
826 The `return` value should describe the value type and additional details.
827
828 Example:
829
830 ```
831 /**
832  * Reads a message from the connected peer.
833  *
834  * @param stream ASIO TLS Stream
835  * @param yc Yield Context for ASIO
836  * @param maxMessageLength maximum size of bytes read.
837  *
838  * @return A JSON string
839  */
840 String JsonRpc::ReadMessage(const std::shared_ptr<AsioTlsStream>& stream, boost::asio::yield_context yc, ssize_t maxMessageLength)
841 ```
842
843 While we can generate code docs from it, the main idea behind it is
844 to provide on-point docs to fully understand all parameters and the
845 function's purpose in the same spot.
846
847
848 #### Header <a id="development-develop-styleguide-header"></a>
849
850 Only include other headers which are mandatory for the header definitions.
851 If the source file requires additional headers, add them there to avoid
852 include loops.
853
854 The included header order is important.
855
856 - First, include the library header `i2-<libraryname>.hpp`, e.g. `i2-base.hpp`.
857 - Second, include all headers from Icinga itself, e.g. `remote/apilistener.hpp`. `base` before `icinga` before `remote`, etc.
858 - Third, include third-party and external library headers, e.g. openssl and boost.
859 - Fourth, include STL headers.
860
861 #### Source <a id="development-develop-styleguide-source"></a>
862
863 The included header order is important.
864
865 - First, include the header whose methods are implemented.
866 - Second, include all headers from Icinga itself, e.g. `remote/apilistener.hpp`. `base` before `icinga` before `remote`, etc.
867 - Third, include third-party and external library headers, e.g. openssl and boost.
868 - Fourth, include STL headers.
869
870 Always use an empty line after the header include parts.
871
872 #### Namespace <a id="development-develop-styleguide-namespace"></a>
873
874 The icinga namespace is used globally, as otherwise we would need to write `icinga::Utility::FormatDateTime()`.
875
876 ```
877 using namespace icinga;
878 ```
879
880 Other namespaces must be declared in the scope they are used. Typically
881 this is inside the function where `boost::asio` and variants would
882 complicate the code.
883
884 ```
885         namespace ssl = boost::asio::ssl;
886
887         auto context (std::make_shared<ssl::context>(ssl::context::sslv23));
888 ```
889
890 #### Functions <a id="development-develop-styleguide-functions"></a>
891
892 Ensure to pass values and pointers as const reference. By default, all
893 values will be copied into the function scope, and we want to avoid this
894 wherever possible.
895
896 ```
897 std::vector<EventQueue::Ptr> EventQueue::GetQueuesForType(const String& type)
898 ```
899
900 C++ only allows to return a single value. This can be abstracted with
901 returning a specific class object, or with using a map/set. Array and
902 Dictionary objects increase the memory footprint, use them only where needed.
903
904 A common use case for Icinga value types is where a function can return
905 different values - an object, an array, a boolean, etc. This happens in the
906 inner parts of the config compiler expressions, or config validation.
907
908 The function caller is responsible to determine the correct value type
909 and handle possible errors.
910
911 Specific algorithms may require to populate a list, which can be passed
912 by reference to the function. The inner function can then append values.
913 Do not use a global shared resource here, unless this is locked by the caller.
914
915
916 #### Conditions and Cases <a id="development-develop-styleguide-conditions"></a>
917
918 Prefer if-else-if-else branches. When integers are involved,
919 switch-case statements increase readability. Don't forget about `break` though!
920
921 Avoid using ternary operators where possible. Putting a condition
922 after an assignment complicates reading the source. The compiler
923 optimizes this anyways.
924
925 Wrong:
926
927 ```
928         int res = s == "OK" ? 0 : s == "WARNING" ? 1;
929
930         return res;
931 ```
932
933 Better:
934
935 ```
936         int res = 3;
937
938         if (s == "OK") {
939                 res = 0;
940         } else if (s == "WARNING") {
941                 res = 1;
942         }
943 ```
944
945 Even better: Create a lookup map instead of if branches. The complexity
946 is reduced to O(log(n)).
947
948 ```
949         std::map<String, unsigned int> stateMap = {
950                 { "OK", 1 },
951                 { "WARNING", 2 }
952         }
953
954         auto it = stateMap.find(s);
955
956         if (it == stateMap.end()) {
957                 return 3
958         }
959
960         return it.second;
961 ```
962
963 The code is not as short as with a ternary operator, but one can re-use
964 this design pattern for other generic definitions with e.g. moving the
965 lookup into a utility class.
966
967 Once a unit test is written, everything works as expected in the future.
968
969 #### Locks and Guards <a id="development-develop-locks-guards"></a>
970
971 Lock access to resources where multiple threads can read and write.
972 Icinga objects can be locked with the `ObjectLock` class.
973
974 Object locks and guards must be limited to the scope where they are needed. Otherwise we could create dead locks.
975
976 ```
977         {
978                 ObjectLock olock(frame.Locals);
979                 for (const Dictionary::Pair& kv : frame.Locals) {
980                         AddSuggestion(matches, word, kv.first);
981                 }
982         }
983 ```
984
985 #### Objects and Pointers <a id="development-develop-objects-pointers"></a>
986
987 Use shared pointers for objects. Icinga objects implement the `Ptr`
988 typedef returning an `intrusive_ptr` for the class object (object.hpp).
989 This also ensures reference counting for the object's lifetime.
990
991 Use raw pointers with care!
992
993 Some methods and classes require specific shared pointers, especially
994 when interacting with the Boost library.
995
996 #### Value Types <a id="development-develop-styleguide-value-types"></a>
997
998 Icinga has its own value types. These provide methods to allow
999 generic serialization into JSON for example, and other type methods
1000 which are made available in the DSL too.
1001
1002 - Always use `String` instead of `std::string`. If you need a C-string, use the `CStr()` method.
1003 - Avoid casts and rather use the `Convert` class methods.
1004
1005 ```
1006         double s = static_cast<double>(v); //Wrong
1007
1008         double s = Convert::ToDouble(v);   //Correct, ToDouble also provides overloads with different value types
1009 ```
1010
1011 - Prefer STL containers for internal non-user interfaces. Icinga value types add a small overhead which may decrease performance if e.g. the function is called 100k times.
1012 - `Array::FromVector` and variants implement conversions, use them.
1013
1014 #### Utilities <a id="development-develop-styleguide-utilities"></a>
1015
1016 Don't re-invent the wheel. The `Utility` class provides
1017 many helper functions which allow you e.g. to format unix timestamps,
1018 search in filesystem paths.
1019
1020 Also inspect the Icinga objects, they also provide helper functions
1021 for formatting, splitting strings, joining arrays into strings, etc.
1022
1023 #### Libraries <a id="development-develop-styleguide-libraries"></a>
1024
1025 2.11 depends on [Boost 1.66](https://www.boost.org/doc/libs/1_66_0/).
1026 Use the existing libraries and header-only includes
1027 for this specific version.
1028
1029 Note: Prefer C++11 features where possible, e.g. std::atomic and lambda functions.
1030
1031 General:
1032
1033 - [exception](https://www.boost.org/doc/libs/1_66_0/libs/exception/doc/boost-exception.html) (header only)
1034 - [algorithm](https://www.boost.org/doc/libs/1_66_0/libs/algorithm/doc/html/index.html) (header only)
1035 - [lexical_cast](https://www.boost.org/doc/libs/1_66_0/doc/html/boost_lexical_cast.html) (header only)
1036 - [regex](https://www.boost.org/doc/libs/1_66_0/libs/regex/doc/html/index.html)
1037 - [uuid](https://www.boost.org/doc/libs/1_66_0/libs/uuid/doc/uuid.html) (header only)
1038 - [range](https://www.boost.org/doc/libs/1_66_0/libs/range/doc/html/index.html) (header only)
1039 - [variant](https://www.boost.org/doc/libs/1_66_0/doc/html/variant.html) (header only)
1040 - [multi_index](https://www.boost.org/doc/libs/1_66_0/libs/multi_index/doc/index.html) (header only)
1041 - [function_types](https://www.boost.org/doc/libs/1_66_0/libs/function_types/doc/html/index.html) (header only)
1042 - [circular_buffer](https://www.boost.org/doc/libs/1_66_0/doc/html/circular_buffer.html) (header only)
1043 - [math](https://www.boost.org/doc/libs/1_66_0/libs/math/doc/html/index.html) (header only)
1044
1045 Events and Runtime:
1046
1047 - [system](https://www.boost.org/doc/libs/1_66_0/libs/system/doc/index.html)
1048 - [thread](https://www.boost.org/doc/libs/1_66_0/doc/html/thread.html)
1049 - [signals2](https://www.boost.org/doc/libs/1_66_0/doc/html/signals2.html) (header only)
1050 - [program_options](https://www.boost.org/doc/libs/1_66_0/doc/html/program_options.html)
1051 - [date_time](https://www.boost.org/doc/libs/1_66_0/doc/html/date_time.html)
1052 - [filesystem](https://www.boost.org/doc/libs/1_66_0/libs/filesystem/doc/index.htm)
1053
1054 Network I/O:
1055
1056 - [asio](https://www.boost.org/doc/libs/1_66_0/doc/html/boost_asio.html) (header only)
1057 - [beast](https://www.boost.org/doc/libs/1_66_0/libs/beast/doc/html/index.html) (header only)
1058 - [coroutine](https://www.boost.org/doc/libs/1_66_0/libs/coroutine/doc/html/index.html)
1059 - [context](https://www.boost.org/doc/libs/1_66_0/libs/context/doc/html/index.html)
1060
1061 Consider abstracting their usage into `*utility.{c,h}pp` files with
1062 wrapping existing Icinga types. That also allows later changes without
1063 rewriting large code parts.
1064
1065 > **Note**
1066 >
1067 > A new Boost library should be explained in a PR and discussed with the team.
1068 >
1069 > This requires package dependency changes.
1070
1071 If you consider an external library or code to be included with Icinga, the following
1072 requirements must be fulfilled:
1073
1074 - License is compatible with GPLv2+. Boost license, MIT works, Apache is not.
1075 - C++11 is supported, C++14 or later doesn't work
1076 - Header only implementations are preferred, external libraries require packages on every distribution.
1077 - No additional frameworks, Boost is the only allowed.
1078 - The code is proven to be robust and the GitHub repository is alive, or has 1k+ stars. Good libraries also provide a user list, if e.g. Ceph is using it, this is a good candidate.
1079
1080
1081 #### Log <a id="development-develop-styleguide-log"></a>
1082
1083 Icinga allows the user to configure logging backends, e.g. syslog or file.
1084
1085 Any log message inside the code must use the `Log()` function.
1086
1087 - The first parameter is the severity level, use them with care.
1088 - The second parameter defines the location/scope where the log
1089 happened. Typically we use the class name here, to better analyse
1090 the logs the user provide in GitHub issues and on the community
1091 channels.
1092 - The third parameter takes a log message string
1093
1094 If the message string needs to be computed from existing values,
1095 everything must be converted to the String type beforehand.
1096 This conversion for every value is very expensive which is why
1097 we try to avoid it.
1098
1099 Instead, use Log() with the shift operator where everything is written
1100 on the stream and conversions are explicitly done with templates
1101 in the background.
1102
1103 The trick here is that the Log object is destroyed immediately
1104 after being constructed once. The destructor actually
1105 evaluates the values and sends it to registers loggers.
1106
1107 Since flushing the stream every time a log entry occurs is
1108 very expensive, a timer takes care of flushing the stream
1109 every second.
1110
1111 > **Tip**
1112 >
1113 > If logging stopped, the flush timer thread may be dead.
1114 > Inspect that with gdb/lldb.
1115
1116 Avoid log messages which could irritate the user. During
1117 implementation, developers can change log levels to better
1118 see what's going one, but remember to change this back to `debug`
1119 or remove it entirely.
1120
1121
1122 #### Goto <a id="development-develop-styleguide-goto"></a>
1123
1124 Avoid using `goto` statements. There are rare occasions where
1125 they are allowed:
1126
1127 - The code would become overly complicated within nested loops and conditions.
1128 - Event processing and C interfaces.
1129 - Question/Answer loops within interactive CLI commands.
1130
1131 #### Typedef and Auto Keywords <a id="development-develop-styleguide-typedef-auto"></a>
1132
1133 Typedefs allow developers to use shorter names for specific types,
1134 classes and structs.
1135
1136 ```
1137         typedef std::map<String, std::shared_ptr<NamespaceValue> >::iterator Iterator;
1138 ```
1139
1140 These typedefs should be part of the Class definition in the header,
1141 or may be defined in the source scope where they are needed.
1142
1143 Avoid declaring global typedefs, unless necessary.
1144
1145 Using the `auto` keyword allows to ignore a specific value type.
1146 This comes in handy with maps/sets where no specific access
1147 is required.
1148
1149 The following example iterates over a map returned from `GetTypes()`.
1150
1151 ```
1152         for (const auto& kv : GetTypes()) {
1153                 result.insert(kv.second);
1154         }
1155 ```
1156
1157 The long example would require us to define a map iterator, and a slightly
1158 different algorithm.
1159
1160 ```
1161         typedef std::map<String, DbType::Ptr> TypeMap;
1162         typedef std::map<String, DbType::Ptr>::const_iterator TypeMapIterator;
1163
1164         TypeMap types = GetTypes();
1165
1166         for (TypeMapIterator it = types.begin(); it != types.end(); it++) {
1167                 result.insert(it.second);
1168         }
1169 ```
1170
1171 We could also use a pair here, but requiring to know
1172 the specific types of the map keys and values.
1173
1174 ```
1175         typedef std::pair<String, DbType::Ptr> kv_pair;
1176
1177         for (const kv_pair& kv : GetTypes()) {
1178                 result.insert(kv.second);
1179         }
1180 ```
1181
1182 After all, `auto` shortens the code and one does not always need to know
1183 about the specific types. Function documentation for `GetTypes()` is
1184 required though.
1185
1186
1187
1188 #### Whitespace Cleanup <a id="development-develop-choose-editor-whitespaces"></a>
1189
1190 Patches must be cleaned up and follow the indent style (tabs instead of spaces).
1191 You should also remove any trailing whitespaces.
1192
1193 `git diff` allows to highlight such.
1194
1195 ```
1196 vim $HOME/.gitconfig
1197
1198 [color "diff"]
1199         whitespace = red reverse
1200 [core]
1201         whitespace=fix,-indent-with-non-tab,trailing-space,cr-at-eol
1202 ```
1203
1204 `vim` also can match these and visually alert you to remove them.
1205
1206 ```
1207 vim $HOME/.vimrc
1208
1209 highlight ExtraWhitespace ctermbg=red guibg=red
1210 match ExtraWhitespace /\s\+$/
1211 autocmd BufWinEnter * match ExtraWhitespace /\s\+$/
1212 autocmd InsertEnter * match ExtraWhitespace /\s\+\%#\@<!$/
1213 autocmd InsertLeave * match ExtraWhitespace /\s\+$/
1214 autocmd BufWinLeave * call clearmatches()
1215 ```
1216
1217
1218 ## Development Environment <a id="development-environment"></a>
1219
1220 ### Linux Dev Environment <a id="development-linux-dev-env"></a>
1221
1222 Based on CentOS 7, we have an early draft available inside the Icinga Vagrant boxes:
1223 [centos7-dev](https://github.com/Icinga/icinga-vagrant/tree/master/centos7-dev).
1224
1225 If you're compiling Icinga 2 natively without any virtualization layer in between,
1226 this usually is faster. This is also the reason why developers on macOS prefer native builds
1227 over Linux or Windows VMs. Don't forget to test the actual code on Linux later! Socket specific
1228 stuff like `epoll` is not available on Unix kernels.
1229
1230 Depending on your workstation and environment, you may either develop and run locally,
1231 use a container deployment pipeline or put everything in a high end resource remote VM.
1232
1233 Fork https://github.com/Icinga/icinga2 into your own repository, e.g. `https://github.com/dnsmichi/icinga2`.
1234
1235 Create two build directories for different binary builds.
1236
1237 * `debug` contains the debug build binaries. They contain more debug information and run tremendously slower than release builds from packages. Don't use them for benchmarks.
1238 * `release` contains the release build binaries, as you would install them on a live system. This helps comparing specific scenarios for race conditions and more.
1239
1240 ```
1241 mkdir -p release debug
1242 ```
1243
1244 Proceed with the specific distribution examples below.
1245
1246 * [CentOS 7](21-development.md#development-linux-dev-env-centos)
1247 * [Debian 9](21-development.md#development-linux-dev-env-debian)
1248
1249
1250 #### CentOS 7 <a id="development-linux-dev-env-centos"></a>
1251
1252 ```
1253 yum -y install gdb git bash-completion htop rpmdevtools \
1254  ccache cmake make gcc-c++ flex bison \
1255  openssl-devel boost-devel systemd-devel mysql-devel \
1256  postgresql-devel libedit-devel libstdc++-devel
1257
1258 groupadd icinga
1259 groupadd icingacmd
1260 useradd -c "icinga" -s /sbin/nologin -G icingacmd -g icinga icinga
1261
1262 ln -s /bin/ccache /usr/local/bin/gcc
1263 ln -s /bin/ccache /usr/local/bin/g++
1264
1265 git clone https://github.com/icinga/icinga2.git && cd icinga2
1266
1267 mkdir debug release
1268 cd debug
1269 cmake .. -DCMAKE_BUILD_TYPE=Debug -DICINGA2_UNITY_BUILD=OFF -DCMAKE_INSTALL_PREFIX=/usr/local/icinga2 -DICINGA2_PLUGINDIR=/usr/local/sbin
1270 cd ..
1271 make -j2 install -C debug
1272 ```
1273
1274
1275 ```
1276 chown -R icinga:icinga /usr/local/icinga2/var/
1277
1278 /usr/local/icinga2/lib/icinga2/prepare-dirs /usr/local/icinga2/etc/sysconfig/icinga2
1279 /usr/local/icinga2/sbin/icinga2 api setup
1280 vim /usr/local/icinga2/etc/icinga2/conf.d/api-users.conf
1281
1282 gdb --args /usr/local/icinga2/lib/icinga2/sbin/icinga2 daemon
1283 ```
1284
1285 #### Debian 9 <a id="development-linux-dev-env-debian"></a>
1286
1287 ```
1288 apt-get -y install gdb vim git cmake make ccache build-essential libssl-dev libboost-all-dev bison flex default-libmysqlclient-dev libpq-dev libedit-dev monitoring-plugins
1289
1290 ln -s /usr/bin/ccache /usr/local/bin/gcc
1291 ln -s /usr/bin/ccache /usr/local/bin/g++
1292
1293 groupadd icinga
1294 groupadd icingacmd
1295 useradd -c "icinga" -s /sbin/nologin -G icingacmd -g icinga icinga
1296
1297 git clone https://github.com/icinga/icinga2.git && cd icinga2
1298
1299 mkdir debug release
1300 cd debug
1301 cmake .. -DCMAKE_BUILD_TYPE=Debug -DICINGA2_UNITY_BUILD=OFF -DCMAKE_INSTALL_PREFIX=/usr/local/icinga2 -DICINGA2_PLUGINDIR=/usr/local/sbin
1302 cd ..
1303 make -j2 install -C debug
1304 ```
1305
1306
1307 ```
1308 chown -R icinga:icinga /usr/local/icinga2/var/
1309
1310 /usr/local/icinga2/lib/icinga2/prepare-dirs /usr/local/icinga2/etc/sysconfig/icinga2
1311 /usr/local/icinga2/sbin/icinga2 api setup
1312 vim /usr/local/icinga2/etc/icinga2/conf.d/api-users.conf
1313
1314 gdb --args /usr/local/icinga2/lib/icinga2/sbin/icinga2 daemon
1315 ```
1316
1317
1318 #### Ubuntu 18 Bionic <a id="development-linux-dev-env-ubuntu"></a>
1319
1320 Requires Boost packages from packages.icinga.com.
1321
1322 ```
1323 $ docker run -ti ubuntu:bionic bash
1324
1325 apt-get update
1326 apt-get -y install apt-transport-https wget gnupg
1327
1328 wget -O - https://packages.icinga.com/icinga.key | apt-key add -
1329
1330 . /etc/os-release; if [ ! -z ${UBUNTU_CODENAME+x} ]; then DIST="${UBUNTU_CODENAME}"; else DIST="$(lsb_release -c| awk '{print $2}')"; fi; \
1331  echo "deb https://packages.icinga.com/ubuntu icinga-${DIST} main" > \
1332  /etc/apt/sources.list.d/${DIST}-icinga.list
1333  echo "deb-src https://packages.icinga.com/ubuntu icinga-${DIST} main" >> \
1334  /etc/apt/sources.list.d/${DIST}-icinga.list
1335
1336 apt-get update
1337 ```
1338
1339 ```
1340 apt-get -y install gdb vim git cmake make ccache build-essential libssl-dev bison flex default-libmysqlclient-dev libpq-dev libedit-dev monitoring-plugins
1341
1342 apt-get install -y libboost1.67-icinga-all-dev
1343
1344 ln -s /usr/bin/ccache /usr/local/bin/gcc
1345 ln -s /usr/bin/ccache /usr/local/bin/g++
1346
1347 groupadd icinga
1348 groupadd icingacmd
1349 useradd -c "icinga" -s /sbin/nologin -G icingacmd -g icinga icinga
1350
1351 git clone https://github.com/icinga/icinga2.git && cd icinga2
1352
1353 mkdir debug release
1354
1355 export I2_DEB="-DBoost_NO_BOOST_CMAKE=TRUE -DBoost_NO_SYSTEM_PATHS=TRUE -DBOOST_LIBRARYDIR=/usr/lib/x86_64-linux-gnu/icinga-boost -DBOOST_INCLUDEDIR=/usr/include/icinga-boost -DCMAKE_INSTALL_RPATH=/usr/lib/x86_64-linux-gnu/icinga-boost"
1356 export I2_GENERIC="-DCMAKE_INSTALL_PREFIX=/usr/local/icinga2 -DICINGA2_PLUGINDIR=/usr/local/sbin"
1357 export I2_DEBUG="$I2_DEB $I2_GENERIC -DCMAKE_BUILD_TYPE=Debug -DICINGA2_UNITY_BUILD=OFF"
1358
1359 cd debug
1360 cmake .. $I2_DEBUG
1361 cd ..
1362 ```
1363
1364 ```
1365 make -j2 install -C debug
1366 ```
1367
1368
1369 ```
1370 chown -R icinga:icinga /usr/local/icinga2/var/
1371
1372 /usr/local/icinga2/lib/icinga2/prepare-dirs /usr/local/icinga2/etc/sysconfig/icinga2
1373 /usr/local/icinga2/sbin/icinga2 api setup
1374 vim /usr/local/icinga2/etc/icinga2/conf.d/api-users.conf
1375
1376 gdb --args /usr/local/icinga2/lib/icinga2/sbin/icinga2 daemon
1377 ```
1378
1379 ### macOS Dev Environment <a id="development-macos-dev-env"></a>
1380
1381 It is advised to use Homebrew to install required build dependencies.
1382 Macports have been reported to work as well, typically you'll get more help
1383 with Homebrew from Icinga developers.
1384
1385 The idea is to run Icinga with the current user, avoiding root permissions.
1386 This requires at least v2.11.
1387
1388 > **Note**
1389 >
1390 > This is a pure development setup for Icinga developers reducing the compile
1391 > time in contrast to VMs. There are no packages, startup scripts or dependency management involved.
1392 >
1393 > **macOS agents are not officially supported.**
1394 >
1395 > macOS uses its own TLS implementation, Icinga relies on extra OpenSSL packages
1396 > requiring updates apart from vendor security updates.
1397
1398 #### Requirements
1399
1400 OpenSSL 1.0.x doesn't build anymore, so we're explicitly using 1.1.x here.
1401
1402 ```
1403 brew install ccache boost cmake bison flex openssl@1.1 mysql-connector-c++ postgresql libpq
1404 ```
1405
1406 ##### ccache
1407
1408 ```
1409 sudo mkdir /opt/ccache
1410
1411 sudo ln -s `which ccache` /opt/ccache/clang
1412 sudo ln -s `which ccache` /opt/ccache/clang++
1413
1414 vim $HOME/.bash_profile
1415
1416 # ccache is managed with symlinks to avoid collision with cgo
1417 export PATH="/opt/ccache:$PATH"
1418
1419 source $HOME/.bash_profile
1420 ```
1421
1422 #### Builds
1423
1424 Icinga is built as release (optimized build for packages) and debug (more symbols and details for debugging). Debug builds
1425 typically run slower than release builds and must not be used for performance benchmarks.
1426
1427 The preferred installation prefix is `/usr/local/icinga/icinga2`. This allows to put e.g. Icinga Web 2 into the `/usr/local/icinga` directory as well.
1428
1429 ```
1430 mkdir -p release debug
1431
1432 export I2_USER=$(id -u -n)
1433 export I2_GROUP=$(id -g -n)
1434 export I2_GENERIC="-DCMAKE_INSTALL_PREFIX=/usr/local/icinga/icinga2 -DICINGA2_USER=$I2_USER -DICINGA2_GROUP=$I2_GROUP -DOPENSSL_INCLUDE_DIR=/usr/local/opt/openssl@1.1/include -DOPENSSL_SSL_LIBRARY=/usr/local/opt/openssl@1.1/lib/libssl.dylib -DOPENSSL_CRYPTO_LIBRARY=/usr/local/opt/openssl@1.1/lib/libcrypto.dylib -DICINGA2_PLUGINDIR=/usr/local/sbin -DICINGA2_WITH_PGSQL=OFF -DCMAKE_EXPORT_COMPILE_COMMANDS=ON"
1435 export I2_DEBUG="-DCMAKE_BUILD_TYPE=Debug -DICINGA2_UNITY_BUILD=OFF $I2_GENERIC"
1436 export I2_RELEASE="-DCMAKE_BUILD_TYPE=RelWithDebInfo -DICINGA2_WITH_TESTS=ON -DICINGA2_UNITY_BUILD=ON $I2_GENERIC"
1437
1438 cd debug
1439 cmake $I2_DEBUG ..
1440 cd ..
1441
1442 make -j4 -C debug
1443 make -j4 install -C debug
1444 ```
1445
1446 In order to run Icinga without any path prefix, and also use Bash completion it is advised to source additional
1447 things into the local dev environment.
1448
1449 ```
1450 export PATH=/usr/local/icinga/icinga2/sbin/:$PATH
1451
1452 test -f /usr/local/icinga/icinga2/etc/bash_completion.d/icinga2 && source /usr/local/icinga/icinga2/etc/bash_completion.d/icinga2
1453 ```
1454
1455 ##### Build Aliases
1456
1457 This is derived from [dnsmichi's flavour](https://github.com/dnsmichi/dotfiles) and not generally best practice.
1458
1459 ```
1460 vim $HOME/.bash_profile
1461
1462 export I2_USER=$(id -u -n)
1463 export I2_GROUP=$(id -g -n)
1464 export I2_GENERIC="-DCMAKE_INSTALL_PREFIX=/usr/local/icinga/icinga2 -DICINGA2_USER=$I2_USER -DICINGA2_GROUP=$I2_GROUP -DOPENSSL_INCLUDE_DIR=/usr/local/opt/openssl@1.1/include -DOPENSSL_SSL_LIBRARY=/usr/local/opt/openssl@1.1/lib/libssl.dylib -DOPENSSL_CRYPTO_LIBRARY=/usr/local/opt/openssl@1.1/lib/libcrypto.dylib -DICINGA2_PLUGINDIR=/usr/local/sbin -DICINGA2_WITH_PGSQL=OFF -DCMAKE_EXPORT_COMPILE_COMMANDS=ON"
1465
1466 export I2_DEBUG="-DCMAKE_BUILD_TYPE=Debug -DICINGA2_UNITY_BUILD=OFF $I2_GENERIC"
1467 export I2_RELEASE="-DCMAKE_BUILD_TYPE=RelWithDebInfo -DICINGA2_WITH_TESTS=ON -DICINGA2_UNITY_BUILD=ON $I2_GENERIC"
1468
1469 alias i2_debug="mkdir -p debug; cd debug; cmake $I2_DEBUG ..; make -j4; make -j4 install; cd .."
1470 alias i2_release="mkdir -p release; cd release; cmake $I2_RELEASE ..; make -j4; make -j4 install; cd .."
1471
1472 export PATH=/usr/local/icinga/icinga2/sbin/:$PATH
1473 test -f /usr/local/icinga/icinga2/etc/bash_completion.d/icinga2 && source /usr/local/icinga/icinga2/etc/bash_completion.d/icinga2
1474
1475
1476 source $HOME/.bash_profile
1477 ```
1478
1479 #### Permissions
1480
1481 `make install` doesn't set all required permissions, override this.
1482
1483 ```
1484 chown -R $I2_USER:$I2_GROUP /usr/local/icinga/icinga2
1485 ```
1486
1487 #### Run
1488
1489 Start Icinga in foreground.
1490
1491 ```
1492 icinga2 daemon
1493 ```
1494
1495 Reloads triggered with HUP or cluster syncs just put the process into background.
1496
1497 #### Plugins
1498
1499 ```
1500 brew install monitoring-plugins
1501
1502 sudo vim /usr/local/icinga/icinga2/etc/icinga2/constants.conf
1503 const PluginDir = "/usr/local/sbin"
1504 ```
1505
1506 #### Backends: Redis
1507
1508 ```
1509 brew install redis
1510 brew services start redis
1511 ```
1512
1513 #### Databases: MariaDB
1514
1515 ```
1516 brew install mariadb
1517 mkdir -p /usr/local/etc/my.cnf.d
1518 brew services start mariadb
1519
1520 mysql_secure_installation
1521 ```
1522
1523 ```
1524 vim $HOME/.my.cnf
1525
1526 [client]
1527 user = root
1528 password = supersecurerootpassword
1529
1530 sudo -i
1531 ln -s /Users/michi/.my.cnf $HOME/.my.cnf
1532 exit
1533 ```
1534
1535 ```
1536 mysql -e 'create database icinga;'
1537 mysql -e "grant all on icinga.* to 'icinga'@'localhost' identified by 'icinga';"
1538 mysql icinga < $HOME/dev/icinga/icinga2/lib/db_ido_mysql/schema/mysql.sql
1539 ```
1540
1541 #### API
1542
1543 ```
1544 icinga2 api setup
1545 cd /usr/local/icinga/icinga2/var/lib/icinga2/certs
1546 HOST_NAME=mbpmif.int.netways.de
1547 icinga2 pki new-cert --cn ${HOST_NAME} --csr ${HOST_NAME}.csr --key ${HOST_NAME}.key
1548 icinga2 pki sign-csr --csr ${HOST_NAME}.csr --cert ${HOST_NAME}.crt
1549 echo "const NodeName = \"${HOST_NAME}\"" >> /usr/local/icinga/icinga2/etc/icinga2/constants.conf
1550 ```
1551
1552 #### Web
1553
1554 While it is recommended to use Docker or the Icinga Web 2 development VM pointing to the shared IDO database resource/REST API, you can also install it locally on macOS.
1555
1556 The required steps are described in [this script](https://github.com/dnsmichi/dotfiles/blob/master/icingaweb2.sh).
1557
1558 ### Windows Dev Environment <a id="development-windows-dev-env"></a>
1559
1560 The following sections explain how to setup the required build tools
1561 and how to run and debug the code.
1562
1563 #### Chocolatey
1564
1565 Open an administrative command prompt (Win key, type “cmd”, right-click and “run as administrator”) and paste the following instructions:
1566
1567 ```
1568 @powershell -NoProfile -ExecutionPolicy Bypass -Command "iex ((new-object net.webclient).DownloadString('https://chocolatey.org/install.ps1'))" && SET PATH=%PATH%;%ALLUSERSPROFILE%\chocolatey\bin
1569 ```
1570
1571 In case you are used to `vim`, start a new administrative Powershell and run `choco install -y vim`.
1572
1573
1574 #### Visual Studio
1575
1576 Thanks to Microsoft they’ll now provide their Professional Edition of Visual Studio 2017
1577 as community version, free for use for open source projects such as Icinga.
1578 The installation requires ~9GB disk space. [Download](https://www.visualstudio.com/downloads/)
1579 the web installer and start the installation.
1580
1581 You need a free Microsoft account to download and also store your preferences.
1582
1583 Install the following Workloads:
1584
1585 * C++ Desktop
1586 * .NET Desktop
1587
1588 In addition also choose these individual components on Visual Studio 2017:
1589
1590 * .NET
1591     * .NET Framework 4.6 targeting pack
1592     * .NET Framework 4.6.1 SDK
1593     * .NET Framework 4.6.1 targeting pack
1594 * Code tools
1595     * Git for Windows
1596     * Static analysis tools
1597     * GitHub Extension for Visual Studio
1598 * Compilers, build tools and runtimes
1599     * C# and Visual Basic Roslyn compilers
1600     * C++/CLI Support
1601     * VC++ 2017 v141 toolset (x86_64)
1602 * Debugging and testing
1603     * C++ profiling tools
1604     * Just-in-Time debugger
1605 * Development activities
1606     * Visual Studio C++ core features
1607 * Games and Graphics
1608     * Graphics debugger and GPU profiler for DirectX (required by C++ profiling tools)
1609 * SDKs, libraries and frameworks
1610     * Graphics Tools Windows 8.1 SDK (required by C++ profiling tools)
1611     * Windows 10 SDK **10.0.10240.0 - exactly this version**
1612     * Windows 8.1 SDK
1613     * Windows Universal C Runtime
1614
1615 After a while, Visual Studio will be ready.
1616
1617 #### Flex and Bison
1618
1619 Install it using [chocolatey](https://www.wireshark.org/docs/wsdg_html_chunked/ChSetupWin32.html):
1620
1621 ```
1622 choco install -y winflexbison
1623 ```
1624
1625 Chocolatey installs these tools into the hidden directory `C:\ProgramData\chocolatey\lib\winflexbison\tools`.
1626
1627 #### OpenSSL
1628
1629 Icinga 2 requires the OpenSSL library. [Download](http://slproweb.com/products/Win32OpenSSL.html)
1630 and install it into the default path.
1631
1632 Install both, 32 and 64 bit variants.
1633
1634 Once asked for `Copy OpenSSLs DLLs to` select `The Windows system directory`. That way CMake/Visual Studio
1635 will automatically detect them for builds and packaging.
1636
1637 > **Note**
1638 >
1639 > We cannot use the chocolatey package as this one does not provide any development headers.
1640 >
1641 > Choose 1.1.1 LTS from manual downloads for best compatibility.
1642
1643 #### Boost
1644
1645 In order to use the boost development header and library files you need to [download](http://www.boost.org/users/download/)
1646 Boost and then extract it to e.g. `C:\boost_1_69_0`.
1647
1648 > **Note**
1649 >
1650 > Just use `C:`, the zip file already contains the sub folder. Extraction takes a while,
1651 > the archive contains more than 70k files.
1652
1653 In order to integrate Boost into Visual Studio 2017, open the `Developer Command Prompt` from the start menu,
1654 and navigate to `C:\boost_1_69_0`.
1655
1656 Execute `bootstrap.bat` first.
1657
1658 ```
1659 cd C:\boost_1_69_0
1660 bootstrap.bat
1661 ```
1662
1663 Once finished, specify the required `toolset` to compile boost against Visual Studio.
1664 This takes quite some time in a Windows VM. Boost Context uses Assembler code,
1665 which isn't treated as exception safe by the VS compiler. Therefore set the
1666 additional compilation flag according to [this entry](https://lists.boost.org/Archives/boost/2015/08/224570.php).
1667
1668 ```
1669 b2 --toolset=msvc-14.1 asmflags=\safeseh
1670 ```
1671
1672 ![Windows Boost Build in VS2017 Development Console](images/development/windows_boost_build_dev_cmd.png)
1673
1674 #### TortoiseGit
1675
1676 TortoiseGit provides a graphical integration into the Windows explorer. This makes it easier to checkout, commit
1677 and whatnot.
1678
1679 [Download](https://tortoisegit.org/download/) TortoiseGit on your system.
1680
1681 In order to clone via Git SSH you also need to create a new directory called `.ssh`
1682 inside your user's home directory.
1683 Therefore open a command prompt (win key, type `cmd`, enter) and run `mkdir .ssh`.
1684 Add your `id_rsa` private key and `id_rsa.pub` public key files into that directory.
1685
1686 Start the setup routine and choose `OpenSSH` as default secure transport when asked.
1687
1688 Open a Windows Explorer window and navigate into
1689
1690 ```
1691 cd %HOMEPATH%\source\repos
1692 ```
1693
1694 Right click and select `Git Clone` from the context menu.
1695
1696 Use `ssh://git@github.com/icinga/icinga2.git` for SSH clones, `https://github.com/icinga/icinga2.git` otherwise.
1697
1698 #### Packages
1699
1700 CMake uses CPack and NSIS to create the setup executable including all binaries and libraries
1701 in addition to setup dialogues and configuration. Therefore we’ll need to install [NSIS](http://nsis.sourceforge.net/Download)
1702 first.
1703
1704 We also need to install the Windows Installer XML (WIX) toolset.
1705
1706 ```
1707 choco install -y wixtoolset
1708 ```
1709
1710 #### CMake
1711
1712 Icinga 2 uses CMake to manage the build environment. You can generate the Visual Studio project files
1713 using CMake. [Download](https://cmake.org/download/) and install CMake. Select to add it to PATH for all users
1714 when asked.
1715
1716 > **Note**
1717 >
1718 > In order to properly detect the Boost libraries, install the CMake 3.14+.
1719
1720 Once setup is completed, open a command prompt and navigate to
1721
1722 ```
1723 cd %HOMEPATH%\source\repos
1724 ```
1725
1726 Build Icinga with specific CMake variables. This generates a new Visual Studio project file called `icinga2.sln`.
1727
1728 You need to specify the previously installed component paths:
1729
1730 Variable              | Value                                                                | Description
1731 ----------------------|----------------------------------------------------------------------|-------------------------------------------------------
1732 `BOOST_ROOT`          | `C:\boost_1_69_0`                                                    | Root path where you've extracted and compiled Boost.
1733 `BOOST_LIBRARYDIR`    | `C:\boost_1_69_0\stage`                                              | Path to the static compiled Boost libraries, directory must contain `lib`.
1734 `BISON_EXECUTABLE`    | `C:\ProgramData\chocolatey\lib\winflexbison\tools\win_bison.exe`     | Path to the Bison executable.
1735 `FLEX_EXECUTABLE`     | `C:\ProgramData\chocolatey\lib\winflexbison\tools\win_flex.exe`      | Path to the Flex executable.
1736 `ICINGA2_WITH_MYSQL`  | OFF                                                                  | Requires extra setup for MySQL if set to `ON`. Not supported for client setups.
1737 `ICINGA2_WITH_PGSQL`  | OFF                                                                  | Requires extra setup for PgSQL if set to `ON`. Not supported for client setups.
1738 `ICINGA2_UNITY_BUILD` | OFF                                                                  | Disable unity builds for development environments.
1739
1740 Tip: If you have previously opened a terminal, run `refreshenv` to re-read updated PATH variables.
1741
1742 ##### Build Scripts
1743
1744 Icinga provides the build scripts inside the Git repository.
1745
1746 Open a new Powershell and navigate into the cloned Git repository. Set
1747 specific environment variables and run the build scripts.
1748
1749 ```
1750 cd %HOMEPATH%\source\repos
1751
1752 $env:ICINGA2_BUILDPATH='debug'
1753 $env:CMAKE_BUILD_TYPE='Debug'
1754 $env:OPENSSL_ROOT_DIR='C:\OpenSSL-Win64'
1755 $env:BOOST_ROOT='C:\boost_1_69_0'
1756 $env:BOOST_LIBRARYDIR='C:\boost_1_69_0\stage'
1757
1758 .\tools\win32\configure.ps1
1759 .\tools\win32\build.ps1
1760 .\tools\win32\test.ps1
1761 ```
1762
1763 > **Note**
1764 >
1765 > You may need to modify `configure.ps1` and
1766 > add a changed CMake variable for the installation
1767 > prefix: `-DCMAKE_INSTALL_PREFIX="C:\Program Files\Icinga2-build"`.
1768
1769 #### Icinga 2 in Visual Studio
1770
1771 Navigate to
1772
1773 ```
1774 cd %HOMEPATH%\source\repos\icinga2
1775 ```
1776
1777 Open `icinga2.sln`. Log into Visual Studio when asked.
1778
1779 On the right panel, select to build the `Bin/icinga-app` solution.
1780
1781 The executable binaries are located in `Bin\Release\Debug` in your `icinga2`
1782 project directory.
1783
1784 Navigate there and run `icinga2.exe --version`.
1785
1786 ```
1787 cd %HOMEPATH%\source\repos\icinga2\Bin\Release\Debug
1788 icinga2.exe --version
1789 ```
1790
1791
1792 #### Release Package
1793
1794 This is part of the build process script already.
1795
1796 > **Note**
1797 >
1798 > You may need to modify `configure.ps1` and
1799 > add a changed CMake variable for the installation
1800 > prefix: `-DCMAKE_INSTALL_PREFIX="C:\Program Files\Icinga2-build"`.
1801
1802 ```
1803 cd %HOMEPATH%\source\repos
1804
1805 $env:ICINGA2_BUILDPATH='debug'
1806 $env:CMAKE_BUILD_TYPE='Debug'
1807 $env:OPENSSL_ROOT_DIR='C:\OpenSSL-Win64'
1808 $env:BOOST_ROOT='C:\boost_1_69_0'
1809 $env:BOOST_LIBRARYDIR='C:\boost_1_69_0\stage'
1810
1811 .\tools\win32\configure.ps1
1812 .\tools\win32\build.ps1
1813 .\tools\win32\test.ps1
1814 ```
1815
1816
1817
1818 ### Embedded Dev Env: Pi <a id="development-embedded-dev-env"></a>
1819
1820 > **Note**
1821 >
1822 > This isn't officially supported yet, just a few hints how you can do it yourself.
1823
1824 The following examples source from armhf on Raspberry Pi.
1825
1826 #### ccache
1827
1828 ```
1829 apt install -y ccache
1830
1831 /usr/sbin/update-ccache-symlinks
1832
1833 echo 'export PATH="/usr/lib/ccache:$PATH"' | tee -a ~/.bashrc
1834
1835 source ~/.bashrc && echo $PATH
1836 ```
1837
1838 #### Build
1839
1840 Copy the icinga2 source code into `$HOME/icinga2`. Clone the `deb-icinga2` repository into `debian/`.
1841
1842 ```
1843 git clone https://github.com/Icinga/icinga2 $HOME/icinga2
1844 git clone https://github.com/Icinga/deb-icinga2 $HOME/icinga2/debian
1845 ```
1846
1847 Then build a Debian package and install it like normal.
1848 ```
1849 dpkg-buildpackage -uc -us
1850 ```
1851
1852 ## Package Builds <a id="development-package-builds"></a>
1853
1854 This documentation is explicitly meant for packagers and the Icinga
1855 build infrastructure.
1856
1857 The following requirements need to be fulfilled in order to build the
1858 Icinga application using a dist tarball (including notes for distributions):
1859
1860 * cmake >= 2.6
1861 * GNU make (make) or ninja-build
1862 * C++ compiler which supports C++11
1863     * RHEL/Fedora/SUSE: gcc-c++ >= 4.7 (extra Developer Tools on RHEL5/6 see below)
1864     * Debian/Ubuntu: build-essential
1865     * Alpine: build-base
1866     * you can also use clang++
1867 * pkg-config
1868 * OpenSSL library and header files >= 1.0.1
1869     * RHEL/Fedora: openssl-devel
1870     * SUSE: libopenssl-devel
1871     * Debian/Ubuntu: libssl-dev
1872     * Alpine: libressl-dev
1873 * Boost library and header files >= 1.66.0
1874     * RHEL/Fedora: boost166-devel
1875     * Debian/Ubuntu: libboost-all-dev
1876     * Alpine: boost-dev
1877 * GNU bison (bison)
1878 * GNU flex (flex) >= 2.5.35
1879 * systemd headers
1880     * Only required when using systemd
1881     * Debian/Ubuntu: libsystemd-dev
1882     * RHEL/Fedora: systemd-devel
1883
1884 ### Optional features <a id="development-package-builds-optional-features"></a>
1885
1886 * MySQL (disable with CMake variable `ICINGA2_WITH_MYSQL` to `OFF`)
1887     * RHEL/Fedora: mysql-devel
1888     * SUSE: libmysqlclient-devel
1889     * Debian/Ubuntu: default-libmysqlclient-dev | libmysqlclient-dev
1890     * Alpine: mariadb-dev
1891 * PostgreSQL (disable with CMake variable `ICINGA2_WITH_PGSQL` to `OFF`)
1892     * RHEL/Fedora: postgresql-devel
1893     * Debian/Ubuntu: libpq-dev
1894     * postgresql-dev on Alpine
1895 * libedit (CLI console)
1896     * RHEL/Fedora: libedit-devel on CentOS (RHEL requires rhel-7-server-optional-rpms)
1897     * Debian/Ubuntu/Alpine: libedit-dev
1898 * Termcap (only required if libedit doesn't already link against termcap/ncurses)
1899     * RHEL/Fedora: libtermcap-devel
1900     * Debian/Ubuntu: (not necessary)
1901
1902 ### Special requirements <a id="development-package-builds-special-requirements"></a>
1903
1904 **FreeBSD**: libexecinfo (automatically used when Icinga 2 is installed via port or package)
1905
1906 **RHEL6**: Requires a newer boost version which is available on packages.icinga.com
1907 with a version suffixed name.
1908
1909 ### Runtime user environment <a id="development-package-builds-runtime-user-env"></a>
1910
1911 By default Icinga will run as user `icinga` and group `icinga`. Additionally the
1912 external command pipe and livestatus features require a dedicated command group
1913 `icingacmd`. You can choose your own user/group names and pass them to CMake
1914 using the `ICINGA2_USER`, `ICINGA2_GROUP` and `ICINGA2_COMMAND_GROUP` variables.
1915
1916 ```
1917 # groupadd icinga
1918 # groupadd icingacmd
1919 # useradd -c "icinga" -s /sbin/nologin -G icingacmd -g icinga icinga
1920 ```
1921
1922 On Alpine (which uses ash busybox) you can run:
1923
1924 ```
1925 # addgroup -S icinga
1926 # addgroup -S icingacmd
1927 # adduser -S -D -H -h /var/spool/icinga2 -s /sbin/nologin -G icinga -g icinga icinga
1928 # adduser icinga icingacmd
1929 ```
1930
1931 Add the web server user to the icingacmd group in order to grant it write
1932 permissions to the external command pipe and livestatus socket:
1933
1934 ```
1935 # usermod -a -G icingacmd www-data
1936 ```
1937
1938 Make sure to replace "www-data" with the name of the user your web server
1939 is running as.
1940
1941 ### Building Icinga 2: Example <a id="development-package-builds-example"></a>
1942
1943 Once you have installed all the necessary build requirements you can build
1944 Icinga 2 using the following commands:
1945
1946 ```
1947 $ mkdir release && cd release
1948 $ cmake ..
1949 $ cd ..
1950 $ make -C release
1951 $ make install -C release
1952 ```
1953
1954 You can specify an alternative installation prefix using `-DCMAKE_INSTALL_PREFIX`:
1955
1956 ```
1957 $ cmake .. -DCMAKE_INSTALL_PREFIX=/tmp/icinga2
1958 ```
1959
1960 ### CMake Variables <a id="development-package-builds-cmake-variables"></a>
1961
1962 In addition to `CMAKE_INSTALL_PREFIX` here are most of the supported Icinga-specific cmake variables.
1963
1964 For all variables regarding defaults paths on in CMake, see
1965 [GNUInstallDirs](https://cmake.org/cmake/help/latest/module/GNUInstallDirs.html).
1966
1967 Also see `CMakeLists.txt` for details.
1968
1969 #### System Environment
1970
1971 * `CMAKE_INSTALL_SYSCONFDIR`: The configuration directory; defaults to `CMAKE_INSTALL_PREFIX/etc`
1972 * `CMAKE_INSTALL_LOCALSTATEDIR`: The state directory; defaults to `CMAKE_INSTALL_PREFIX/var`
1973 * `ICINGA2_CONFIGDIR`: Main config directory; defaults to `CMAKE_INSTALL_SYSCONFDIR/icinga2` usually `/etc/icinga2`
1974 * `ICINGA2_CACHEDIR`: Directory for cache files; defaults to `CMAKE_INSTALL_LOCALSTATEDIR/cache/icinga2` usually `/var/cache/icinga2`
1975 * `ICINGA2_DATADIR`: Data directory  for the daemon; defaults to `CMAKE_INSTALL_LOCALSTATEDIR/lib/icinga2` usually `/var/lib/icinga2`
1976 * `ICINGA2_LOGDIR`: Logfiles of the daemon; defaults to `CMAKE_INSTALL_LOCALSTATEDIR/log/icinga2 usually `/var/log/icinga2`
1977 * `ICINGA2_SPOOLDIR`: Spooling directory ; defaults to `CMAKE_INSTALL_LOCALSTATEDIR/spool/icinga2` usually `/var/spool/icinga2`
1978 * `ICINGA2_INITRUNDIR`: Runtime data for the init system; defaults to `CMAKE_INSTALL_LOCALSTATEDIR/run/icinga2` usually `/run/icinga2`
1979 * `ICINGA2_GIT_VERSION_INFO`: Whether to use Git to determine the version number; defaults to `ON`
1980 * `ICINGA2_USER`: The user Icinga 2 should run as; defaults to `icinga`
1981 * `ICINGA2_GROUP`: The group Icinga 2 should run as; defaults to `icinga`
1982 * `ICINGA2_COMMAND_GROUP`: The command group Icinga 2 should use; defaults to `icingacmd`
1983 * `ICINGA2_SYSCONFIGFILE`: Where to put the config file the initscript/systemd pulls it's dirs from;
1984 * defaults to `CMAKE_INSTALL_PREFIX/etc/sysconfig/icinga2`
1985 * `ICINGA2_PLUGINDIR`: The path for the Monitoring Plugins project binaries; defaults to `/usr/lib/nagios/plugins`
1986
1987 #### Build Optimization
1988
1989 * `ICINGA2_UNITY_BUILD`: Whether to perform a unity build; defaults to `ON`. Note: This requires additional memory and is not advised for building VMs, Docker for Mac and embedded hardware.
1990 * `ICINGA2_LTO_BUILD`: Whether to use link time optimization (LTO); defaults to `OFF`
1991
1992 #### Init System
1993
1994 * `USE_SYSTEMD=ON|OFF`: Use systemd or a classic SysV initscript; defaults to `OFF`
1995 * `INSTALL_SYSTEMD_SERVICE_AND_INITSCRIPT=ON|OFF` Force install both the systemd service definition file
1996   and the SysV initscript in parallel, regardless of how `USE_SYSTEMD` is set.
1997   Only use this for special packaging purposes and if you know what you are doing.
1998   Defaults to `OFF`.
1999
2000 #### Features
2001
2002 * `ICINGA2_WITH_CHECKER`: Determines whether the checker module is built; defaults to `ON`
2003 * `ICINGA2_WITH_COMPAT`: Determines whether the compat module is built; defaults to `ON`
2004 * `ICINGA2_WITH_LIVESTATUS`: Determines whether the Livestatus module is built; defaults to `ON`
2005 * `ICINGA2_WITH_NOTIFICATION`: Determines whether the notification module is built; defaults to `ON`
2006 * `ICINGA2_WITH_PERFDATA`: Determines whether the perfdata module is built; defaults to `ON`
2007 * `ICINGA2_WITH_TESTS`: Determines whether the unit tests are built; defaults to `ON`
2008
2009 #### MySQL or MariaDB
2010
2011 The following settings can be tuned for the MySQL / MariaDB IDO feature.
2012
2013 * `ICINGA2_WITH_MYSQL`: Determines whether the MySQL IDO module is built; defaults to `ON`
2014 * `MYSQL_CLIENT_LIBS`: Client implementation used (mysqlclient / mariadbclient); defaults searches for `mysqlclient` and `mariadbclient`
2015 * `MYSQL_INCLUDE_DIR`: Directory containing include files for the mysqlclient; default empty -
2016   checking multiple paths like `/usr/include/mysql`
2017
2018 See [FindMySQL.cmake](https://github.com/Icinga/icinga2/blob/master/third-party/cmake/FindMySQL.cmake)
2019 for implementation details.
2020
2021 #### PostgreSQL
2022
2023 The following settings can be tuned for the PostgreSQL IDO feature.
2024
2025 * `ICINGA2_WITH_PGSQL`: Determines whether the PostgreSQL IDO module is built; defaults to `ON`
2026 * `PostgreSQL_INCLUDE_DIR`: Top-level directory containing the PostgreSQL include directories
2027 * `PostgreSQL_LIBRARY`: File path to PostgreSQL library : libpq.so (or libpq.so.[ver] file)
2028
2029 See [FindPostgreSQL.cmake](https://github.com/Icinga/icinga2/blob/master/third-party/cmake/FindPostgreSQL.cmake)
2030 for implementation details.
2031
2032 #### Version detection
2033
2034 CMake determines the Icinga 2 version number using `git describe` if the
2035 source directory is contained in a Git repository. Otherwise the version number
2036 is extracted from the [VERSION](VERSION) file. This behavior can be
2037 overridden by creating a file called `icinga-version.h.force` in the source
2038 directory. Alternatively the `-DICINGA2_GIT_VERSION_INFO=OFF` option for CMake
2039 can be used to disable the usage of `git describe`.
2040
2041
2042 ### Building RPMs <a id="development-package-builds-rpms"></a>
2043
2044 #### Build Environment on RHEL, CentOS, Fedora, Amazon Linux
2045
2046 Setup your build environment:
2047
2048 ```
2049 yum -y install rpmdevtools
2050 ```
2051
2052 #### Build Environment on SuSE/SLES
2053
2054 SLES:
2055
2056 ```
2057 zypper addrepo http://download.opensuse.org/repositories/devel:tools/SLE_12_SP4/devel:tools.repo
2058 zypper refresh
2059 zypper install rpmdevtools spectool
2060 ```
2061
2062 OpenSuSE:
2063
2064 ```
2065 zypper addrepo http://download.opensuse.org/repositories/devel:tools/openSUSE_Leap_15.0/devel:tools.repo
2066 zypper refresh
2067 zypper install rpmdevtools spectool
2068 ```
2069
2070 #### Package Builds <a id="development-package-builds-rpms-package-builds"></a>
2071
2072 Prepare the rpmbuild directory tree:
2073
2074 ```
2075 cd $HOME
2076 rpmdev-setuptree
2077 ```
2078
2079 Snapshot builds:
2080
2081 ```
2082 curl https://raw.githubusercontent.com/Icinga/rpm-icinga2/master/icinga2.spec -o $HOME/rpmbuild/SPECS/icinga2.spec
2083 ```
2084
2085 > **Note**
2086 >
2087 > The above command builds snapshot packages. Change to the `release` branch
2088 > for release package builds.
2089
2090 Copy the tarball to `rpmbuild/SOURCES` e.g. by using the `spectool` binary
2091 provided with `rpmdevtools`:
2092
2093 ```
2094 cd $HOME/rpmbuild/SOURCES
2095 spectool -g ../SPECS/icinga2.spec
2096
2097 cd $HOME/rpmbuild
2098 ```
2099
2100 Install the build dependencies. Example for CentOS 7:
2101
2102 ```
2103 yum -y install libedit-devel ncurses-devel gcc-c++ libstdc++-devel openssl-devel \
2104 cmake flex bison boost-devel systemd mysql-devel postgresql-devel httpd \
2105 selinux-policy-devel checkpolicy selinux-policy selinux-policy-doc
2106 ```
2107
2108 Note: If you are using Amazon Linux, systemd is not required.
2109
2110 A shorter way is available using the `yum-builddep` command on RHEL based systems:
2111
2112 ```
2113 yum-builddep SPECS/icinga2.spec
2114 ```
2115
2116 Build the RPM:
2117
2118 ```
2119 rpmbuild -ba SPECS/icinga2.spec
2120 ```
2121
2122 #### Additional Hints <a id="development-package-builds-rpms-additional-hints"></a>
2123
2124 ##### SELinux policy module
2125
2126 The following packages are required to build the SELinux policy module:
2127
2128 * checkpolicy
2129 * selinux-policy (selinux-policy on CentOS 6, selinux-policy-devel on CentOS 7)
2130 * selinux-policy-doc
2131
2132 ##### RHEL/CentOS 6
2133
2134 The RedHat Developer Toolset is required for building Icinga 2 beforehand.
2135 This contains a modern version of flex and a C++ compiler which supports
2136 C++11 features.
2137 ```
2138 cat >/etc/yum.repos.d/devtools-2.repo <<REPO
2139 [testing-devtools-2-centos-\$releasever]
2140 name=testing 2 devtools for CentOS $releasever
2141 baseurl=https://people.centos.org/tru/devtools-2/\$releasever/\$basearch/RPMS
2142 gpgcheck=0
2143 REPO
2144 ```
2145
2146 Dependencies to devtools-2 are used in the RPM SPEC, so the correct tools
2147 should be used for building.
2148
2149 As an alternative, you can use newer Boost packages provided on
2150 [packages.icinga.com](https://packages.icinga.com/epel).
2151 ```
2152 cat >$HOME/.rpmmacros <<MACROS
2153 %build_icinga_org 1
2154 MACROS
2155 ```
2156
2157 ##### Amazon Linux
2158
2159 If you prefer to build packages offline, a suitable Vagrant box is located
2160 [here](https://atlas.hashicorp.com/mvbcoding/boxes/awslinux/).
2161
2162 ### Build Debian/Ubuntu packages <a id="development-package-builds-deb"></a>
2163
2164 Setup your build environment on Debian/Ubuntu, copy the 'debian' directory from
2165 the Debian packaging Git repository (https://github.com/Icinga/deb-icinga2)
2166 into your source tree and run the following command:
2167
2168 ```
2169 dpkg-buildpackage -uc -us
2170 ```
2171
2172 ### Build Alpine Linux packages <a id="development-package-builds-alpine"></a>
2173
2174 A simple way to setup a build environment is installing Alpine in a chroot.
2175 In this way, you can set up an Alpine build environment in a chroot under a
2176 different Linux distro.
2177 There is a script that simplifies these steps with just two commands, and
2178 can be found [here](https://github.com/alpinelinux/alpine-chroot-install).
2179
2180 Once the build environment is installed, you can setup the system to build
2181 the packages by following [this document](https://wiki.alpinelinux.org/wiki/Creating_an_Alpine_package).
2182
2183 ### Build Post Install Tasks <a id="development-package-builds-post-install-tasks"></a>
2184
2185 After building Icinga 2 yourself, your package build system should at least run the following post
2186 install requirements:
2187
2188 * enable the `checker`, `notification` and `mainlog` feature by default
2189 * run 'icinga2 api setup' in order to enable the `api` feature and generate SSL certificates for the node
2190
2191 ### Run Icinga 2 <a id="development-package-builds-run-icinga"></a>
2192
2193 Icinga 2 comes with a binary that takes care of loading all the relevant
2194 components (e.g. for check execution, notifications, etc.):
2195
2196 ```
2197 icinga2 daemon
2198
2199 [2016-12-08 16:44:24 +0100] information/cli: Icinga application loader (version: v2.5.4-231-gb10a6b7; debug)
2200 [2016-12-08 16:44:24 +0100] information/cli: Loading configuration file(s).
2201 [2016-12-08 16:44:25 +0100] information/ConfigItem: Committing config item(s).
2202 ...
2203 ```
2204
2205 #### Init Script <a id="development-package-builds-init-script"></a>
2206
2207 Icinga 2 can be started as a daemon using the provided init script:
2208
2209 ```
2210 /etc/init.d/icinga2
2211 Usage: /etc/init.d/icinga2 {start|stop|restart|reload|checkconfig|status}
2212 ```
2213
2214 #### Systemd <a id="development-package-builds-systemd"></a>
2215
2216 If your distribution uses systemd:
2217
2218 ```
2219 systemctl {start|stop|reload|status|enable|disable} icinga2
2220 ```
2221
2222 In case the distribution is running systemd >227, you'll also
2223 need to package and install the `etc/initsystem/icinga2.service.limits.conf`
2224 file into `/etc/systemd/system/icinga2.service.d`.
2225
2226 #### openrc <a id="development-package-builds-openrc"></a>
2227
2228 Or if your distribution uses openrc (like Alpine):
2229
2230 ```
2231 rc-service icinga2
2232 Usage: /etc/init.d/icinga2 {start|stop|restart|reload|checkconfig|status}
2233 ```
2234
2235 Note: the openrc's init.d is not shipped by default.
2236 A working init.d with openrc can be found here: (https://git.alpinelinux.org/cgit/aports/plain/community/icinga2/icinga2.initd). If you have customized some path, edit the file and adjust it according with your setup.
2237 Those few steps can be followed:
2238
2239 ```
2240 wget https://git.alpinelinux.org/cgit/aports/plain/community/icinga2/icinga2.initd
2241 mv icinga2.initd /etc/init.d/icinga2
2242 chmod +x /etc/init.d/icinga2
2243 ```
2244
2245 Icinga 2 reads a single configuration file which is used to specify all
2246 configuration settings (global settings, hosts, services, etc.). The
2247 configuration format is explained in detail in the [doc/](doc/) directory.
2248
2249 By default `make install` installs example configuration files in
2250 `/usr/local/etc/icinga2` unless you have specified a different prefix or
2251 sysconfdir.
2252
2253
2254 ### Windows Builds <a id="development-package-builds-windows"></a>
2255
2256 The Windows MSI packages are located at https://packages.icinga.com/windows/
2257
2258 #### Requirements <a id="development-package-builds-windows-requirements"></a>
2259
2260 * 32 or 64-bit system
2261 * Visual Studio >= 14 2015
2262 * CMake >= 2.6
2263 * OpenSSL >= 1.0.1
2264 * Flex and Bison
2265
2266 ##### Visual Studio
2267
2268 Download the community edition from [visualstudio.com](https://www.visualstudio.com/en/downloads/)
2269
2270 Workloads to install:
2271
2272 * C++ Desktop
2273 * .NET Desktop
2274
2275 ##### OpenSSL for Icinga
2276
2277 Download custom OpenSSL builds from [openssl-windows GitHub project](https://github.com/Icinga/openssl-windows/releases).
2278
2279 You need to install a binary dist version to 'C:\\Program Files\\OpenSSL'.
2280
2281 The Powershell script `.\tools\win32\download-openssl.ps1` can be used for automated downloads.
2282
2283 ##### Chocolatey
2284
2285 A simple package manager for Windows, please see [install instructions](https://chocolatey.org/install).
2286
2287 ##### Git
2288
2289 Use Chocolatey, see [package details](https://chocolatey.org/packages/git).
2290
2291 ```
2292 choco install git
2293 ```
2294
2295 ##### Flex / Bison
2296
2297 Use Chocolatey, see [package details](https://chocolatey.org/packages/winflexbison3).
2298
2299 ```
2300 choco install winflexbison3
2301 ```
2302
2303 ##### CMake
2304
2305 Use Chocolatey, see [package details](https://chocolatey.org/packages/cmake)
2306 or download from: [cmake.org](https://cmake.org/download/)
2307
2308 ```
2309 choco install cmake
2310 ```
2311
2312 ##### WIX
2313
2314 Use Chocolatey, see [package details](https://chocolatey.org/packages/wixtoolset).
2315
2316 ```
2317 choco install wixtoolset
2318 ```
2319
2320 ##### Boost
2321
2322 Download third party Windows binaries from: [boost.org](http://www.boost.org/users/download/)
2323
2324 For example: `https://dl.bintray.com/boostorg/release/1.65.1/binaries/boost_1_65_1-msvc-14.1-64.exe`
2325
2326 *Warning:*
2327 * Must match your Visual Studio version!
2328 * CMake might not support the latest Boost version (we used CMake 3.10 and Boost 1_65_1)
2329
2330 Run the installer exe.
2331
2332
2333 #### Build Icinga 2
2334
2335 Run with VC Native x64 Command Prompt:
2336
2337 ```
2338 powershell .\tools\win32\configure.ps1
2339 powershell .\tools\win32\build.ps1
2340 powershell .\tools\win32\test.ps1
2341 ```
2342
2343 See these scripts for details.
2344
2345 #### CI: AppVeyor
2346
2347 We are building [Icinga 2 with AppVeyor](https://ci.appveyor.com/project/icinga/icinga2) for testing and CI integration.
2348
2349 Please check `appveyor.yml` for instructions.
2350
2351
2352
2353 ## Advanced Development Tips <a id="development-advanced"></a>
2354
2355 ### GDB Pretty Printers <a id="development-advanced-gdb-pretty-printer"></a>
2356
2357 Install the `boost`, `python` and `icinga2` pretty printers. Absolute paths are required,
2358 so please make sure to update the installation paths accordingly (`pwd`).
2359
2360 ```
2361 $ mkdir -p ~/.gdb_printers && cd ~/.gdb_printers
2362 ```
2363
2364 Boost Pretty Printers compatible with Python 3:
2365
2366 ```
2367 $ git clone https://github.com/mateidavid/Boost-Pretty-Printer.git && cd Boost-Pretty-Printer
2368 $ git checkout python-3
2369 $ pwd
2370 /home/michi/.gdb_printers/Boost-Pretty-Printer
2371 ```
2372
2373 Python Pretty Printers:
2374
2375 ```
2376 $ cd ~/.gdb_printers
2377 $ svn co svn://gcc.gnu.org/svn/gcc/trunk/libstdc++-v3/python
2378 ```
2379
2380 Icinga 2 Pretty Printers:
2381
2382 ```
2383 $ mkdir -p ~/.gdb_printers/icinga2 && cd ~/.gdb_printers/icinga2
2384 $ wget https://raw.githubusercontent.com/Icinga/icinga2/master/tools/debug/gdb/icingadbg.py
2385 ```
2386
2387 Now you'll need to modify/setup your `~/.gdbinit` configuration file.
2388 You can download the one from Icinga 2 and modify all paths.
2389
2390 Example on Fedora 22:
2391
2392 ```
2393 $ wget https://raw.githubusercontent.com/Icinga/icinga2/master/tools/debug/gdb/gdbinit -O ~/.gdbinit
2394 $ vim ~/.gdbinit
2395
2396 set print pretty on
2397
2398 python
2399 import sys
2400 sys.path.insert(0, '/home/michi/.gdb_printers/icinga2')
2401 from icingadbg import register_icinga_printers
2402 register_icinga_printers()
2403 end
2404
2405 python
2406 import sys
2407 sys.path.insert(0, '/home/michi/.gdb_printers/python')
2408 from libstdcxx.v6.printers import register_libstdcxx_printers
2409 try:
2410     register_libstdcxx_printers(None)
2411 except:
2412     pass
2413 end
2414
2415 python
2416 import sys
2417 sys.path.insert(0, '/home/michi/.gdb_printers/Boost-Pretty-Printer')
2418 import boost_print
2419 boost_print.register_printers()
2420 end
2421 ```
2422
2423 If you are getting the following error when running gdb, the `libstdcxx`
2424 printers are already preloaded in your environment and you can remove
2425 the duplicate import in your `~/.gdbinit` file.
2426
2427 ```
2428 RuntimeError: pretty-printer already registered: libstdc++-v6
2429 ```
2430