Knoten Migrationstool
Find a file
2016-05-29 20:12:47 +02:00
cloud Made detection of the propper ipv6 addresses more generic. 2016-05-29 20:12:47 +02:00
exceptions Initial commit of version 2 2016-05-29 18:56:50 +02:00
generator Initial commit of version 2 2016-05-29 18:56:50 +02:00
parser Initial commit of version 2 2016-05-29 18:56:50 +02:00
.gitignore Initial commit of version 2 2016-05-29 18:56:50 +02:00
LICENSE.txt Initial commit of version 2 2016-05-29 18:56:50 +02:00
NodeHierarchy.py Initial commit of version 2 2016-05-29 18:56:50 +02:00
README.md Initial commit of version 2 2016-05-29 18:56:50 +02:00
webserver-configuration Initial commit of version 2 2016-05-29 18:56:50 +02:00

Node Hierarchy

Dieses Tool generiert auf Basis einer graph.json und nodes.json des Meshviewers sowie (Multi-)Polygonen (im geojson Format) der einzelnen Zieldomänen eine nginx Konfigurationsdatei (auf Basis des Geo-Moduls), um Knoten in der richtigen Reihenfolge umzuziehen.

Vorgehensweise

Das Tool zerteilt den (globalen) Graphen in viele lokale Graphen, also die Menge an Knoten (und Links), die vor Ort ein Mesh bilden. Diese werden auf Basis der Shapefiles den einzelnen Zieldomänen zugeordnet (es werden die GeoPositionen der einzelnen Knoten "gemittelt"). Hier wird nun geprüft, welche Knoten keine Abhängigkeiten besitzen, also kein anderer Knoten über diesen Knoten gehen muss um einen Gatewayserver zu erreichen. Diese werden dann in die Konfiguration geschrieben. Sind diese Knoten aktualisiert, fällt die Abhängigkeit des Knoten weg, der zuvor benötigt wurde um das Gateway zu erreichen. Daher muss das Tool regelmäßig ausgeführt werden und die Ausgabe jeweils in die nginx Konfiguration übernommen werden.

Abhängigkeiten

Das Tool läuft ausschließlich mit Python >= 3. Folgende (Python-)Abhängigkeiten werden benötigt:

Diese lassen sich wie folgt via pip installieren:

pip3 install shapely

Bedienung

Das Tool wird ausschließlich über Argumente beim Aufruf konfiguriert.

Die Hilfe liefert folgendes:

$ ./NodeHierarchy.py --help
usage: NodeHierarchy.py [-h] [-j JSON_PATH] [-s SHAPES_PATH] -t TARGETS
                        [TARGETS ...] [-o OUT_FILE] [-v]
                        [-f [FILTERS [FILTERS ...]]]

This Script generates a hierarchical nodes list for node migration using nginx
geo feature.

optional arguments:
  -h, --help            show this help message and exit
  -j JSON_PATH, --json-path JSON_PATH
                        Path of nodes.json and graph.json (can be local folder
                        or remote URL).
  -s SHAPES_PATH, --shapes-path SHAPES_PATH
                        Path of shapefiles (can be local folder or remote
                        URL).
  -t TARGETS [TARGETS ...], --targets TARGETS [TARGETS ...]
                        List of targets which should be proceeded. Example: -t
                        citya cityb ...
  -o OUT_FILE, --out-file OUT_FILE
                        Filename where the generated Output should stored.
  -v, --debug           Enable debugging output.
  -f [FILTERS [FILTERS ...]], --filters [FILTERS [FILTERS ...]]
                        Filter out nodes and local clouds based on filter
                        rules

Anmerkungen

  • --targets Gibt die Namen der Ziele (Zieldomänen) an. Der Geo-Schalter in der nginx Konfiguration wird ebenfalls diesen Namen tragen.
  • --json-path Gibt das Daten-Verzeichnis eures Meshviewers an. Default: https://service.freifunk-muensterland.de/maps/data/
  • --shapes-path Verzeichnis an dem die Shapefiles der einzelnen Ziel-Domänen liegen. Default: https://freifunk-muensterland.de/md-fw-dl/shapes/
    • Anmerkung: Es werden Dateien in Abhängigkeit mit den Target-Namen im Verzeichnis erwartet.
    • Beispiel: Bei -targets domaene01 domaene02 werden die Dateien domaene01.geojson und domaene02.geojson erwartet.
    • Falls ihr hier mehr Anpassbarkeit benötigt, eröffnet ein Issue, dann baue ich da was ein.
  • --filters Siehe Abschnitt Filter.

Der Rest ist trivial.

Filter

Standardmäßig werden alle Knoten ausgefiltert, die offline sind. Außerdem werden alle lokalen Wolken ausgefiltert, in denen sich mindstens ein Knoten mit deaktiviertem Autoupdater befindet.

Weitere Filterungen lassen sich über das --filters Attribut aktivieren.

Folgende Filter sind derzeit implementiert (zukünftig folgen noch weitere):

  • exclude_clouds_with_lan_links bzw. no_lan Filtert alle lokalen Wolken aus, in denen sich mindestens ein Mesh-on-LAN Link befindet

Nginx Konfiguration

Das Tool generiert nur Konfigurationscode, der Schalter auf basis von IPv6 Adressen beinhaltet. Die Auswirkungen, die diese Schalter haben sollen müsst ihr noch selbst definieren. Typischerweise möchte man auf Basis der Schalter einen Rewrite machen.

Beispiel:

if ($domaene01) {
  rewrite ^/site-ffms/(.*)$ /domaene01/$1; 
}

Anmerkung: Bei $domane01 handelt es sich um den generierten Schalter, entspricht also --targets domaene01.

Bekannte Probleme

Wenn es sich bei der Quell-Domäne um eine L2TP Domäne handelt, läuft das Tool derzeit nur, wenn alfred auf allen Gateway-Servern läuft.

Anmerkung: Wenn in der nodes.json und graph.json mehrere Domänen vorhanden sind und dort teilweise L2TP Domänen vorhanden sind (dieses aber nicht das Gebiet eurer Zieldomäne betrifft), kann das sehr negative Auswirkungen auf die Laufzeit haben (> 30 Sekunden).

Lizenz

Dieses Tool unterliegt der MIT Lizenz. Solltet ihr Probleme mit dieser Lizensierung haben, schreibt mich einfach an. ;)

2016 - Simon Wüllhorst