Globaler Informationsaustausch ohne Kollektive Operatoren
Globaler Informationsaustausch ohne Kollektive Operatoren (MA)
Beschreibung
Benötigt eine große verteilte Rechnung eine globale Größe, etwa das Volumen oder sonstige Informationen, so wird dieses meistens über kollektive Kommunikationen, etwa Summen, realisieren. Dies hat jedoch den Nachteil, dass der Code nicht besonders gut skaliert und Rechnungen auf 10k oder 100k CPUs nicht effizient genug sind. Ist der globalen Informationsaustausch nicht zeitkritisch, kann er über mehrere Hops gehen bis er schließlich alle beteiligten Prozesse erreicht. Für diese Netzwerktopologie ist der Durchmesser vorgegeben. Die maximale Anzahl an Knoten die bei einem vorgegebenen Grad verbunden werden können ist ein offenes Problem [1]. Aktuell wird ein mehrdimensionales Manhattan Street Network (MSN) verwendet, wie viel besser ist dies im Vergleich zu einem mehrdimensionalen Torus oder zu einem kollektiven Austausch? Wie viele unnötigen Verbindungen werden im Vergleich zu einem Optimalen Netzwerk gemacht?
Ziel
Modellierung und Implementierung von heuristisch optimalen Netzwerk. Analyse und Vergleich von verschiedenen Netzwerken.
Anforderungen
- C/C++
- Parallele Programmierung
- Verständnis der Graphentheorie