19.03.2012, 08:00 Uhr
Mit Ethernet Fabric wird das Netzwerk flach
In den Rechenzentren werden heute viele Anwendungen mit unterschiedlichen Trafficmustern über Ethernet transportiert, von Storage- über UC- bis zu Cloud-Services. Entsprechend hoch sind die Anforderungen. Zeit für die nächste evolutionäre Stufe: Ethernet Fabrics.
Traditionelle Ethernet-Architekturen weisen einige technisch bedingte Einschränkungen auf, die den heutigen Anforderungen an hohes Tempo, kurze Latenzzeiten, verlustfreie Datenübertragung und letztlich auch an eine einfache Administration einfach nicht mehr gewachsen sind. Um die Vorzüge einer modernen Ethernet Fabric besser verstehen zu können, muss zunächst geklärt werden, wo genau die Schwächen des traditionellen Ethernets liegen.
Schwachpunkte des Ethernets
Ein Switch ist typischerweise nicht in der Lage, so viele Ports, wie im Rechenzentrum nötig, bereitzustellen. Als Lösung und aus Redundanzgründen werden daher hierarchische Baum-Topologien aufgebaut. Das heisst, die Server sind pro Rack an einem oder zwei ToR-Switches (Top of Rack) angeschlossen. Um keinen Single-Point-of-Failure im Netzwerk zu erzeugen, werden die Switches untereinander mehrfach durch ISLs (Inter Switch Links) verbunden. Weil durch solche Mehrfachverbindungen aber Layer2-Loops entstehen, müssen die Verbindungen unter den Switches mittels Spanning Tree Protocol (STP) so lange geblockt werden, bis eine der Einfachverbindungen ausfällt. Der grosse Nachteil dabei: Die Bandbreiten zwischen den Switches bleiben ungenutzt. Ein weiterer Negativpunkt sind die langen Umschaltzeiten im STP. Wird eine Leitung hinzugesteckt, ändert sich die Topologie und das STP hält den gesamten Netzwerkverkehr bis zur Neuberechnung an. Fällt eine Leitung aus, dauert das Umschalten im besten Fall eine Sekunde, im schlimmsten bis zu einer Minute. Mit den heutigen Anforderungen nach Hochverfügbarkeit kann das vor vielen Jahren entwickelte STP nicht mehr mithalten.
Ein weiteres Merkmal eines klassischen Ethernet-Netzwerks ist die Eigenständigkeit der Switches. Jeder Switch behandelt ein Datenpaket neu. Das bedeutet erhöhte Latenzzeit und auch erhöhten Betriebsaufwand, da jeder Switch mit den gleichen Konfigurationsparametern wie VLANs, Access Control Lists (ACL), Policies, Quality-of-Service-Parametern (QoS)etc. versehen werden muss. Auch die Wahrscheinlichkeit, dass die Konfiguration aller Switches nicht konsistent ist, steigt damit. Lesen Sie auf der nächsten Seite: Evolutionäre Weiterentwicklung
Ein weiteres Merkmal eines klassischen Ethernet-Netzwerks ist die Eigenständigkeit der Switches. Jeder Switch behandelt ein Datenpaket neu. Das bedeutet erhöhte Latenzzeit und auch erhöhten Betriebsaufwand, da jeder Switch mit den gleichen Konfigurationsparametern wie VLANs, Access Control Lists (ACL), Policies, Quality-of-Service-Parametern (QoS)etc. versehen werden muss. Auch die Wahrscheinlichkeit, dass die Konfiguration aller Switches nicht konsistent ist, steigt damit. Lesen Sie auf der nächsten Seite: Evolutionäre Weiterentwicklung
Evolutionäre Weiterentwicklung
In der Vergangenheit sind schon einige Anstrengungen unternommen worden, das Ethernet «besser» zu machen. Zum Beispiel mithilfe von Link Aggregation Groups (LAGs), die mehrere ISL-Verbindungen zwischen zwei Switches zusammenfassen, per Multiple STP oder Stacking, wodurch sich mehrere Switches wie ein logischer Switch betreiben lassen. Mit der Ethernet Fabric werden diese Themen nun konsolidiert aufgegriffen. Die Übernahme des Begriffs «Fabric» aus der Fiber-Channel-Welt (FC)ist dabei gewollt. Viele Ansätze, die dort seit Jahren genutzt werden, sind nun gleich oder ähnlich auch in der Ethernet Fabric verfügbar.
Zunächst soll nicht mehr jeder einzelne Switch autonom sein eigenes Paket-Forwarding ausführen. Ziel ist vielmehr, einen logischen Ethernet-Switch für das Rechenzentrum bereitzustellen. Dieser soll natürlich hinsichtlich der Portanzahl erweiterbar bleiben. Die Architektur der Ethernet Fabric ist daher eine verteilte Architektur. Kontroll- und Managementschicht (Control Plane, Management Plane) sind nicht mehr einzeln pro Switch aktiv, sondern auf die gesamte Fabric erweitert.
Diese Weiterentwicklung hat viele Vorteile: Für die Administration eines Netzwerks bedeutet eine verteilte Management und Control Plane, dass nur noch ein logischer Ethernet-Switch – die Ethernet Fabric – verwaltet wird. Konfigurationen oder Statusabfragen werden auf der Fabric ausgeführt, nicht mehr auf dem einzelnen Switch. Das erleichtert die Verwaltung und stellt eine konsistente Konfiguration in allen Switches der gesamten Fabric sicher. Es kann dann zum Beispiel nicht mehr passieren, dass die Policy auf 20 Switches eingerichtet, aber auf einem vergessen wurde.
Die Fabric-Architektur ist automatisch einfacher zu administrieren und skalierbar. Kommt ein weiterer Fabric-fähiger Switch hinzu, wird er Teil der logischen Control Plane und erbt seine Konfiguration von der Fabric – vergleichbar mit dem Einstecken einer weiteren Port-Karte in einen Chassis-Switch. Die Verarbeitung der Pakete erfolgt an den Edge-Ports der Fabric, das reduziert die Gesamtlatenzzeit für die Pakete. ISL-Ports zwischen den Switches benötigen keine Konfiguration. Dank der gemeinsamen Control Plane müssen hier keine VLANs oder Ähnliches konfiguriert werden. Es würde ja auch niemand die Backplane-Anbindung einer Port-Karte im Chassis konfigurieren wollen. Die ISLs verbinden die einzelnen Switches zu einer Fabric, so wie eine Backplane die Port-Karten mit dem Chassis verbindet. Damit entsteht ein flaches Netzwerk, das mit jeder Art von Topologie aufgebaut werden kann. Lesen Sie auf der nächsten Seite: Anbindung von Servern
Zunächst soll nicht mehr jeder einzelne Switch autonom sein eigenes Paket-Forwarding ausführen. Ziel ist vielmehr, einen logischen Ethernet-Switch für das Rechenzentrum bereitzustellen. Dieser soll natürlich hinsichtlich der Portanzahl erweiterbar bleiben. Die Architektur der Ethernet Fabric ist daher eine verteilte Architektur. Kontroll- und Managementschicht (Control Plane, Management Plane) sind nicht mehr einzeln pro Switch aktiv, sondern auf die gesamte Fabric erweitert.
Diese Weiterentwicklung hat viele Vorteile: Für die Administration eines Netzwerks bedeutet eine verteilte Management und Control Plane, dass nur noch ein logischer Ethernet-Switch – die Ethernet Fabric – verwaltet wird. Konfigurationen oder Statusabfragen werden auf der Fabric ausgeführt, nicht mehr auf dem einzelnen Switch. Das erleichtert die Verwaltung und stellt eine konsistente Konfiguration in allen Switches der gesamten Fabric sicher. Es kann dann zum Beispiel nicht mehr passieren, dass die Policy auf 20 Switches eingerichtet, aber auf einem vergessen wurde.
Die Fabric-Architektur ist automatisch einfacher zu administrieren und skalierbar. Kommt ein weiterer Fabric-fähiger Switch hinzu, wird er Teil der logischen Control Plane und erbt seine Konfiguration von der Fabric – vergleichbar mit dem Einstecken einer weiteren Port-Karte in einen Chassis-Switch. Die Verarbeitung der Pakete erfolgt an den Edge-Ports der Fabric, das reduziert die Gesamtlatenzzeit für die Pakete. ISL-Ports zwischen den Switches benötigen keine Konfiguration. Dank der gemeinsamen Control Plane müssen hier keine VLANs oder Ähnliches konfiguriert werden. Es würde ja auch niemand die Backplane-Anbindung einer Port-Karte im Chassis konfigurieren wollen. Die ISLs verbinden die einzelnen Switches zu einer Fabric, so wie eine Backplane die Port-Karten mit dem Chassis verbindet. Damit entsteht ein flaches Netzwerk, das mit jeder Art von Topologie aufgebaut werden kann. Lesen Sie auf der nächsten Seite: Anbindung von Servern
Anbindung von Servern
Die Anbindungen von Servern oder anderen Endgeräten, etwa Storage-Systemen, lässt sich per vLAG realisieren: Eine LAG von einem Endgerät landet dabei auf zwei oder mehreren Switches innerhalb der Fabric. Das ist möglich, weil sich aus Sicht des Endgeräts die Fabric wie ein Switch darstellt. Auch diese Funktion erhöht die Ausfallsicherheit und die verfügbare Bandbreite der Endgeräteanbindung.
In der Control Plane wird das STP durch ein Layer 2 Link State Routing ersetzt, ein RoutingVerfahren, das bisher nur L3-Verkehr vorbehalten war. Dadurch lassen sich alle Verbindungen innerhalb der Fabric als aktive Datenpfade nutzen – keine Verbindung muss mehr geblockt werden, um L2-Loops zu verhindern. Daten können somit auf kürzestem Weg, auch über mehrere ISL-Verbindungen parallel, ohne Loops transportiert werden. Sind zwei Switches durch mehrere ISLs verbunden, bilden sich automatisch Trunks zur Frame-basierten Lastverteilung. Fällt eine Verbindung innerhalb des Trunks aus, wird der Verkehr unterbrechungsfrei auf die verbleibenden Verbindungen verteilt. Werden im Betrieb neue Verbindungen hinzugefügt oder bestehende entfernt, fliesst der Verkehr über die bestehenden ISLs einfach weiter. Beim STP würde dies eine Rekalkulation des Baums bedeuten und das komplette Netzwerk anhalten.
In der Control Plane wird das STP durch ein Layer 2 Link State Routing ersetzt, ein RoutingVerfahren, das bisher nur L3-Verkehr vorbehalten war. Dadurch lassen sich alle Verbindungen innerhalb der Fabric als aktive Datenpfade nutzen – keine Verbindung muss mehr geblockt werden, um L2-Loops zu verhindern. Daten können somit auf kürzestem Weg, auch über mehrere ISL-Verbindungen parallel, ohne Loops transportiert werden. Sind zwei Switches durch mehrere ISLs verbunden, bilden sich automatisch Trunks zur Frame-basierten Lastverteilung. Fällt eine Verbindung innerhalb des Trunks aus, wird der Verkehr unterbrechungsfrei auf die verbleibenden Verbindungen verteilt. Werden im Betrieb neue Verbindungen hinzugefügt oder bestehende entfernt, fliesst der Verkehr über die bestehenden ISLs einfach weiter. Beim STP würde dies eine Rekalkulation des Baums bedeuten und das komplette Netzwerk anhalten.
Dynamische Services
Die Ethernet Fabric schafft damit innerhalb des Rechenzentrums ein Netzwerk, das sehr hohe Ausfallsicherheit, hohe Bandbreiten, viel Flexibilität und stark vereinfachtes Management bietet. Zur dynamischen Nutzung weiterer Netzwerkservices kann die Ethernet Fabric den Verkehr umleiten und Firewalls, Application Delivery Controller sowie native FC-Services mit einbinden. Hierfür werden entsprechende Komponenten an die Fabric angeschlossen.
Speziell für die Nutzung von virtuellen Servern ist aber noch eine Funktion unabdingbar: Die Loslösung der Serverport-Konfiguration vom tatsächlichen physischen Port. Da früher ein Server mit einer Anwendung am Ethernet angeschlossen war, konnten dem Port die entsprechenden VLANs, Policies, QoS-Einstellungen etc. zugewiesen werden. Heute kommen von einem Server viele virtuelle Server mit unterschiedlichsten Anwendungen. Diese virtuellen Server können auch umziehen und erscheinen plötzlich an einem anderen Ethernet-Port. Die Lösung heisst hier Port Profiles. Die frühere Portkonfiguration vom physischen Port wird nun als Port Profile für die gesamte Fabric zur Verfügung gestellt. Welcher virtuelle Server dann welches Port Profile nutzt, wird über die MAC-Adresse des virtuellen Servers gesteuert. Dadurch ist es auch möglich, dass virtuelle Server nach einem Umzug über einen anderen Switch und anderen Port an die Fabric angebunden sind. Die Port Profiles und die Zuordnung über die MAC-Adressen sind überall in der Fabric konsistent. Das Prinzip ist unabhängig von der eingesetzten Servervirtualisierung, da jeder virtuelle Server eine MAC-Adresse besitzt. Lesen Sie auf der nächsten Seite: Kennzeichen einer Ethernet-Fabric-Architektur
Speziell für die Nutzung von virtuellen Servern ist aber noch eine Funktion unabdingbar: Die Loslösung der Serverport-Konfiguration vom tatsächlichen physischen Port. Da früher ein Server mit einer Anwendung am Ethernet angeschlossen war, konnten dem Port die entsprechenden VLANs, Policies, QoS-Einstellungen etc. zugewiesen werden. Heute kommen von einem Server viele virtuelle Server mit unterschiedlichsten Anwendungen. Diese virtuellen Server können auch umziehen und erscheinen plötzlich an einem anderen Ethernet-Port. Die Lösung heisst hier Port Profiles. Die frühere Portkonfiguration vom physischen Port wird nun als Port Profile für die gesamte Fabric zur Verfügung gestellt. Welcher virtuelle Server dann welches Port Profile nutzt, wird über die MAC-Adresse des virtuellen Servers gesteuert. Dadurch ist es auch möglich, dass virtuelle Server nach einem Umzug über einen anderen Switch und anderen Port an die Fabric angebunden sind. Die Port Profiles und die Zuordnung über die MAC-Adressen sind überall in der Fabric konsistent. Das Prinzip ist unabhängig von der eingesetzten Servervirtualisierung, da jeder virtuelle Server eine MAC-Adresse besitzt. Lesen Sie auf der nächsten Seite: Kennzeichen einer Ethernet-Fabric-Architektur
Kennzeichen einer Ethernet-Fabric-Architektur
- Eine über alle Switches verteilte Kontrollschicht (Control Plane), damit die Paketverarbeitung nur einmal durchgeführt und gemeinsame Attribute (Policy/Security-Einstellungen) nur einmal konfiguriert werden müssen.
- ISLs, die jede Art von Topologie (Ring, Mesh oder Core/Edge) unterstützen.
- Multipath Routing ersetzt STP auf ISLs, entfernt Schleifen, skaliert die Bandbreite automatisch und stellt sicher, dass Daten in der Fabric immer auf dem kürzesten Pfad übertragen werden.
- Ein flacheres Netzwerk erweitert den Verkehrsfluss und wickelt diesen mit niedrigen Latenzzeiten
und ohne Staus ab. - Automatische Resilienz (Selbstregulation) der Verbindungen ohne Unterbrechung des Verkehrs auf
anderen Verbindungen. - Automatic Link Aggregation, wobei Trunks für den Lastausgleich mit voller Leitungsgeschwindigkeit über alle Verbindungen sorgen, und auch für die automatische Umschaltung der Verbindungen innerhalb eines Trunks.
- Eine logische Managementarchitektur, die auf der Fabric-Ebene liegt. Damit müssen nach dem Hinzufügen eines neuen Switches keine Parameter konfiguriert werden, da diese «geerbt» werden.
- Die Fabric ermöglicht eine Verkehrsumleitung, was das Einrichten von Netzwerk-Services wie Security, Anwendungssteuerung auf Layer 4 bis 7 und native Fiber-Channel-Services vereinfacht.
Rienhard Lichte ist Senior Network Consultant bei Brocade.