AWS Snowball Edge: Datenübertragung mit Edge Computing

AWS Snowball Edge: Datenübertragung mit Edge Computing

  • Cloud
6 Minuten Lesezeit Aktualisiert Nov 15, 2024

Auf einen Blick: AWS Snowball Edge ermöglicht eine effiziente Massenübertragung von Daten in Kombination mit Edge-Computing-Funktionen und verbessert die Leistung in abgelegenen Gebieten. Es ermöglicht eine sichere Datenübertragung und lokale Verarbeitung und minimiert die Abhängigkeit von Internetbandbreite.

  • Unterstützt Datenmigration, maschinelles Lernen und IoT-Anwendungen.
  • Bietet Konfigurationen zur Speicheroptimierung und Recheneffizienz an.

Es gibt ein altes Sprichwort in der IT-Community, das ungefähr so lautet:

"Unterschätze niemals die Bandbreite eines LKW voller Festplatten, die die Autobahn entlangrasen."

Diese interessanten Bilder entstehen aus dem stetig wachsenden Wettbewerb zwischen Internetgeschwindigkeit und Datenlast. Kurz gesagt: Je mehr Daten übertragen werden müssen, desto länger dauert es über das Internet. Schließlich sind Internet und Cloud in vielen Kontexten äußerst nützlich – aber die Übertragung von Terabytes an Daten gehört nicht dazu. Irgendwann kommt der Punkt, an dem es schneller ist, physische Festplatten auszuliefern, als die riesigen Informationsmengen herunterzuladen, die sie enthalten. Das Amazon Web Services (AWS) Snowball Edge passt zu solchen Situationen, indem es ein einfaches, sicheres und skalierbares physisches Gerät bietet, das praktisch jedem Projekt gerecht werden kann. AWS Snowball Edge adressiert den Massendatentransfer im Zeitalter des Cloud-Computings, geht aber noch einen Schritt weiter. Es nimmt die ursprünglichen AWS Snowball-Geräte und ergänzt:

  • Modernste Rechenleistung
  • Onboard-Speicher für ausgewählte AWS-Funktionen.

Diese Kombination bietet fortschrittliches "Edge Computing" für Situationen, in denen vorübergehende Lösungen für Probleme benötigt werden, wie etwa geografische Standorte oder fehlende Hochgeschwindigkeits-Internetverbindung.

Was ist der Unterschied zwischen Snowball und Snowball Edge

Der AWS Snowball Edge ist eine Art der umfassenderen Snowball-Geräteklassifikation. AWS Snowballs bietet im Allgemeinen Lösungen im petabyte-Maßstab für umfangreiche Datenmigration sowohl in als auch aus der AWS-Cloud. Häufige Anwendungen sind die Übertragung von:

  • Analytische Daten
  • Videobibliotheken
  • Backups
  • Genomikdaten
  • Weitere groß angelegte Archive

Datenübertragung solcher erheblichen Mengen über Bandbreite führt oft zu Problemen wie:

  • Lange Transferzeiten
  • Hohe Kosten
  • Sicherheitsbedenken

Das klassische AWS Snowball umgeht diese Probleme, indem es eine physische "Management-Konsole" verwendet, die direkt an den Benutzer geliefert wird. Die Konsole ist ein robustes kleines Gerät, das als eingebauter Versandcontainer mit einem automatischen E-Ink-Versandetikett fungiert. Bei Ankunft muss eine AWS Snowball-Konsole nach dem Herunterladen und Ausführen eines Snowball-Clients eine Verbindung zu Ihrem lokalen Netzwerk herstellen. Der Client wird verwendet, um die Daten auszuwählen und zu verschlüsseln, die Sie mit hoher Geschwindigkeit auf die Konsole übertragen möchten. Die direkte Übertragung auf ein Snowball-Gerät vermeidet den Einsatz teurer und langsamer Bandbreite.  Zum Beispiel kann die Übertragung von 100 Terabyte über schnelles 100-Mbit/s-Internet mehrere Monate dauern. Alternativ dauert die gleiche Übertragung mit zwei Snowball-Konsolen weniger als eine Woche. Eine solche Reduzierung der Bandbreitennutzung verringert nicht nur die Wartezeit, sondern senkt auch die Kosten erheblich im Vergleich zu den potenziell Tausenden von Dollar für langfristiges, schnelles Internet. Das AWS Snowball Edge setzt dieselben Ideen an, aber mit einigen zusätzlichen Edge-Computing-Fähigkeiten für besonders anspruchsvolle Situationen.

Hinzufügen von Edge Computing

Obwohl die meisten Menschen und Unternehmen Personal Computer und andere Hardware besitzen, nutzen sie diese typischerweise über zentralisierte Cloud-Dienste. Das gesamte Ziel des ursprünglichen AWS Snowball ist es, Daten in die Cloud zu übertragen, aber Anbieter erreichen die Grenzen der Verbesserung der Cloud-Fähigkeiten. Da diese Unternehmen die Cloud nun in großem Maßstab zentralisiert haben, sind die bestehenden kleinen Einschränkungen deutlicher geworden. Zum Beispiel verursacht die Begrenzung der Lichtgeschwindigkeit kurze, aber wahrnehmbare Verzögerungen – vom Öffnen des Browsers bis hin zum Online-Spielen, da verschiedene Signale weltweit signalisieren. Das Überwinden dieser Defizite hat zu "Edge Computing" und dem "intelligenten Edge" geführt. In diesem Zusammenhang bezeichnet "Edge" beides:

  • Die bildliche Spitze der Cloud-Computing-Ära
  • Der buchstäbliche geografische Rand, bei dem es weder möglich noch praktisch ist, sich aufgrund des Standorts auf die Cloud zu verlassen

Neben der Datenübertragung in die Cloud kann ein Edge-Computing-Gerät diese lokal verarbeiten und große Rechenlasten übernehmen. Die Durchführung von Edge Computing an oder in der Nähe der Datenquellen, anstatt sie weltweit über die Cloud zu übertragen, reduziert die Verzögerungen erheblich. Im Grunde kommt die Cloud zu Ihnen – Sie müssen nicht mehr am richtigen Ort mit der richtigen Ausrüstung sein. Einige Beispiele für aktuelle Edge-Computing-Anwendungen sind:

  • Verschlüsselung und Speicherung von Informationen auf Geräten wie Smartphones, um die Abhängigkeit von der Cloud zu entlasten
  • Lade und speichere lokal auf Webseiten, bevor es regelmäßig in die Cloud synchronisiert wird,
  • Künstliche Intelligenz auf Geräten laufen zu lassen, um sie klug darin zu machen, wie man die Cloud nutzt.

Das AWS Snowball Edge nutzt die Technologie, indem es eine verbesserte lokale Rechenleistung bietet und den Snowball Client-Download zugunsten der automatischen Verschlüsselung von Daten auf den Geräten überspringt. Jede dieser Anwendungen hat viele Vorteile. Nutzer erhalten schnellere und zuverlässigere Dienste. Unternehmen profitieren von flexiblem hybridem Cloud-Computing.

Vorteile von AWS Snowball Edge

Alle Snowball-Geräte ermöglichen die Übertragung von Massendaten in und aus Amazons Simple Storage Service (S3), verwenden dieselbe Anwendungsprogrammierschnittstelle (API) für die Jobverwaltung und verfügen über ähnliche Konsolen. Der AWS Snowball Edge bietet zusätzliche Edge-Computing-Funktionen und verbesserten lokalen Speicher. Konkret ermöglicht es:

  • Clustering von Geräten
  • Lokale Berechnung mit AWS Lambda
  • Verwendung mit AWS IoT Greengrass und Amazon Elastic Compute Cloud (EC2) Compute-Instanzen

Snowball Edge-Kapazität

Bezüglich der Speicherkapazität:

  • Das AWS Snowball-Gerät bietet nur 50 oder 80 TB Kapazität, davon sind 42 bzw. 72 TB nutzbar.
  • Der AWS Snowball Edge hat 100 TB und 83 TB nutzbar. (Es gibt auch eine 100-TB-Cluster-Option, die 45 nutzbare TB pro Knoten bietet.)

Clustering bietet die Möglichkeit, nahezu perfekte Datenhaltbarkeit auf 5-10 Geräten zu erreichen, während der Speicherplatz lokal auf Abruf vergrößert oder verkleinert wird. Obwohl die Idee und Ausführung beider Geräte recht ähnlich sind, ist AWS Snowball Edge nicht darauf angewiesen, einen Client herunterzuladen, um Aufgaben auszuführen. Wenn ein Amazon S3-Adapter für Snowball verwendet wird, wird der Client auf dem AWS Snowball Edge Gerät vorinstalliert geliefert. Anschließend verschlüsselt es die Daten automatisch bei der Übertragung auf das AWS Snowball Edge-Gerät, während ein heruntergeladener Snowball-Client die Daten auf Ihrem Arbeitsplatz vor der Datenübertragung auf das Snowball-Gerät verschlüsselt.

Konfiguration des Snowball Edge-Geräts

Der AWS Snowball Edge bietet drei Gerätekonfigurationsoptionen zur Auswahl:

  • Storage Optimized, das Amazon S3-kompatiblen Objektspeicher, Blockspeicher und 24 vCPUs bereitstellt, ist eine gute Option sowohl für großflächige Datenübertragungen als auch für lokale Speicherung.
  • Compute Optimized eignet sich wahrscheinlich am besten für fortgeschrittenes maschinelles Lernen und Full-Motion-Videoanalyse, dank 52 vCPUs sowie Objekt- und Blockspeicher.
  • Eine optionale integrierte GPU ist ein Zusatz zur rechenoptimierten Version, der diese Fähigkeiten erweitert.

Zusätzlich zur Amazon S3-Kompatibilität unterstützt der Amazon EC2-Endpunkt eine Teilmenge von API-Aktionen zum Ausführen und Rechnen von Instanzen auf dem AWS Snowball Edge. Sie können auch Lambda-Funktionen als Reaktion auf Ereignisse auslösen, sodass Sie Code ohne Verwaltung ausführen können.

Verwendung von AWS Snowball Edge

Die Kombination von Geräteoptionen mit AWS Lambda-Funktionen und Amazon EC2-Instanztypen ermöglicht es Nutzern, Entwicklung und Tests in AWS durchzuführen, bevor Anwendungen auf Geräten an jedem Ort bereitgestellt werden. Häufige Anwendungen dieser verschiedenen Optionen sind:

Zum Beispiel sind einige Unternehmen, die bereits von der AWS Snowball Edge-Technologie profitiert haben, darunter Boeing und das Forschungsteam der Oregon State University. Boeing setzte sie beim Fliegen von Bildaufnahme-Drohnen in abgelegenen Gebieten ein. Der AWS Snowball Edge ermöglichte es ihnen, die Daten vor Ort vorzuverarbeiten, bevor sie zur Analyse in die Cloud übertragen wurden. Ebenso musste das OSU-Team Daten auf einem entfernten Forschungsschiff sammeln, analysieren und nach der Rückkehr in die Cloud übertragen. Wenn Sie darüber nachdenken, die AWS Snowball Edge-Technologie zu nutzen, recherchieren Sie, welche Schritte Sie unternehmen sollten. Sie müssen ein AWS-Konto erstellen, das Administrator-Berechtigungen für AWS Identity und Access Management enthält. Die Dateien und Ordner, die Sie übertragen möchten, müssen außerdem den Namenskonventionen von Objektschlüsseln für Amazon S3 entsprechen. Die genauen Schritte hängen davon ab, ob Sie Daten importieren, exportieren oder Compute-Instanzen verwenden möchten, daher lesen Sie die Details durch, um sicherzustellen, dass Sie die Aufgabe richtig erledigen.

Verwandte Literatur

Diese Beiträge sind meine eigenen und spiegeln nicht unbedingt die Position, Strategien oder Meinung von BMC wider.

Mehr aus Cloud

Abonnieren Sie The Brief

Mit der Registrierung für dieses Angebot bestätigen Sie, dass Sie die Datenschutzrichtlinie von BMC gelesen und zugestimmt haben.

Danke

Sie haben The Brief abonniert
Das Briefing umfasst die Mainframe- und Enterprise-Orchestrierung – BMC AMI und Control-M – sowie die Analystenforschung, Kundeneinsätze und Events in beiden Bereichen.