Was ist Reverse ETL? Eine Definition

Reverse ETL kann Daten effizienter, verfügbarer und wertvoller machen. Diese Seite erklärt Ihnen, was es ist, falls Sie es benötigen und wie Sie Reverse ETL in Ihre Organisation bringen.

Reverse ETL definiert

Reverse ETL überträgt Daten aus Ihrem Data Warehouse und sendet sie an Ihre Geschäftsanwendungen. Die Daten in Ihrem Lager sind sauber, verarbeitet, genau und vollständig und stellen sicher, dass alle Ihre Anwendungen – und die Geschäftsfunktionen, die sie nutzen – aus demselben hochwertigen Datensatz arbeiten.

Reverse ETL kann sich sowohl auf den Prozess der Datenübertragung als auch auf die Softwaretools beziehen, die die Arbeit ausführen. Während diese Arbeit typischerweise manuell über Datenanfragen an die IT durchgeführt wurde, entstehen robuste Reverse-ETL-Produkte, die diesen Prozess automatisieren.

Warum benötigen Organisationen Reverse-ETL-Tools?

Organisationen haben zentralisierte, cloudbasierte Data Warehouses eingeführt, in denen sie nun so viel wie möglich ihrer bereinigten und verarbeiteten Daten aufbewahren. Sie haben außerdem Dutzende oder Hunderte von Geschäftsanwendungen übernommen, die die in ihren Lagern gespeicherten Daten benötigen. Es ist oft nicht praktikabel, für jede Verbindung zwischen dem Warehouse und den Anwendungen, die Daten benötigen, Pipelines zu bauen.

Reverse ETL ermöglicht es:

Effiziente Synchronisation von Daten zwischen einem Data Warehouse und einer Anwendung in Echtzeit

Stellen Sie sicher, dass jede Anwendung in der Organisation mit denselben Datensätzen arbeitet

Erlauben Sie Selbstbedienungszugriff auf Daten, ohne ein IT-Support-Ticket erstellen zu müssen

Wer braucht Reverse ETL?

Viele moderne Organisationen speichern ihre Daten in Lagern und setzen eine große Anzahl von Anwendungen ein. Viele davon können nicht die Ressourcen und das Fachwissen bereitstellen, um die benötigten Pipelines manuell zu bauen und zu warten. Diese Organisationen würden von einem Reverse-ETL-Tool profitieren, das so viel wie möglich vom Prozess automatisiert.

Organisationen jedoch, die ihre eigenen Pipelines bauen möchten – und bereit sind, die dafür benötigten Ressourcen bereitzustellen – benötigen möglicherweise kein Reverse-ETL-Tool. Kleinere Organisationen benötigen möglicherweise auch kein Reverse-ETL-Tool, da sie nicht genug Daten speichern oder verschieben, um eines zu benötigen.

Was sind die Vorteile von umgekehrtem ETL?




Was sind die Komponenten von Reverse ETL?

Es gibt fünf Kernkomponenten in jedem Reverse-ETL-Prozess oder -Werkzeug.

Quellen

Der Ort, an dem Ihre Rohdaten gesammelt, transformiert und gespeichert wurden. Dies ist in der Regel ein Data Warehouse.

Modelle

Die SQL-Abfragen, die die Daten definieren, die Sie für Geschäftsanwender und Anwendungen zugänglich machen möchten, und wie sie dargestellt werden.

Segmente

Eine Teilmenge innerhalb eines Datenmodells, die weiter definiert und strukturiert, welche Daten auf detaillierteren Ebene abgerufen werden können.

Syncs

Der Prozess, zu definieren, welche Daten in welches Werkzeug, auf welchem Zeitplan und wie sie auf Felder im Ziel abgebildet werden.

Ziele

Der Ort, an dem die Daten vom Quell-Datawarehouse gesendet werden. Dies ist in der Regel eine Geschäftsanwendung wie ein CRM.

Wie funktioniert Reverse ETL?

Im Reverse-ETL-Prozess gibt es drei Hauptschritte.

Extraktion

Die Daten werden aus dem Quell-Data-Warehouse über eine manuelle oder automatisierte Abfrage abgerufen.

Transformation

Die extrahierten Daten werden dann neu formatiert, um den operativen Anforderungen des Zielsystems zu entsprechen.

Beladung

Schließlich werden die transformierten Daten in das Ziel geladen, wo sie abgerufen und genutzt werden können.

Kann Reverse ETL überwacht werden?

Reverse-ETL-Prozesse und -Tools werden häufig überwacht, um sicherzustellen, dass sie erwartungsgemäß funktionieren und die richtigen Daten zur richtigen Zeit an die richtigen Systeme liefern.

Organisationen können automatische Flags, Warnungen und Benachrichtigungen einrichten, die ausgelöst werden, wenn ein Problem auftritt, wie zum Beispiel fehlgeschlagene Synchronisationen, Konvertierungen, Mapping oder andere grundlegende Fehler.

Was sind gängige Anwendungsfälle für umgekehrte ETL?

Reverse ETL kann jede Funktion steuern, die Daten benötigt, um ihre Abläufe zu optimieren. Für die meisten Organisationen – das ist jede Funktion im Unternehmen. Häufige Anwendungsfälle sind:







Was ist der Unterschied zwischen ETL und reverse ETL?

ETL und umgekehrtes ETL werden oft verwechselt. Sie folgen demselben Prozess, und der Hauptunterschied ist, in welche Richtung sich die Daten bewegen. Im ETL werden Daten von Geschäftsanwendungen und anderen Quellen ins Data Warehouse übertragen, rückwärts werden ETL-Daten vom Data Warehouse zu Geschäftsanwendungen oder anderen Zielen weitergeleitet.

Konkret werden im Standard-ETL-Prozess Rohdaten aus einer Quelle extrahiert.

1. Bei ETL werden Daten aus einer Rohquelle extrahiert, in der sie erzeugt oder gespeichert werden. Diese Quelle kann alles sein, von einer Anwendung über eine Website bis hin zu einer Excel-Datei, die Drittanbieterdaten speichert, die von einer externen Instanz gekauft wurden.

2. Diese Daten werden dann transformiert und speicherbereit gemacht. In diesem Stadium können die Daten bereinigt, dedupliziert, aggregiert, neu formatiert oder anderweitig verändert werden, um die Speicheranforderungen des Data Warehouse und/oder spezifische Anforderungen der Organisation zu erfüllen.

3. Schließlich werden die Daten in das Data Warehouse oder ein anderes Ziel geladen, wo sie für die Nutzung in Geschäftsanwendungen gespeichert werden. Sobald die Daten gespeichert sind, benötigt sie eine Form von Reverse ETL, um innerhalb einer Geschäftsanwendung wieder in eine nutzbare Form zurückzukehren.

Zusammengefasst: Reverse ETL und ETL sind kein Entweder/Oder – Organisationen benötigen beide Prozesse. Der eine bringt Daten in ein Warehouse, der andere nimmt Daten aus dem Warehouse und bringt sie zu Anwendungen, was zu unterschiedlichen Reverse-ETL- und ETL-Anwendungsfällen führt.

CDP vs. umgekehrtes ETL

Eine Customer Data Platform (CDP) ist eine Form von Data Warehouse, das Kundendaten sammelt, transformiert und an einem Ort speichert. Das CDP aggregiert, kombiniert und verknüpft typischerweise Daten aus mehreren Systemen und Quellen – einschließlich Customer Relationship Management (CRM)-Plattformen, Werbeplattformen und Marketingtools. Diese Daten werden dann verwendet, um ein vollständiges, genaues und aktuelles Profil jedes Kunden zu erstellen.

Ein CDP konzentriert sich typischerweise auf Marketing- und Vertriebsfunktionen, speichert Informationen über Kunden und kann Daten möglicherweise (eigenständig) an Geschäftsanwendungen zurücksynchronisieren – oder auch nicht. Ein Reverse-ETL-Tool kann jede Funktion erfüllen, speichert keine Informationen und dient ausschließlich dazu, Daten aus einem Lager zurück zu Geschäftsanwendungen zu synchronisieren.

Reverse ETL hängt von der Art des CDP ab. Ein traditionelles oder verpacktes CDP benötigt möglicherweise ein Reverse-ETL-Tool, um seine Daten mit Geschäftsanwendungen zu verbinden. Ein zusammensetzbares CDP wird auf einem Data Warehouse gelegt und führt einen eigenen Reverse-ETL-Prozess durch, um Kundendaten zu den Geschäftsanwendungen zurückzubringen, die sie benötigen.

Zusammenfassend: Ein CDP ist eine Datenspeicherplattform, die möglicherweise selbst eine umgekehrte ETL durchführen kann oder ein separates Werkzeug benötigt, um Daten zu Anwendungen zu bringen.

Reverse ETL und der moderne Datenstapel

Reverse ETL ist zu einer kritischen Komponente des modernen Datenstacks und DataOps geworden. Der moderne Datenstack besteht typischerweise aus:

Datenloader / Integratoren:

Tools, die Rohdaten aus mehreren Quellen sammeln und in Ihre Datenspeicherplattform integrieren.

Datentransformatoren:

Tools, die Daten bereinigen und nutzbar machen, bevor (oder nach) sie in die Datenspeicherplattform geladen wurden.

Data Warehouse:

Die Plattform, die als zentrales Zentrum des modernen Datenstacks fungiert, auf der Daten gespeichert und verwaltet werden.

Datenbasierte Anwendungen:

Die vielen Anwendungen, die Organisationen nutzen und die genaue, vollständige und aktuelle Daten benötigen, um zu funktionieren.

Reverse ETL befindet sich zwischen einem Data Warehouse und datenbasierten Anwendungen. Das macht den modernen Datenstack zu einem viel flexibleren Ökosystem, in dem Daten jederzeit in jede Richtung und zu jeder Zeit bewegt werden können.

Reverse ETL und DataOps

DataOps ist die Praxis, den Datenfluss innerhalb der Organisation zu steuern. Ohne ein Reverse-ETL-Tool müssen DataOps-Teams und Fachleute erhebliche Zeit darauf verwenden, den Datenfluss zwischen Warehouse und Anwendungen manuell sicherzustellen.

Ein Reverse-ETL-Tool kann DataOps-Teams und Fachleuten erhebliche Zeit und Mühe sparen und ihnen dabei helfen, ihre Mission, Daten für jeden Nutzer und jede Funktion verfügbar zu machen, besser zu erfüllen. Das richtige Tool kann Datensilos durchbrechen, die Orchestrierung von Datenworkflows vereinfachen und es DataOps-Fachleuten und -Teams ermöglichen, weniger Zeit für Routineaufgaben und mehr für strategische Aufgaben auf höherer Ebene zu verwenden.

Alternative zu Reverse ETL

Reverse-ETL-Tools sind nicht die einzige Möglichkeit, Daten vom Data Warehouse zu Anwendungen zu transportieren, aber sie sind oft die effizienteste Option. Weitere Alternativen sind:

  • Manuelle Übertragungen: Ein IT-Mitarbeiter geht manuell in das Data Warehouse, findet die benötigten Daten, lädt sie herunter und lädt sie direkt in die Anwendung hoch.
  • Individuelle Integrationen: Für jede Anwendung, die Zugriff auf Daten im Data Warehouse benötigt, werden individuelle Punkt-zu-Punkt-Pipelines erstellt.
  • CDP oder Integrationsplattform als Service (iPaaS): Sie verwenden vorgefertigte Connectoren zur Datenübertragung, bieten aber begrenzte Funktionalität und Anpassungsmöglichkeiten.

Es gibt Anwendungsfälle, in denen diese Alternativen eine bessere Wahl als umgekehrtes ETL sein können. Reverse ETL bietet jedoch die beste Kombination aus Anpassung, Effizienz und Skalierbarkeit, um die unzähligen Datenpipelines zu erstellen, die moderne Organisationen benötigen.

Reverse ETL-Werkzeuge: Bauen oder kaufen?

Der interne Bau eines Reverse-ETL-Tools bietet die größte Flexibilität und Individualisierung, ist aber auch zeitaufwendig und aufwendig, erfordert erhebliche technische Expertise und kann langfristig teurer sein als ein bestehendes Werkzeug.

Während diese Kompromisse für einige Organisationen angemessen sein mögen, profitieren die meisten besser, wenn sie ein bestehendes Drittanbieter-Reverse-ETL-Tool nutzen. Obwohl Reverse ETL ein relativ neuer Lösungsbereich ist, wurden mehrere Tools veröffentlicht.

Bei der Auswahl des Reverse-ETL-Tools sollten Sie einige Kriterien berücksichtigen. Die besten Reverse-ETL-Tools erfüllen diese Kriterien, darunter:








Nehmen Sie Kontakt zu einem Experten auf.

All fields are required except where noted.

Indem ich meine Kontaktdaten angebe, bestätige ich, dass ich die Datenschutzerklärung von BMC gelesen und ihr zugestimmt habe.

Danke!

Einer unserer Spezialisten wird sich in Kürze mit Ihnen in Verbindung setzen.

Nehmen Sie Kontakt zu einem Experten auf.

All fields are required except where noted.

Indem ich meine Kontaktdaten angebe, bestätige ich, dass ich die Datenschutzerklärung von BMC gelesen und ihr zugestimmt habe.

Danke!

Einer unserer Spezialisten wird sich in Kürze mit Ihnen in Verbindung setzen.