Jednotná cloudová platforma pro finanční data a analytiku se škálovatelnou architekturou
Navrhli jsme modulární a škálovatelnou cloudovou platformu na AWS, která z jediného případu použití vyrostla v jeden řízený základ pro finanční analytiku.
O klientovi
Globální farmaceutický výrobce působící napříč několika obchodními divizemi a mezinárodními trhy.
Výzva
Finanční divize klienta potřebovala vybudovat škálovatelnou podnikovou datovou platformu, která by podporovala finanční analytiku, komplexní simulace i budoucí datově řízené iniciativy napříč několika finančními oblastmi.
- Konečný počet datových zdrojů, navazujících aplikací a budoucích projektů nebyl na začátku znám
- Architektura musela od počátku počítat s rozšiřováním nad rámec prvního prioritního projektu (EPIC), zaměřeného na základní finanční kmenová data, a vytvořit prostor pro další analytické projekty a aplikace
- Různorodé finanční systémy se lišily datovou strukturou i frekvencí aktualizací, což komplikovalo jejich integraci
- Citlivá finanční data vyžadovala bezpečné zpracování, ukládání i zpřístupňování
- Jednotlivé analytické nástroje a projektové týmy potřebovaly různé způsoby přístupu k datům a jejich využití
- Potřeba standardizace načítání dat, orchestrace a procesů řízení kvality dat napříč celou platformou
Řešení
UD4D pomohlo navrhnout škálovatelnou cloudovou architekturu a současně vyřešit konkrétní potřeby integrace a využití dat napříč jednotlivými projekty.
- Navrhli jsme modulární architekturu na AWS podporující načítání, zpracování, ukládání a zpřístupňování dat
- Definovali jsme integrační vzory a způsoby doplňkového načítání a využití dat přizpůsobené potřebám jednotlivých finančních projektů
- Navrhli jsme bezpečnostní modely pokrývající celý životní cyklus dat, včetně řízení přístupu podle rolí a oddělení řízeného a self-service prostředí
- Zavedli jsme vzory orchestrace využívající Airflow a Matillion, včetně správy závislostí a řízení běhů napříč jednotlivými prostředími
- Navrhli jsme strukturu datových vrstev v Amazon Redshift, která podporuje řízenou i self-service analytiku
- Zajistili jsme soulad se standardy data governance a kvality dat prostřednictvím nástrojů Collibra a Collibra Data Quality
- Podpořili jsme datové modelování v Dataiku a reporting v Power BI
Dopad na byznys
-
19
datových zdrojů sjednocených na jedné platformě
Architektura se z původního způsobu využití EPIC rozrostla na platformu, která načítá data z 19 finančních zdrojů a podporuje 8 analytických aplikací.
-
4
úrovně analytiky
Sjednocená vrstva finančních dat podporuje deskriptivní, diagnostickou, prediktivní i preskriptivní analytiku nad konzistentními daty.
-
2
provozní modely na jedné platformě
Citlivá finanční data jsou bezpečně zpracovávána v souladu s pravidly data governance, a to jak v řízeném, tak v self-service prostředí.
-
3
standardizované klíčové procesy
Standardizované načítání dat, orchestrace a řízení kvality dat urychlují zapojování nových finančních projektů a zkracují dobu jejich realizace napříč jednotlivými oblastmi.
Časté dotazy
Co finanční divize klienta potřebovala?
Škálovatelnou podnikovou datovou platformu schopnou podpořit finanční analytiku, komplexní simulace a budoucí datově řízené iniciativy napříč více finančními doménami.
Jak je platforma navržena?
Jako modulární architektura na AWS (S3, Redshift, Glue, IAM) pokrývající načítání, zpracování, ukládání a konzumaci dat. Orchestrace běží na Airflow a Matillion, načítání dat na frameworku DIFW, modelování v Dataiku a reporting v Power BI.
Jak podporuje řízenou i self-service analytiku?
Datová vrstva v Redshiftu spolu s řízením přístupu na základě rolí odděluje řízené a self-service prostředí, takže citlivá finanční data zůstávají pod governance, zatímco projektové týmy mají flexibilní přístup. Governance a kvalita dat jsou zajištěny přes Collibra a Collibra Data Quality.
Co platforma přinesla?
Rozrostla se z původního use case EPIC na 19 datových zdrojů a 8 analytických aplikací na jedné platformě, umožnila čtyři úrovně analytiky (deskriptivní, diagnostickou, prediktivní, preskriptivní) a standardizovala načítání dat, orchestraci a procesy kvality dat.