Подготовил конспект статьи от Shopify о сетапе Airflow на 10 т | DataEng
Подготовил конспект статьи от Shopify о сетапе Airflow на 10 тысяч DAG'ов со 150 тысячами запусков в день. Сэкономит вам время на прочтении и поможет освежить в памяти в будущем.
#briefly #airflow Airflow: scaling out recommendations by Shopify https://telegra.ph/Airflow-scaling-out-recommendations-by-Shopify-06-03
What's inside: — Cloud Storage vs Network File System. — Metadata retention policy. — Manifest file. — Consistent distribution of load. — Concurrency management. — Using different execution environments.
Origin: Lessons Learned From Running Apache Airflow at Scale