Как эффективно построить потоковый конвейер данных на базе Evolution Data Platform
Когда отчеты собираются часами, а решения принимаются по вчерашним данным, бизнес теряет скорость реагирования — а значит, и деньги. Все потому, что традиционные ETL-процессы с ежедневными запусками уже не успевают за реальным темпом рынка.
На вебинаре 21 мая эксперт Cloud․ru покажет, как создать отказоустойчивый конвейер с латентностью в минуты вместо часов — без сложной работы с инфраструктурой и лишних затрат.
В программе:
в чем особенность проектирования архитектуры конвейера, обрабатывающего данные в режиме, близком к реальному времени: когда использовать микробатчинг в Managed Spark Streaming, а когда — классический батч-подход;
зачем использовать Managed Trino для единого слоя запросов к «горячим» (в процессе обработки) и «холодным» (архивным) данным без дублирования логики;
как организовать хранение слоев данных в Object Storage с партиционированием по времени для ускорения запросов;
почему стоит использовать метаданные в реальном времени через Managed Metastore для поддержки изменяющейся структуры потоков;
как эффективно визуализировать данные в Managed BI и настроить автообновление дашбордов и алерты на отклонения;
какие способы оценки и контроля латентности конвейера существуют: от генерации события до отображения на дашборде.
Обсуждение 0
Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.
Обсудить в Telegram