ADVERTISEMENT - LEADERBOARD

Автоматизированный контрольный журнал ETL и регистрация происхождения данных

Seed: ETL steps table: Source, Transform, Target, LastRun, RowCount; Use formulas to compute deltas and alert if unusual
ADVERTISEMENT - IN-ARTICLE

Руководство

В этой книге документируются процессы ETL с картированием родословной и автоматическими контрольными журналами.Отслеживайте исходные файлы, сценарии преобразования, метки времени последнего запуска, количество строк и владельцев данных.Вычисляйте различия в количестве строк и показателях качества данных и отмечайте аномалии.Ведите журнал изменений, в котором фиксируются изменения схемы, сопоставления полей и версии преобразования для поддержки отладки и соответствия требованиям.Экспортируйте таблицы происхождения для поддержки программ управления данными и быстрого привлечения новых аналитиков.Для производственных систем интегрируйтесь с вашими инструментами оркестрации/метаданных;эта рабочая тетрадь служит рабочим инструментом для небольших команд.
ADVERTISEMENT - STICKY