Операционная база оптимизирована для текущих транзакций. Аналитике нужна история, широкие выборки, агрегации и другой профиль нагрузки. Если BI постоянно читает production напрямую, а разработчики боятся тяжёлого запроса в рабочее время, это уже архитектурный сигнал. AMPE использует Data Architecture & Engineering, чтобы разделить ответственность между операционными данными, интеграционным движением, аналитическим хранением и мастер-данными.
Начать диагностикуОн нужен, когда появляется необходимость: свести несколько источников; хранить историю; стабилизировать бизнес-определения; отделить аналитическую нагрузку; создать витрины; обеспечить воспроизводимость расчётов.
Объём может быть сравнительно небольшим.
Проблема чаще в структуре и ответственности, а не в терабайтах.
В ETL преобразование происходит до загрузки в целевой слой.
В ELT данные сначала попадают в платформу, а трансформации выполняются внутри неё.
Выбор зависит от: платформы; объёма; governance; требований к latency; способа разработки; стоимости вычислений.
AMPE не делает одну схему универсальной для всех потоков.
Когда аналитика зависит от ручных выгрузок.
Когда production-БД испытывает нагрузку от отчётности.
Когда один показатель трудно воспроизвести исторически.
Когда данные из нескольких систем плохо связываются.
Когда DWH вырос без ясных слоёв и ownership.
Когда нужно внедрять CDC или near-real-time аналитику.
Когда мастер-данные и транзакционные данные смешаны без понятной модели.
Change Data Capture позволяет читать поток изменений из источника.
Но дальше всё равно нужны: schema evolution; ordering; deduplication; replay; checkpointing; обработка удаления.
CDC — не «магическое real-time», а конкретный механизм доставки изменений.
Если нужно ответить на вопрос «каким был клиент на момент сделки», текущее состояние уже недостаточно.
Нужно понимать, какие атрибуты должны иметь temporal semantics и как сохраняется изменение.
AMPE проектирует историчность там, где она действительно нужна для анализа, аудита или воспроизводимости.
Если DWH просто копирует таблицы каждого источника, аналитический слой наследует все различия и ограничения операционных систем.
Мы отделяем ingestion от бизнес-модели.
Raw-слой сохраняет происхождение. Core-модель стабилизирует сущности. Data marts подготавливают данные под конкретные потребности.
Границы могут быть другими, но ответственность слоёв должна быть ясна.
Null-rate. Uniqueness. Referential integrity. Freshness. Volume anomalies. Business rules.
AMPE встраивает проверки там, где ошибка появляется, чтобы bad data не распространялись дальше незаметно.
Source systems создают операционный факт.
Ingestion доставляет его. Data platform сохраняет и моделирует. Governance фиксирует ownership и определения. BI и AI используют подготовленный слой. Lineage позволяет пройти обратно до источника.
Так архитектура данных становится системой, а не набором отдельных pipeline.
Операционные и аналитические нагрузки разделяются.
История становится воспроизводимой.
Data pipelines получают понятные SLA.
Качество контролируется ближе к источнику.
Модель данных меньше зависит от случайной структуры приложений.
И главное — данные становятся устойчивой платформой для аналитики, планирования и AI.
Первый шаг
Для начала достаточно описать, где сегодня данные приходится постоянно сводить, перепроверять или получать с опасной нагрузкой на рабочие системы. Диагностика покажет, какой слой архитектуры отсутствует или перегружен.