Blueprint 1 · Real-Time ML Inference

데이터 계층에서 실시간 ML 추론

스트리밍 데이터 파이프라인 내에서 ML 추론을 직접 수행하여, 데이터가 이동하기 전에 트랜잭션이 발생하는 지점에서 즉시 처리할 수 있습니다.

모든 블루프린트로 돌아가기 »

100ms 미만

Kafka 경로에서의 탐지 지연 시간

4개

PoC 인프라에서 검증된 추론 경로

100%

온프레미스 데이터 운영, 클라우드 ML 서비스 의존성 없음

아키텍처

작동 방식

Blueprint 01

데이터 작동 방식

아키텍처 흐름

01  소스  

트랜잭션 이벤트는 운영 시스템의 기준 데이터(SoR)로 사용되는 EDB Postgres® AI(EDB PG AI)에 직접 기록됩니다. EDB Postgres Distributed가 단일 신뢰 데이터 소스(Source of Truth) 역할을 하며, 4개의 다운스트림 분석 및 추론 경로는 WAL을 통해 데이터를 읽어 처리 시작 전 데이터 이동이 필요하지 않습니다.

  • Debezium
02  스트림  

Debezium은 WAL 변경 사항을 캡처하여 Kafka로 스트리밍합니다. Kafka는 이벤트를 Kafka Direct, ClickHouse(CDC), RisingWave(CDC)의 3개 병렬 다운스트림 경로로 전달합니다. 네 번째 경로인 PGAA는 Kafka를 거치지 않고 WAL을 직접 읽습니다. (참고: Redpanda는 검증된 Kafka 호환 대안입니다.)

  • Kafka/Redpanda
03  집계  

RisingWave는 누적 소비 패턴, 지역 이상 징후 점수, 속도(Velocity) 검사를 위한 스트리밍 머티리얼라이즈드 뷰를 생성합니다. ClickHouse는 복잡한 과거 데이터 집계를 위해 90일간의 행동 기준선 비교를 수행합니다.

  • RisingWave
04  추론  

XGBoost ML 모델은 4개의 모든 경로에서 추론을 수행하며, PoC에서 측정된 지연 시간은 다음과 같습니다. Kafka Direct <100ms TTDF, PGAA 약 1500ms(WAL → Iceberg), ClickHouse 약 3000ms, RisingWave 약 4200ms입니다. (참고: KServe + NVIDIA NIM은 EDB PG AI에서 지원되지만 현재 오픈소스 릴리스에는 포함되어 있지 않습니다. MLflow는 지원되지만 현재 릴리스에서는 통합되어 있지 않습니다.)

  • NVIDIA NIM
05 거버넌스  

Human-in-the-loop 의사결정 게이트는 고위험 에이전트 작업이 실행되기 전에 정책을 적용합니다. Lakekeeper(Vakamo)는 Iceberg REST 카탈로그를 제공하며, 4개의 모든 추론 경로에서 데이터 계보와 접근 제어를 관리합니다.

  • LAKEKEEPER (VAKAMO)
06  저장  

사기 탐지 예측 결과와 운영 알림은 EDB PG AI에 다시 기록됩니다. 과거 추론 결과는 MinIO의 Iceberg 테이블에 저장되어 감사, 모델 재학습 및 장기 분석에 활용됩니다.

  • MINIO

Blueprint 1 · 검증된 파트너

Blueprint 1에서 검증된 파트너

Airflow (Astronomer)

Orchestrates the full lakehouse pipeline — ingestion, dbt transformation triggers, and WarehousePG analytical load — reliably at scale.
Transformation BP 01 BP 03

dbt

Transforms source data natively in Postgres, aligned to BCBS 239, EBA ITS, OMOP CDM, with full lineage per run.
Transformation BP 01 BP 03

Grafana

Monitors Airflow pipeline health, WarehousePG query performance, and lakehouse telemetry in a unified real-time view.
Visualization BP 01 BP 02 BP 03

Jupyter

Connects data scientists directly to governed WarehousePG and Iceberg data for population health and regulatory research.
Development BP 01 BP 03

Kafka / Redpanda

Streams high-velocity event data directly into EDB PG AI pipelines as queryable, transactional records — the ingest backbone for all three inference paths.
Streaming BP 01 BP 02

KServe + NVIDIA NIM

Deploys GPU-optimized model endpoints that execute inference directly against live Postgres data — co-located, not external.
AI serving BP 01

Lakekeeper (Vakamo)

Governs Iceberg table metadata across the lakehouse — unified access control, lineage, and discoverability for regulatory consumers.
Storage BP 01 BP 03

Langflow

Orchestrates LLM reasoning pipelines over Analytics Engine retrieval results, using EDB PG AI as the agent runtime and state layer.
AI/ML BP 01

MinIO

Provides sovereign S3-compatible object storage for Iceberg-formatted inference results, model artifacts, and long-term analytics data.
Storage BP 01 BP 02 BP 03

MLflow

Tracks every model version, experiment, and deployment decision tied to EDB PG AI pipeline runs — full lineage from data to inference.
AI/ML BP 01

RisingWave

Computes streaming materialized views in SQL, producing aggregated features for the ML inference layer in real time.
Streaming BP 01

산업별 활용 사례

운영 환경에서 활용되는 Blueprint 1

  • BFSI(금융 서비스 및 보험)
    BFSI(금융 서비스 및 보험)

    실시간 사기 탐지

    Tier-1 은행은 초당 5만 건의 트랜잭션을 처리하지만, 배치 기반 사기 탐지는 최대 15분의 탐지 지연이 발생할 수 있습니다. Kafka 스트리밍 경로에 XGBoost를 배포하면 탐지 지연 시간을 15분에서 500ms로 단축할 수 있으며, 3개의 병렬 추론 경로를 통해 즉각적인 차단 의사결정과 행동 기반 컨텍스트 보강을 동시에 제공합니다. 모든 데이터는 온프레미스에 유지되므로 클라우드 ML 서비스에 의존하지 않습니다.

검증된 배포 환경

온프레미스, IBM Power, EDB Engineered Systems 또는 모든 클라우드 환경에서 실행할 수 있으며, 모든 환경에서 일관된 Postgres 인터페이스를 제공합니다.

Logos

지금 시작하기—Blueprint 1은 오픈소스입니다.

BFSI 사기 탐지 구현 전체를 GitHub에서 확인할 수 있습니다.
직접 배포하고, 포크하거나, 원하는 환경에 맞게 확장해 보세요.