AI 전환(AX, AI Transformation)이 화두입니다. 이사회 안건에 오르고, 예산이 배정되고, 조직도가 바뀝니다. 그런데 막상 현장에 가보면 의외의 장면을 마주치게 됩니다. AI 도입을 선언했지만 정작 모델이 학습할 데이터가 어디 있는지 아무도 모릅니다. 부서마다 각자 다른 포맷의 엑셀이 있고, 시스템 간 데이터 연동은 야간 배치 스크립트 하나가 간신히 이어주고 있습니다.
이런 조직에서 AI가 성과를 낼 수 있을까요? 결론부터 말씀드리면 불가능에 가깝습니다.
AI는 데이터 위에서만 작동한다
AI 모델은 입력 데이터의 품질과 접근성에 절대적으로 의존합니다. 아무리 최신 LLM을 도입해도, 파인튜닝 예산을 쏟아부어도, 데이터가 없거나 신뢰할 수 없거나 제때 도착하지 않으면 모델은 아무 소용이 없습니다. 오히려 해롭습니다. 쓰레기 데이터로 학습한 모델은 그럴듯하게 틀린 답을 반복합니다.
"AX는 DX의 연장선"이라는 말이 있습니다. 맞는 말이지만 순서가 중요합니다. DX(Digital Transformation)의 핵심은 비즈니스 프로세스를 디지털로 옮기고, 그 과정에서 발생하는 데이터를 흘려보낼 수 있는 인프라를 만드는 것입니다. 이게 없으면 AX는 모래 위에 집을 짓는 일입니다.
데이터가 흐르는 인프라의 4가지 요소
1. 데이터 수집 — 디지털 접점 확보
모든 것은 데이터를 만드는 것에서 시작됩니다. 오프라인 프로세스를 디지털로 전환해 이벤트가 기록되게 해야 합니다. POS 시스템, ERP, CRM, 웹/앱 로그, IoT 센서까지 각 접점이 정형화된 이벤트를 발행해야 합니다.
아직 종이 기반 프로세스가 많다면 AI 이전에 디지털화 투자가 먼저입니다.
2. 데이터 통합 — 파이프라인과 표준화
수집된 데이터는 서로 다른 형식으로 흩어져 있습니다. 이를 하나의 흐름으로 연결하는 데이터 파이프라인이 필요합니다. 실시간 스트리밍(Kafka, Kinesis)이든 배치(Airflow, dbt)든 핵심은 단일 진실 공급원(Single Source of Truth) 을 만드는 것입니다.
파이프라인보다 중요한 건 스키마 표준화입니다. 부서마다 "고객 ID"의 포맷이 다르다면 통합은 불가능합니다. 공통 데이터 모델(CDM) 정의에 시간을 투자해야 합니다.
3. 데이터 저장 — 목적에 맞는 저장소
- 데이터 웨어하우스(BigQuery, Snowflake): 분석용, 구조화된 데이터
- 데이터 레이크(S3, GCS): 비정형 데이터, 원시 로그
- 피처 스토어(Feast, Tecton): ML 모델용 특성값 관리
AI를 도입할 계획이라면 피처 스토어까지 고려해야 합니다. 모델이 학습 시점과 서빙 시점에 동일한 특성값을 사용하도록 보장하는 장치입니다.
4. 데이터 거버넌스 — 신뢰할 수 있는 데이터
데이터 카탈로그, 데이터 품질 모니터링, 접근 권한 관리, 개인정보 처리 방침. 지루하게 들리지만 이게 없으면 AI 모델이 사용하는 데이터를 아무도 믿지 않습니다. AI 의사결정의 신뢰도는 데이터 거버넌스에서 나옵니다.
흔한 실패 패턴 3가지
"AI 먼저 도입하고 데이터는 나중에"
가장 흔하고 가장 비싼 실수입니다. AI 프로젝트를 시작한 후에야 데이터 문제를 발견하게 됩니다. 결국 PoC는 멈추고 예산은 날아갑니다.
"데이터 플랫폼팀만의 일"
데이터 인프라를 IT 부서의 백오피스 업무로 취급하면 실패합니다. 어떤 데이터가 비즈니스에 가치 있는지는 현업이 알고 있습니다. 현업-데이터-IT의 공동 오너십이 필요합니다.
"한 번에 완벽하게"
완벽한 데이터 플랫폼을 설계하다 1~2년을 소비하는 조직이 있습니다. 작게 시작해서 빠르게 배우는 접근이 낫습니다. 한 개의 비즈니스 도메인에서 파이프라인을 만들고 AI를 적용해보면 무엇이 부족한지 바로 보입니다.
단계적 접근: DX → 데이터 → AX
1단계에서 핵심 비즈니스 프로세스를 디지털화하고, 2단계에서 데이터를 연결·표준화하고, 3단계에서 AI를 올립니다. 각 단계는 이전 단계의 결과물 위에서 작동합니다.
조직마다 현황이 다릅니다. 어떤 조직은 이미 DX가 성숙해 AX 준비가 됐고, 어떤 조직은 아직 1단계 중간입니다. 중요한 건 자신이 어디 있는지 정확히 아는 것입니다.
우리 조직의 AX 준비 수준은?
AXQ는 이런 질문에 답하기 위해 만들었습니다. Gartner·Cisco·Microsoft 의 AI Readiness 프레임워크를 기반으로 30문항을 통해 데이터 인프라, 거버넌스, 전략 정합성, 인재, 문화, 기술 6개 차원을 진단합니다. 5분이면 충분하고, 로그인도 필요 없습니다.
지금 우리 조직이 AX 준비가 됐는지, 아직 DX가 먼저인지 확인해보세요.