한국GPT협회 표준교재

103. AX 추진 단계와 활동

사내 GPT 하나가 아니라, 흩어진 데이터를 AI가 쓸 수 있게 만드는 전 과정

AX 추진 단계와 활동

Learning Objectives
  • DX(디지털 전환)와 AX(AI 전환)의 차이, 그리고 기존 업무 방식과 무엇이 달라지는지 설명할 수 있다.
  • AX 프로젝트에서 LLM(모델)이 차지하는 비중은 10~20%에 불과하고, 진짜 핵심은 데이터임을 안다.
  • AX 추진 6단계 로드맵과 10단계 활동의 순서·중요도·난이도·소요 기간을 구분할 수 있다.
이해

DX와 AX의 차이

학습 안내읽기. AX를 단계로 나누기 전에, 먼저 DX와 AX가 무엇이고 기존 업무 방식과 어떤 점이 다른지를 잡고 갑니다.

DX디지털 전환 (Digital Transformation)

종이 문서·수기 장부·오프라인 업무를 디지털 데이터와 시스템으로 옮기는 단계. 전자결재·ERP·그룹웨어가 대표적입니다. 핵심은 "업무의 데이터화·전산화" — AX가 쓸 재료(데이터)를 만드는 토대입니다.

AXAI 전환 (AI Transformation)

디지털화된 데이터를 바탕으로 AI가 업무를 읽고·판단하고·실행하는 단계. 사람이 찾고 정리하고 쓰던 일을 AI가 보조·수행합니다. 핵심은 "AI가 일하는 주체로 참여" — DX라는 토대 위에서만 작동합니다.

DX는 데이터를 '만들고', AX는 그 데이터를 'AI가 쓰게' 합니다. 그래서 데이터가 부실하면 AX도 작동하지 않습니다. 일하는 방식 자체가 아래처럼 바뀝니다.

구분기존 방식AX 방식
정보 검색폴더·메일·파일서버를 사람이 일일이 탐색자연어로 물으면 AI가 근거 문서와 함께 즉시 답변
문서 작성빈 화면에서 처음부터 직접 작성초안·요약·번역을 AI가 생성, 사람은 검토·결정에 집중
지식 활용담당자 머릿속·개인 PC에 흩어져 사장(死藏)조직 자산(.md·벡터DB)으로 축적·재사용
반복 업무사람이 조회·정리·연계를 수작업 반복에이전트가 ERP·MES 조회부터 보고서·메일까지 자동 수행
의사결정경험·직관, 일부 자료에 의존흩어진 데이터의 근거를 즉시 종합해 제시
핵심. AX는 단순히 "사내 GPT 하나 도입"이 아니라 일하는 방식 전체를 데이터 중심으로 바꾸는 일입니다. 그래서 성패는 AI 모델이 아니라 데이터 준비에 달려 있습니다 — 다음에서 그 비중과 단계를 봅니다.
KEY POINT · 무엇에 집중할 것인가

AI 모델 선정은 전체의 5%.
진짜 95%는 데이터를 AI가 쓰게 만드는 일입니다.

많은 사람이 어떤 LLM을 쓸지(GPT·Claude·Gemini·오픈소스)와 채팅 화면을 어떻게 만들지를 가장 중요하게 여깁니다. 하지만 실제 기업 AX 프로젝트에서 모델 선정이 차지하는 비중은 약 5%이고, 함께 중시되는 UI조차 5% 안팎에 불과합니다. 나머지 95%는 흩어진 문서를 모으고, 정제하고, AI가 읽을 수 있는 형태로 바꾸고, 검색(RAG) 품질을 높이고, 권한과 운영을 갖추는 — 전부 데이터에 관한 일입니다.

5%
95%
5% · AI 모델 선정
95% · 데이터 수집·정제·변환 · RAG · 메타데이터 · 평가 및 운영(UI 포함)

좋은 모델을 붙이는 일은 누구나 할 수 있습니다. AI에게 신뢰할 수 있는 데이터를 먹이는 일이 어렵고, 그래서 AX의 성패를 가릅니다.

프로세스

AX 추진 단계와 활동

학습 안내흐름 따라가기. 위쪽 6단계 로드맵으로 큰 흐름을 잡고, 아래 10단계 전환 활동에서 각 단계의 중요도·난이도·기간 배지를 확인하십시오. 색이 들어간 02~06 카드가 데이터를 수집·정제·변환·구조화하는 구간으로, AX에서 가장 중요하고 오래 걸립니다.

많은 기업이 AX를 "사내 GPT 하나 만드는 프로젝트"로 생각하지만, 실제로 LLM(모델) 자체는 전체의 10~20%에 불과합니다. 아래 6단계 로드맵과 10단계 활동이 나머지 80~90%의 실체 — 데이터를 모으고·정제하고·검색 가능하게 만들고·운영하는 과정입니다. 중요도가 가장 높은(★★★★★) 활동 대부분이 데이터 관련이라는 점에 주목하십시오.

한눈에 보는 6단계 로드맵

PHASE 1
현황 분석·요구사항
2~4주
PHASE 2
데이터 수집·정제
1~3개월
PHASE 3
문서 변환·임베딩
1~2개월
PHASE 4
RAG·검색 고도화
1~3개월
PHASE 5
에이전트·업무 연계
1~2개월
PHASE 6
평가·보안·배포
1개월~

10단계 전환 활동 — 중요도 · 난이도 · 기간

01
AI 모델 선정
중요도 ★★★난이도 보통2~4주

GPT·Claude·Gemini·Llama·Qwen — 무엇을 써도 성능 차이는 생각보다 작다. 모델보다 참고하는 데이터 품질이 결과를 결정한다.

02
문서 수집
중요도 ★★★★★난이도 낮음2~6주

SharePoint·NAS·Notion·Confluence·ERP·MES·이메일에 흩어진 문서를 모은다. 같은 문서 여러 개·버전 혼란·최신본 불명이 문제. 시간이 가장 오래 걸린다.

03
문서 정제(Cleansing)
중요도 ★★★★★난이도 보통1~3개월

'작업표준_최종_진짜_최종.doc' 문제. AI는 모두 진실로 믿는다. 최신본 선정·폐기문서 제거·중복 제거가 필수. 가장 과소평가되는 단계.

04
AI가 읽기 쉬운 형태로 변환
중요도 ★★★★★난이도 다소 높음1~2개월

PDF를 그대로 넣지 않는다. OCR→Markdown→Heading 구조→Table 추출→이미지 Caption→Chunk. Chunking 품질이 검색 품질을 거의 결정한다.

05
메타데이터 구축
중요도 ★★★★난이도 보통2~4주

문서명·부서·작성일·버전·보안등급·제품·공정·설비 등 태그. 알루미늄 공정만 찾아줘 같은 질문을 AI가 정확히 이해하게 만든다.

06
벡터DB 구축
중요도 ★★★★난이도 보통2~4주

문서→Embedding→Vector 저장. Milvus·Qdrant·pgvector·Pinecone 등을 사용한다.

07
RAG 품질 개선
중요도 ★★★★★난이도 매우 높음1~3개월

실제로 가장 어려운 기술. 검색이 조금만 틀려도 AI는 엉뚱한 답을 한다. Hybrid Search·Reranker·Query Rewrite·Multi-query·Metadata Filtering으로 개선.

08
Agent 구축
중요도 ★★★★난이도 매우 높음1~2개월

단순 채팅이 아니라 ERP·MES 조회→문서 검색→보고서·메일 작성으로 이어지는 Workflow. MCP·Function Calling·Tool Calling이 등장한다.

09
UI 개발
중요도 ★★★난이도 보통1개월

생각보다 쉽다. Chat UI·파일 업로드·대화 기록·피드백 정도만 있어도 충분하다.

10
평가 및 운영
중요도 ★★★★★난이도 매우 높음지속

권한: 검색 단계부터 접근 권한을 확인한다(생산팀이 인사평가 문서를 볼 수 없듯). 평가: 질문·정답 비교로 품질을 측정한다(없으면 좋아졌는지조차 모른다). 운영: 로그·비용·품질을 지속 모니터링한다.

핵심. 색이 들어간 02~06 — 데이터를 수집·정제·변환하고 구조화(메타데이터·벡터DB)하는 구간이 AX의 진짜 무게중심입니다. 이 작업은 중요도가 최고(★★★★★)이면서 가장 오래 걸리고(보통 수 개월) 손이 많이 갑니다. 모델 선정(01)·UI(09)는 빠르고 쉽지만, 데이터 정제와 변환에서 품질이 무너지면 아무리 좋은 모델도 엉뚱한 답을 내놓습니다.
사례

프로젝트 시간 배분

학습 안내비교. 전체 노력을 100으로 봤을 때 각 작업이 차지하는 비중입니다. 회색 막대(AI 모델)와 파란 막대(나머지)의 길이 차이를 보십시오.

실제 AX 프로젝트의 노력을 100으로 환산하면 대략 아래와 같습니다.

문서 수집·정리
25%
문서 변환·정제
20%
RAG 품질 개선
20%
권한·보안
10%
Evaluation
10%
UI
5%
기타 운영
5%
AI 모델 선정
5%

회색(5%)은 흔히 가장 중요하다 여기는 AI 모델 선정, 파란색(95%)은 데이터 수집·변환·검색·보안·평가·운영(UI 포함)입니다.

핵심. 좋은 AI 모델을 붙이는 일은 전체 노력의 약 5% 수준인 경우가 많고, 나머지 95%는 데이터를 준비하고, 검색 품질을 높이고, 보안과 운영을 갖추는 일에 집중됩니다.
일정

전체 AX 프로젝트 일정(예시)

학습 안내기간 감각 잡기. 단계별 기간과 산출물을 보고, 우리 조직이라면 어디에 가장 많은 시간이 들지 가늠해 보십시오.

단계기간주요 산출물
1. 현황 분석 및 요구사항2~4주AX 로드맵, 우선순위
2. 데이터 수집·정제1~3개월정제된 문서 저장소
3. 문서 변환·임베딩1~2개월AI 친화적 데이터, 벡터DB
4. RAG 및 검색 고도화1~3개월정확한 검색·답변 시스템
5. 에이전트 및 업무 연계1~2개월ERP·MES·메일 등과 연동
6. 평가·보안·배포1개월품질 검증, 권한 체계, 운영 환경
3~4개월
최소 기능 제품(MVP)까지
6~12개월
현업이 신뢰·사용하는 실전 AX 플랫폼

중견기업 기준으로 MVP는 약 3~4개월, 현업에서 신뢰하고 사용할 수 있는 실전 AX 플랫폼은 6~12개월 정도가 일반적입니다. 특히 제조업에서는 ERP·MES·PLM·품질 시스템·기술 문서·작업표준서 등 다양한 데이터 소스를 연결해야 하므로, LLM 자체보다 데이터 거버넌스와 RAG 품질 확보가 프로젝트 성공을 좌우하는 핵심 요소가 됩니다.

과정 정리
  • DX(데이터를 만든다)와 AX(데이터를 AI가 쓰게 한다)의 차이, 그리고 기존 업무 방식과의 차이를 설명할 수 있다
  • AX에서 LLM(모델)은 전체의 10~20%, 데이터 관련 작업이 약 95%임을 안다
  • AX 추진 10단계의 순서(모델 선정 → 수집 → 정제 → 변환 → 메타데이터 → 벡터DB → RAG → Agent → UI → 평가 및 운영)를 안다
  • 가장 어려운 단계는 RAG·Agent·평가 및 운영(난이도 ★★★★★)이고, 시간이 가장 오래 걸리는 단계는 문서 수집·정제임을 구분한다
  • 중견기업 기준 MVP 3~4개월, 실전 플랫폼 6~12개월의 일정 감각을 갖는다