현업 부서와의 협업에서 마주하는 AX(AI 전환) 도입의 딜레마와 전략적인 돌파구

최근 많은 기업과 부서에서 AI의 가능성을 목도하고 AX(AI Transformation, AI 전환)를 도입하고자 하는 움직임이 활발합니다. 저 역시 엔터프라이즈 환경에서 레거시 시스템을 AI 기반으로 혁신하는 역할을 수행하며 다양한 서비스 오너(Service Owner)들과 협업하고 있습니다.

하지만 막상 현업 부서들과 기획 회의를 진행하다 보면, 가장 자주 마주치게 되는 역설적인 딜레마가 있습니다.

“우리 부서 서비스에 최신 AI(AX)를 전면 도입해 주세요! 단, 기존에 우리가 일하던 방식이나 레거시 요구사항들은 그대로 100% 유지되어야 합니다.”

이는 사실상 뜨거운 아이스 아메리카노를 주문하는 것과 같습니다. 기존의 단단하게 하드코딩된 비즈니스 로직과 화면의 모든 버튼들을 그대로 둔 채로, 그 위에 AI를 단순히 ‘부품’처럼 끼워 넣기를 바라는 접근 방식이죠. 이러한 조건들은 유연하고 능동적으로 동작하는 에이전트(Agentic AI)나 자유로운 형태의 LLM 기반 서비스가 제 능력을 발휘하지 못하도록 하는 가장 큰 방해물이 됩니다.

여기에 더해 ‘분절된 협업 구조’라는 또 다른 뼈아픈 문제가 발생합니다. 기존 시스템을 개발하고 유지보수 해 온 ‘기존 업체(또는 레거시 전담 팀)’와, 새롭게 기술을 적용하려는 ‘신규 AX 도입 팀’이 서로 다를 경우 협업의 벽에 부딪힙니다. 서로 지향하는 목표와 KPI가 다르다 보니, 레거시 팀은 시스템 변경을 최소화해 안정성을 방어하려 하고, AX 팀은 새로운 AI 워크플로우를 주입하기 위해 시스템을 열어달라고 요구하면서 소통 비용과 갈등이 기하급수적으로 증가하게 됩니다.

그렇다면, 이러한 딜레마와 협업의 장벽을 어떻게 해결하고 성공적인 AX를 이끌어낼 수 있을까요? 예전에 All About LLM을 정리하며 작성했던 AX 성공 전략의 3가지 핵심 축(Process, People, Platform)을 현재의 상황에 대입해 그 돌파구를 모색해 보았습니다.

---

성공적인 AX를 위한 3가지 돌파구: Process, People, Platform

성공적인 AI 전환은 단순히 성능 좋은 AI 모델(LLM)을 사서 레거시 위에 얹는다고 이루어지지 않습니다. 조직의 체계(Process), 일하는 사람의 사고방식(People), 그리고 이를 받쳐주는 기술적 토대(Platform)가 완전히 새롭게 결합해야만 합니다.

1. Process: ‘AI 추가(Add-on)’가 아닌 ‘비즈니스 재설계(AI First)’

AI를 단순한 ‘기능 추가’로 보면 안 됩니다. 기존 요구사항을 무조건 100% 유지하는 것이 아니라, AI의 특성에 맞게 비즈니스 프로세스 자체를 재설계해야 합니다.

• 선제적 ROI 산정 및 지표 설정 (Pre-ROI Analysis) 도입 전 가치를 명확히 측정해야 합니다. “기존 방식을 그대로 유지하면서 AI를 얹었을 때”의 ROI와, “AI 중심으로 프로세스를 개편했을 때”의 ROI를 비교하여 서비스 오너들을 설득해야 합니다. 단순한 ‘모델 성능’을 넘어서 시간 절감액, 매출 증대 기여도 등 비즈니스 관점의 지표를 사전에 정의해야 기존 프로세스를 포기할 명분이 생깁니다.
• 유즈케이스 우선순위 선정 & Pilot Project 단번에 시스템 전체의 요구사항을 뒤엎을 수는 없습니다. Impact(효과)와 Feasibility(실현 가능성)를 따져 Low-hanging fruit(가장 쉽게 달성 가능한 성과)부터 공략해야 합니다. 이 과정에서 얻은 작은 성공(Small Win)은 서비스 오너들의 신뢰를 이끌어내고, 레거시를 포기해도 좋다는 확신을 줍니다.

2. People: 서비스 오너와 현업의 ‘역할 재정의’와 리터러시

가장 설득하기 힘든 것은 결국 ‘사람’입니다. 기존의 요구사항 고수는 변화에 대한 막연한 두려움과 기존 통제력을 잃는 것에 대한 거부감에서 비롯될 때가 많습니다.

• AI 리터러시(Literacy) 강화 서비스 오너와 도메인 전문가들이 AI의 한계와 가능성을 이해하도록 도와야 합니다. AI가 만능이 아니며, 지시대로만 움직이는 기존의 룰 베이스(Rule-based) 프로그램과 달리 유연성을 내재하고 있다는 점을 인지해야 ‘기존 방식을 완전히 똑같이 유지해달라’는 요구가 줄어듭니다.

• 역할의 재정의 (Role Redesign) - AI Orchestration 기존 서비스 오너와 현업의 역할은 더 이상 ‘실무 수행자’나 ‘요구사항 하달자’가 되어서는 안 됩니다. 인간의 역할은 ‘AI 협업 오케스트레이터’로 변화해야 합니다. AI가 도출한 결과를 검증하고 고차원적인 비즈니스 의사결정을 내리는 데 집중할 수 있도록 변화 관리를 유도하는 것이 중요합니다.

• 원팀(One-Team) 마인드셋과 공동 거버넌스 구축 기존 레거시 업체와 신규 AX 팀 간의 협업 갈등을 풀기 위해서는 공동의 KPI 설정이 필수적입니다. ‘안정성’과 ‘혁신’이라는 서로 다른 목표를 쫓아 대립하는 것이 아니라, “AI 도입을 통한 최종 비즈니스 가치 창출”이라는 하나의 목표 아래 협력할 수 있도록 강한 리더십 기반의 거버넌스 조율과 실무 협의체 구성이 뒷받침되어야 합니다.

3. Platform: 기존에 없던 ‘지능형 인프라’와 ‘AI 친화적(AI-Friendly)’ 환경 구축

위의 두 가지가 준비되어도, 이를 구현할 환경이 없으면 겉돌게 됩니다. 특히 기존 시스템의 UI나 작동 방식을 그대로 유지한 채로 AI만 붙이려 할 때 발생하는 가장 치명적인 문제는 바로 ‘사용성의 극심한 제약’입니다.

• AI-Native UX 및 환경 재설계 (AI-Friendly Environment) AI가 진정한 영향력을 발휘하려면 AI가 잘 동작할 수 있는 무대를 먼저 깔아주는 것이 최우선 과제입니다. 백엔드 중심의 DX(Digital Transformation)도 중요하지만, 프론트엔드와 웹사이트 자체를 ‘AI 친화적(AI-Friendly)’으로 만들어야 합니다. 고정된 정적 화면 대신 AI의 응답에 따라 UI가 동적으로 구성되는 Generative UI를 고려하거나, AI 에이전트가 쉽게 시스템을 조작할 수 있도록 컴포넌트들을 API화 해야 합니다.

• 에이전틱 인프라 (Agentic Infrastructure) 단순히 묻고 답하는 챗봇이 아닌, 레거시 시스템의 API들과 유기적으로 연동되어 실행이 가능한 에이전틱 워크플로우를 지원해야 합니다. MCP(Model Context Protocol) 등 표준 인터페이스를 활용하여 기존 시스템의 도구와 AI를 자연스럽게 엮어줄 수 있습니다.

• AI-Ready 데이터 환경 (RAG 기반 지식 베이스) 기존 서비스 오너가 요구하는 “우리만의 도메인 지식 유지”는 RAG(Retrieval-Augmented Generation) 시스템으로 대응할 수 있습니다. 흩어져 있는 사내의 비정형 데이터를 AI가 쉽게 검색하고 활용할 수 있는 벡터 DB 등을 단단하게 구축하여 레거시 데이터와의 호환성을 높여야 합니다.

---

결론: 지속 가능한 AX를 향해

현업 서비스 오너들이 “기존 것은 다 유지하면서 AI를 붙여주세요” 라고 요청하는 것은 어찌 보면 당연한 일입니다. 지금까지 그들이 겪어온 소프트웨어 개발의 패러다임이 그러했기 때문입니다.

결국 AX 시대의 개발자와 엔지니어에게 요구되는 리더십은 단순히 코드를 짜고 모델을 서빙하는 것을 넘어섭니다. 우리는 Process, People, Platform이 맞물려 돌아가는 선순환 구조(AI Flywheel)를 그리고, 지속적으로 서비스 오너들과 타협하고 설득해 나가는 능력을 갖추어야 합니다. AI 전환은 한 번의 프로젝트로 끝나는 모듈 추가 작업이 아니라, 회사의 근본적인 문화를 바꾸는 기나긴 여정이기 때문입니다.