Discussion
본 포럼 주제와 관련하여 네이버클라우드 사업개발/전략 총괄을 맡은 유경범 상무, Kearney의 신정훈 파트너가 함께 더 깊은 인사이트를 위한 Discussion을 진행했다. Discussion 핵심 주제는 ‘실제 현장에서 AI 투자에 대해 어떤 어려움이 있고, 이를 어떻게 극복하고 있는지’이다.
주제1. 현실의 어려움과 극복 방안
“많은 기업들이 Use Case Library 단계에서 ‘아이디어는 많은데 실행이 안 된다.’는 어려움을 겪는다.
네이버클라우드는 어떤 방식으로 ‘빠른 검증’을 가능하게 하고 있는가?”
리더십과 조직 구조
AX는 특정 부서의 ‘숙제’가 아닌 기업의 ‘핵심 아젠다’
먼저 조직 구조를 점검해보자. 조직 구조에 따라 AX(AI Transformation)를 어떻게 진지하게 바라보고 있는지를 판단할 수 있다. 실제로 일부 기업은 AX 전담 조직을 별도로 두고 있는 반면, 그렇지 않은 경우에는 과거 디지털화를 담당하던 조직이나 IT 조직이 해당 역할을 일부 대체하고 있다. 이러한 구조에서는 실행력 측면에서 한계나 이슈가 발생할 가능성이 높다.
많은 기업들은 AX를 기업의 중장기적 성장을 견인할 수 있는 전략적 아젠다라고 인지하고 있다. 이러한 관점에서, 최근에는 AX 조직을 오너 또는 대표 직속으로 배치하고 있는 추세다.
예시: 현업 부서들과 Cross-Functional Cell 형태의 협업
AX 실행 조직은 대표/오너 직속에 위치할 수 있으나, 실제 이들은 기획, 전략, 마스터플랜 등을 도출하는 역할을 수행한다. 본질적으로 이러한 기능은 현업 부서가 담당할 영역이며, 이를 분리하여 수행한다면 그림만 예쁘게 그리고 실행력이 떨어지는 구조가 될 수 밖에 없다. 마스터플랜 수립 단계부터 현업과의 긴밀히 협업해야 한다.
이에 따라 목적 기반의 Cell(Unit) 또는 스쿼드 형태로, 기능과 부서를 넘나드는 협업 구조를 운영하는 것이 효과적이다. 테슬라는 제조, 소프트웨어, AI 조직이 분리되어 있지만, 과제 단위에서는 스쿼드 형태로 결합해 동일한 목표를 향해 움직인다. 반면, 일부 기업에서는 전략 조직과 현업 조직 간 역할 분리로 인해 “왜 우리가 해야 하는가“라는 저항이 반복적으로 발생한다. 이 간극은 결국 오너 또는 대표 차원의 개입 없이는 해소되기 어렵다.
► AI 담당자와 현업 담당자와의 cell 방식 협업이 효과적
ROI 관점의 실용적 Approach 검토
AX 접근 방식 2가지
AX 이전에 조직 차원의 접근 방식 정립이 선행되어야 한다. 실제 현장에서 제기되는 주요 우려는 다음과 같다. 먼저, 기술과 시장 변화 속도가 빠른 상황에서 현재 투자가 무력화될 가능성에 대해 걱정한다. ‘내년에 새로운 기술 나오면, 올해 들인 노력이 물거품 되는 것이 아닌가’ 하는 것이다. 두 번째, 이제 모든 사람의 스마트폰에서 AI를 활용할 수 있게 되면서, 기대치와 현실 간 격차에 대한 우려다. ‘기업에 AI를 도입하는 것은 한계가 있는데 그 격차를 어떻게 메울 것인가’ 하는 것이다. 세 번째는 비용 이슈다. GPU를 포함한 인프라 비용과 조직 내부 협업에 대해 부담을 느낀다.
이러한 복합적인 고민 속에서 전문 파트너와의 협업은 실질적인 대안이 될 수 있다. 다만, AX와 같은 전사적 과제는 경영진의 스폰서십 없이는 추진력을 발휘할 수 없다. 실제로 많은 기업들이 CXO와 먼저 논의하며 방향성을 설정하고, 이에 기반해 세부 과제를 전개하고 있다. 네이버 클라우드에서 제안하는 AX 접근 방식은 다음 두 가지다.
1) Tailored AX: 이미 AI 도입 경험이 있거나, 차별화된 성과를 목표로 하는 기업을 대상으로 한 맞춤형 접근이다. 본 세미나에서 언급한 내용처럼, 산업 특성에 따른 유형을 파악하고, 유즈 케이스를 연결한 후, 에이전틱 AI, 온톨로지 등 요소들을 통합적으로 설계해 기업 KPI를 개선하는 방식이다. 시간과 비용은 많이 들지만, 도입 경험이 있는 기업은 대부분 이 접근 방식을 택한다.
2) Fast Track AX: AI 도입을 처음 하거나 비용적인 부담이 클 때 적용하는 접근 방식이다. ‘Small bite’ 방식으로 빠르고 가볍고 저렴하게 접근할 수 있으며, 이를 통해 실제 효과를 체감하면 본격적인 확산 여부를 결정한다.
안전/제조 영역에서의 ROI 변화 예시
과거에 했던 DT, DX 사례와는 다른 사례가 많이 나오고 있다. 예를 들어 과거의 스마트 CCTV는 하드웨어 교체, 전용 모델 탑재, 고객 데이터 학습 및 지속적 고도화 과정을 거쳐야만 그나마 활용할 만한 수준으로 만들 수 있었다. 그러나 최근에는 VLM(Visual Large Language Model)을 기반으로 한 새로운 접근이 등장하고 있다. 기존 CCTV 인프라는 모두 유지한 채, 영상이 모이는 중앙 콘솔에 VLM 기반 분석 시스템을 연동하는 방식이다. 예를 들어, ‘마스크를 착용하지 않은 사람을 탐지해줘’라는 프롬프트를 입력하면 영상 분석을 자동으로 수행해 알림을 준다. 하드웨어 교체 없이 구현 가능하며, 비용 효율적일 뿐만 아니라 모델 고도화에 따라 성능도 지속적으로 좋아진다. 이는 AX가 실제로 ROI 개선에 기여할 수 있음을 보여주는 사례다.
► Fast-Track SaaS 솔루션 및 AI 도입 통한 Quick-Win 효과 창출
Fast-track AX 사례
물류 산업
물류 분야의 CXO는 온톨로지 기반의 데이터 연결, 고도화된 상관관계 분석 등 최신 기술 구현에 관심이 높다. 그러나 안타깝게도 실제 투자 단계에서 GPU, 데이터 처리 비용, 인건비까지 고려하면 현실적인 부담이 커 실행이 어려워지는 경우가 많다.
따라서, 초기 단계에는 눈에 보이는 명확한 손실(Loss)를 개선하는 것에 집중하는 것이 더 효과적이다. 예를 들어, 10대 장비 중 5대가 비효율적으로 운영되고 있다면 이를 최적화하고, 나아가 3대로도 줄일 수 있을지 설계하는 것이 보다 현실적인 개선 방향이다. 배차 최적화, 권역의 유연한 조정, 적재 효율 증대 등이 비교적 가볍고 빠르게 시도할 수 있는 영역이며, Fast-track AX에 적합한 과제라고 볼 수 있다.
제조 산업
제조업에서 예지보전은 오래된 주제이지만, 대기업과 중견 및 중소기업 간 접근 격차는 큰 편이다. 대기업은 고급 장비와 인프라를 기반으로 분석과 모델 고도화가 비교적 쉽지만, 중견 및 중소기업에게 동일하게 접근하는 것은 현실적으로 쉽지 않다. 그러나, 최근에는 소형 센서를 모터 위에 부착하고, 해당 데이터를 무선으로 수집 및 분석함으로써 가동률을 최적화할 수 있다. 과거에는 상상하기 어려웠던 접근이 기술 발전으로 현실화되면서, 비용 대비 효과가 높은 Fast-track AX 적용이 가능해졌다.
네이버 데이터 기반 상품 기획 및 마케팅 전략 고도화
네이버의 사용자 행동 데이터 자체를 직접 제공할 순 없지만, 해당 데이터를 학습한 파운데이션 모델을 SaaS 및 API 형태로 활용할 수 있다. 기업이 보유한 자체 데이터와 결합할 경우, 상품기획, 수요예측, 광고 타켓팅 고도화, 광고 비용 최적화 등에서 비교적 빠르게 성과를 낼 수 있다.
온톨로지
Price Agent
온톨로지 기반의 Price Agent는 시장 경쟁 가격 변동을 실시간으로 모니터링하고 이에 즉각 대응하는 Dynamic pricing AI 시스템이다. 사전에 학습된 모델이 데이터 간 상관관계를 자동으로 파악하고, 이를 연결 및 해석하여 가격 전략에 반영할 수 있도록 지원하는 것이다. 이를 통해 유통, 호텔, 여행 산업 등 경쟁이 치열한 영역에서 경쟁사의 가격 변화를 보다 신속하게 인지하고, 재고를 최소화하면서 판매 기회를 극대화하는 전략적 대응이 가능해진다. 기존 대비 의사결정 속도를 단축할 수 있다.
Sourcing Agent
온톨로지 Sourcing Agent는 자사 대비 타 플랫폼의 인기 상품, 고성장 상품, 저가 상품을 자동으로 식별해 소싱 의사결정을 지원하는 AI 시스템이다. 특히 시장 변화에 따라 빠른 판단과 실행이 요구되는 유통 산업에서, 상품 소싱 과정을 자동화함으로써 MD 담당자의 부담을 줄이고 의사결정 속도를 높일 수 있다.
주제2. 전략적 선택: Value Focus
“AI를 모든 영역에 일괄 도입하기보다는, ‘가치가 명확한 영역에 선별적으로 적용한다.’는 것이 중요해졌다.
네이버클라우드는 이러한 ‘Value Focus’ 전략을 어떤 기준으로 판단하고 있는가?”
AI는 비즈니스 변화를 위한 수단
AI 도입 및 활용은 ‘목적’이 아닌 ‘수단’
AI는 기업의 문제를 정의하고 해결하기 위한 다양한 수단 중 하나일 뿐, 그 자체가 목적이 되어서는 안된다. 실제로 많은 과제가 생성형 AI를 적용하지 않아도 경량 모델, 기존 API, 룰 기반 시스템 등으로 충분히 해결 가능한 사례임에도, 경영진의 의사결정만으로 무분별하게 도입되는 경우가 빈번했다. 이로 인해 ‘AI를 도입한 기업’이라는 마케팅적 성과는 남았지만, 높은 운영 비용과 낮은 활용도로 인해 실질적인 성과로 연결되지 않는 문제가 발생한다. AI와 기술 테마 자체에 집착해선 안 된다.
이는 과거 클라우드 도입 과정에서도 반복된 현상이다. 일부 환경은 온프레미스 환경이 더 효율적임에도 불구하고, 기술 자체가 목적이 되면서 맹목적으로 클라우드로 전환시켜 버렸다. 목적의식 없이 남들 한다고 따라하면 문제가 된다.
중요한 것은 애플리케이션 레이어에서 무엇을 할지 명확히 정의하고,해당 목표를 가장 효율적으로 달성할 수 있는 도구로서 기술을 선택해야 한다는 점이다. 최근에 AX 과제를 경험한 고객사를 많이 만난다. 그러나 몇 회사는 각 부서가 숙제처럼 AX를 수행하거나, 파편적으로 진행하거나, ‘사람 뽑아서 추진 시켰는데, 무엇이 좋아졌는지‘에 대한 요구를 받는다. 이에 모든 AX 활동을 기업의 핵심 KPI(비용 절감, 매출 증대 등)와 직접적으로 연결시킬 필요가 있다.
따라서 AX는 개별 과제가 아닌, 기업 차원의 마스터플랜을 하에서 추진되어야 한다. 또한 이 계획은 특정 시점의 스냅샷으로서 지속적으로 고도화 및 업데이트 되어야 한다. 공통의 지향점 없이 파편적으로 실행할 경우, 책임 소재와 성과 측정에 대한 문제가 발생할 가능성이 높다.
문제 인식 - 예시
AI의 가치는 기술이 아니라 ‘비즈니스 목적’에 있다
과거 AICC(인공지능 컨택센터) 도입 사례를 보면, 뚜렷한 비즈니스 목적 없이 ‘도입’ 자체를 목표로 시작한 사례가 많았다. 안타깝게도 성공 사례는 거의 없었다. 기술 성숙도, 비용 등 여러 한계가 존재했기 때문이다. 반면, ‘동종 업계 대비 CS 비용이 과도하게 지출되고 있다’라는 문제를 명확히 정의하고, 이를 개선하기 위한 다양한 수단 중 하나로서 AICC를 선택한 경우에는 성과를 측정하고 추적할 수 있는 구조를 설계할 수 있다. 즉, AI는 비즈니스 이슈에 대한 해결 수단으로 접근되어야 하며, 도입 자체를 목적으로 설정할 경우 효과를 입증하기도 어렵고 실패 확률이 높아진다.
AI의 가치는 데이터 ‘확보’가 아닌, 목적에 맞춘 ‘활용’에 있다
AI 도입을 위해 무작정 데이터 레이크를 구축하고, R&D, 생산, 마케팅 등 모든 데이터를 수집하는 방식은 높은 비용과 낮은 성공가능성을 초래한다. 이는 무엇을 만들지 결정하지 않은 채 재료만 쌓아두는 것과 유사하다. 가령, 식당을 창업하는데 판매할 메뉴를 정하지 않은 채 속재료만 모아놓는 꼴이다.
바람직한 접근 방법은 다음과 같다. 먼저, 해결하고자 하는 문제(가령, ‘A제품에 대한 재고 로스가 과도함’)를 정의하고, 이를 해결하기 위해 필요한 데이터를 정의한다. 관련 데이터가 있는지 없는지 확인 하고, 없다면 어떻게 확보할 것인지 방법도 세운다. 수집된 데이터를 기반으로 AI 모델을 어떻게 구축할 것인지 학습은 어떻게 시킬 것인지 설계한다. 운영(MLOps) 체계는 어떻게 설계할 것이며, 지속적으로 고도화 할 방법도 고민해야 한다. 이 과정을 거치면 일하는 방식까지도 바꿔야 할 수도 있다. 즉, 데이터를 모으는 것보다 ‘어떤 데이터로 무엇을 바꿀 것인가’가 중요한 포인트다.
주제3. 협력과 생태계
“AI 여정이 어느 한 조직의 힘만으로는 완성되기 어렵다.
네이버클라우드가 고객사나 파트너와 함께 ‘협력형 AI 여정’을 만들어가는 방식은 어떤가?”
전략적 파트너와의 AX 여정
네이버클라우드의 협력형 AI 파트너십
소버린 클라우드는 산업 경쟁력 강화 관점에서 많이 나오는 개념이다. AI 중요도가 높고, 보안에 대한 요건이 까다롭고, 규제 민감도가 큰 산업(국가지정 산업 등)을 중심으로 활용되고 있다. 핵심 목적은 해당 산업에 특화된 AI 모델을 구축하는 것이다. 네이버클라우드는 자사가 보유한 데이터와 기술 역량을 기반으로, 내부 생산성 향상 뿐 아니라 제품 경쟁력 강화, 글로벌 확장까지 고려하는 파트너십을 추진하고 있다. 이러한 특화 모델을 구축하려면 고객 데이터 뿐 아니라, 네이버의 방대한 데이터도 함께 활용해야 한다. 이는 전략적 파트너십을 통해서만 가능하다.
이와 연계된 대표 모델이 하이퍼클로바X(HyperCLOVA X)다. 핵심은 모델 자체가 아니라 프롬스크래치로 대규모 언어 모델(LLM)을 개발할 수 있는 역량을 갖고 있다는 것이다. 정부의 ‘월드 베스트 LLM’ 프로젝트의 평가 대상 중 하나로서, 텍스트 뿐 아니라 이미지, 오디오 등까지 처리하는 ‘옴니 방식’으로 준비하는 중이다. 네이버는 이미 관련 데이터를 확보하고 있으며, 이를 기반으로 고객 데이터를 결합한 산업 특화 모델을 구축하는 구조를 가지고 있다. 최근에는 태국어 기반 LLM을 개발해 관광 산업 종사자를 위한 프로젝트도 진행 중이다.
다만, 이러한 AX는 단일 기업 또는 네이버클라우드 홀로 수행할 수 없다. 비즈니스 파트너, 기술 파트너, 솔루션 파트너 등과의 협력이 필수적이다. 고객 입장에서는 여러 업체와 각각 협의하고 계약하는 것이 비효율적이므로, 네이버클라우드는 이를 통합하는 Turn-key 서비스도 제공하고 있다.
네이버클라우드의 AX 접근 전략
네이버클라우드 생태계 기반의 Turn-key offering
고객이 직면한 문제와 요구는 복잡하고 범위가 넓다. 네이버클라우드는 기본적인 컨설팅 역량을 보유하고 있지만, 단독 커버에는 한계가 있을 수 있다. 이에 따라 기술 파트너 및 비즈니스 파트너와 연계해서 고객이 가진 문제를 정의하고 구체화한다.
특히 실행 가능성이 핵심이다. 컨설팅사와 기술사가 협력하면 실행 가능한 현실적 대안을 도출할 수 있다. 또한 SI, MSP, 특화 솔루션 파트너 등 다양한 주체가 참여하며, 이들은 클라우드 인프라와 AI 기술 기반 위에서 유기적으로 연동되어야 한다. 이러한 구조를 큰 틀에서 조망하고 접근해야 실행 가능한 결과물이 나올 수 있다.
추가 질의
성공적으로 AI를 도입했음을 기술적인 관점에서 어떻게 알 수 있을까?
AI 도입의 성공 여부는 지속적으로 잘 활용되고 있는가로 판단할 수 있다. 여기서 고객이 흔히 간과하는 핵심 요소는 운영 비용(Operation Cost)이다. AX 과제를 도출하고 벤치마킹과 유즈케이스 설계를 거쳐 서비스를 출시하는 것까지는 비교적 수월하게 수행하더라도, 문제는 이후의 운영 단계에서 발생할 수 있다. 예를 들어, 프리토킹이 가능한 LLM 기반 서비스를 구현한다고 가정할 때, 해당 모델을 엣지 디바이스에서 구동하려면 고가의 GPU가 필요하며 현실적으로 부담이 매우 크다. 결국 클라우드/서버 기반 운영으로 전환해야 하는데, 이 경우 GPU 확보 비용과 외부 API 호출 비용이 지속적으로 발생한다. 특히 사용자의 발화량이 증가할수록 GPU 사용량과 API 호출 비용이 기하급수적으로 늘어난다. 사전에 시나리오 기반의 비용 분석이 선행되지 않으면 운영 단계에서 중단되는 사례가 발생한다. 즉, 다음 단계까지 고려한 장기적 관점의 비전이 중요하다. 그래야 진정한 AX 성공이라고 할 수 있을 것이다.
