1. AI라는 변화의 속도 – AI의 시간은 다르게 흐른다.
xAI의 ‘Grok 4 Heavy’ 출시
2025년 7월 9일(미국 기준) Grok 4 Heavy라고 불리는 다중 에이전트 추론 모듈을 출시했다. 실시간으로 웹 검색 및 음성 기반 멀티모달 상호작용이 가능하며, 총 1조 7천억 개의 파라미터를 갖고 있다.
Humanity’s Last Exam의 정답율은 44.4%로 가장 높은 스코어 기록
기반 모델의 성능 평가는 일반적으로 고도의 추론 능력을 요구하는 문제 해결 능력으로 측정한다. 이를 위해, 인간 중에서도 높은 지적 수준을 보유한 박사급 인력의 문제 해결 과정을 기준점으로 삼아 모델이 유사한 추론 절차를 거치는지와 복잡한 문제를 해결할 수 있는지를 비교한다. 분석 결과, Grok 4의 과거 정답률은 약 25.4%였으나, Grok 4 Heavy의 경우 약 50%에 근접하는 성능을 기록하였다. 이는 일반적으로 인간의 경우 약 21%인데 그 수준을 크게 상회하는 수치다. 또한, 인간이 해당 난이도의 문제를 해결하는 데 평균 2주에서 한 달가량 소요되는 반면, 최신 기반 모델은 대부분 30분 이내에 문제를 해결하는 것으로 나타났다.
► LLM의 벤치마크별 정확도 분석
► Example
사람과 근접하게 추론하는 역량 역시 Grok 4가 우수
► ARC1-AGI-2 Leaderboard
결국, Grok 4 AI 체계는 Multi Agent Reasoning 구조
Grok 4의 가장 큰 장점은 특정 복잡한 문제 및 요청 사항을 각 expert별로 구분하여 적절하게 분배하는 다중 에이전트 추론 구조를 갖고 있다는 것이다.
► Grok 4의 AI 아키텍트
Open AI의 Agent vs Agent 반격 시도
Open AI 역시 ChatGPT Agent를 출시했다. Open AI 자체 모델별 벤치마크 지수를 살펴보면, 사람이 해결할 수 있는 가장 난이도 높은 수학 문제, 예를 들어 대수학·기하학 분야의 문제들에서 에이전트 모드가 가장 우수한 성과를 보인 것을 확인할 수 있다. 또한, ‘프런티어 매스(Frontier Math)’와 같이 사람이 짧게는 3주, 길게는 2개월 이상 소요되는 문제들에서도 높은 성공률과 빠른 처리 속도를 기록하였다.
과거에는 ChatGPT에 단순히 검색 결과를 요청하는 수준이었다면, 이제는 행동 수행까지 요구할 수 있는 단계로 발전하고 있다. 예를 들어, 오픈AI가 이번에 런칭하면서 '결혼 준비'라는 복잡한 과제를 사례로 공개했다. 결혼 준비에 필요한 단계별 계획 수립, 의상 추천 뿐만 아니라, 내부적으로는 최적화된 결제까지 자동으로 처리하는 기능을 구현하기 위한 시도가 이루어지고 있다고 한다.
► Open AI ChatGPT Agent 벤치마크 지수
Agentic AI – Type 별 성숙 시점
보고서 자동 작성부터 판매/생산계획 시뮬레이션까지의 활성화 시기는 이미 적용된 부분부터 길게는 2030년 이후로 예측하고 있다. Agent AI에 대한 경쟁을 더욱 심화되고 있어 활성화 시기는 더욱 앞당겨질 가능성이 높다. 또한, Multi Agent System에 대한 마켓 사이즈도 2033년까지는 더욱 드라마틱하게 변화할 것이라고 커니는 예측하고 있다.
► Agent AI Type별 Market Forecast
Agentic AI – (1) 적용 “업무” 영역 및 시점
다양한 업무 분야 가운데 가장 빠르게 Agent AI가 적용되고 있는 분야는 마케팅일 것이다. 마케팅은 고객 접점에서 발현되기 때문에 다른 부서와 비교했을 때 방대한 양의 데이터를 갖고 있으며, 시장 플레이어도 많고 투자 또한 활발히 이루어지고 있는 분야이다.
2. 검색 시대의 종말 – 브라우저라는 정글
포털시대의 치킨게임과 같은 방정식
과거 네이버, 라이코스, 엠파스, 드림위즈 등과 같은 포털시대의 승자는 네이버였다. 네이버가 이길 수밖에 없었던 전략은 모든 검색 결과를 수집하고 추출하는 것이 아니라 실제 사람들이 궁금해하는 질문을 사람이 답변하는 지식인과 같은 플랫폼을 활용한 것이다. 이를 통해 새로운 컨텐츠를 생산해냈고 검색 엔진의 색인과 연동해서 타 플랫폼 대비 더 좋은 솔루션을 제시했다.
이처럼 Agent AI 시대에도 성능에 관한 싸움을 시작으로 전략적인 투자를 하다가 성능과 전략이 결합돼서 누가 더 좋은 고객 경험을 만들어내는가가 위너를 결정하는 포인트가 될 것이다.
디지털 시대의 본질, 포털에 의한 고객 여정 재편
빅테크와 같은 포털의 매출이 높을 수밖에 없었던 이유는 고객 여정의 Consideration 단계에서 '검색'이 핵심 과정으로 작용하기 때문이다. 구글 역시 검색 광고 매출이 여전히 큰 비중을 차지하는 것도 이러한 고객 여정에서의 검색 역할 때문이다. 그만큼 포털은 시장에서 고객의 경험을 설계할 때 매우 중요한 포인트였다.
► 디지털 시대의 Customer Journey
포털은 여정의 미드필더로 검색어에 따라 도달하는 종착지가 결정
인지-흥미-탐색-사용-공유의 Customer Journey 각 단계에서 어떤 검색 결과가 나타나는지에 따라 다음 단계 진행 여부가 결정된다.
► Customer Journey 단계별 고객 행태
즉, 디지털 시대는 디지털 미디어 공략이 곧 고객 공략을 의미 했음
► 디지털 광고 비중 증가 전망 (단위: Bil. USD)
디지털 시대에 포털은 고객경험의 시작과 끝이 투영되고 결정하는 접점이었음
고객 여정에서 포털의 역할을 협의적으로 보면 단순히 검색 결과를 제공하는 기능에 그치지만, 광의적으로는 고객 여정 전반의 경험이 발현되는 플랫폼이었다. 검색은 특정한 고민이나 필요에서 출발하기 때문에 검색 포털은 마케팅 관점에서 디지털 채널의 핵심 접점으로 중요한 역할을 했다.
► 고객 여정 내 포털의 역할
디지털은 구글, 메타가 제공하는 기술을 기반으로 정교한 고객 공략이 가능
이러한 배경으로 인해 구글, 메타, 알리바바 등 주요 빅테크 기업으로 자본이 집중적으로 유입되었다. 광고 지출(Ad Spending) 역시 디지털 채널 중심으로 확대되었으며, 그 중에서도 검색 광고와 관련된 지출이 커지는 경향을 보였다. 또한 디바이스 측면에서는 데스크톱 대비 모바일의 비중이 지속적으로 증가하는 추세가 나타났다.
► Global Media Spend Split
고객을 공략하기 위한 Battleground로서 디지털 영향력은 더욱 견고 해질 전망
고객을 공략하기 위해서 디지털 시장에서 포털은 Agent AI 시대에서도 중요한 역할을 할 것이다. 고객은 여전히 포털에서 검색을 하고 그 결과에 따라 D2C 사이트나 커머스에 접속해서 구매하는 것이 익숙해져 있기 때문에 그 영향력은 더욱 견고해질 것으로 예측된다. 이와 더불어 앞으로는 탐색에서 끝나는 것이 아니라 디지털 상에서 구매로 이어지는 비중은 훨씬 증가할 것으로 보고 있다. 의류, 가전, 엔터테인먼트 컨텐츠, 생활용품 등의 제품/서비스는 2027년까지 대부분의 의사결정 단계를 디지털 상에서 진행할 것으로 전망된다.
앞으로는 Agent와 포털의 전략을 연결하여 살펴봐야 할 것이다. 고객의 관점에서는 이러한 과정들이 하나의 연속된 과정으로 인식하기 때문이다. 포털에서 검색하고 구매하던 것들을 이제는 GPT에 검색하고 GPT가 에이전트화되어서 고객 여정 전체의 행동까지 이어지는 맥락을 고려하는 것이 굉장히 중요한 포인트다.
► 디지털 시장 영향력 전망
특히, 차세대 소비층 Gen Z는 비포털을 포털처럼 활용하는 새로운 행태 발현
미래 고객 세대인 Gen Z는 더 이상 구글이 아닌 유튜브, 틱톡, 인스타그램, 챗GPT를 검색 포털로 사용한다. 아래 북미 소비자의 주요 검색 활용 플랫폼 현황을 보면, GPT가 아직 11% 정도지만 Agent에 대한 고객 경험 만족도가 높다는 가정 하에서 향후 가속화돼서 증가할 것으로 전망된다. 또한, Gen Z는 틱톡을 검색 목적으로도 활용한다. 내가 선망하는 인플루언서, 크리에이터들의 일상을 다양한 관점에서 보여주는 플랫폼이기 때문에 검색 패턴 또한 다각화되었다.
Gen Z는 검색에서 끝나는 것이 아니라 D2C 구매 비중도 전 세대 가운데 가장 높다. 이러한 행동 패턴을 갖고 있는 미래 고객 세대에 맞는 전략을 고민하는 것은 이제 기본이 되어야 할 것이다.
► 새로운 세대의 디지털 이용행태
3. 위임하는 종의 탄생 - Homo Delegatus 탄생
Agent發 Search → Answer Portal 시대 도래할 것
커니는 AI 기반 모델을 바탕으로 서비스화하는 플레이어들이 증가할 것이고 높은 확률로 AI가 Commodity화 될 것으로 예측하고 있다.
이러한 접점에서 SaaS를 도입하고, 이를 자사 고유의 버티컬 데이터와 결합하여 문제를 해결하고자 하는 니즈가 더욱 커질 것이다. 이에 따라 에이전트 프로바이더 간의 표준화 수요 역시 확대될 것으로 보이며, 동시에 이 표준화를 둘러싼 경쟁도 점점 치열해질 전망이다. 표준화가 확장되면 AI의 참조가 용이한 비정형 데이터들은 더욱 활용하기 쉽고 학습하기 쉬운 형태로 변할 것이다. 이에 따라 데이터도 풍부해지고 Agent의 성능은 더욱 고도화되어 뛰어난 SaaS 플레이어들이 점차 많아지게 될 것으로 예측된다. 그렇게 되면, 직접 개발하는 것보다 SaaS 솔루션을 사용하는 것이 각 버티컬 기업에게는 더욱 효율적이므로 자사의 버티컬 데이터를 에이전트와 결합하여 고객 여정 전 과정을 자사 플랫폼 내에서 완결시키는 '락인(lock-in) 전략'에 집중하게 될 것이다. 버티컬 플랫폼과 각종 디바이스에 Agent가 탑재되면 플랫폼 내에 쌓인 많은 로그 정보를 바탕으로 고객 의도를 파악하여 초개인화가 상시화될 것으로 예측된다.
이에 따라 2027년까지 글로벌 기업의 50%가 AI PoC 단계에 진입할 것으로 예상하고 있는데 표준화 진행 속도에 따라 발현 시점은 더욱 앞당겨질 것으로 전망된다. 이제 판단도 고민도 결정도 디지털 활동도 모두 대신해주는 시대가 머지않은 것이다.
► AI 개발/도입 계층도
► Agent 범용화에 따른 변화 시나리오
AI Agent는 현재 Level 2-3단계 수준
Agent AI가 Level 4~5까지 고도화되기 위해서 가장 중요한 것은 비정형 데이터를 어떻게 효과적으로 활용할 것인가 그리고 어떤 체계와 접근 방식을 통해 기존의 레거시 조직을 전환할 것인가에 대한 전략을 마련하는 것이다.
► AI Agent 진화 단계
변화를 강요하는 Player간 경쟁으로 고객경험의 변화 가속화 예상
대부분 Tech & Media나 Retail & E-commerce와 같이 소비자들을 직면하는 플레이어들이 Level 4~5로 고도화되는데 상대적으로 강하다.
► Best Practice
[Commerce Driver] AMAZON: 고객여정의 길이를 최소화 통해 Time Sharing 개선
‘AMAZON Buy for Me’라는 솔루션을 통해 고객 경험을 진화시켰다. 이 솔루션은 아마존에서 제품을 검색하면 Agent가 비교/추천해주는 것까지는 다른 솔루션과 유사하나 아마존 밖에서 더 저렴하게 판매하는 곳이 있다면 아웃링크를 걸어 구매할 수 있게 한다는 것이 핵심이다. 이때 아마존에서 결제 정보를 입력하여 다른 버티컬 채널을 경유하지 않아도 된다.
이러한 솔루션을 제공하는 데에는 두 가지 의미가 있다. 첫번째, 전략적인 관점에서는 Agent를 통해서 고객의 라이프 스타일 트래픽을 lock-in하겠다는 것이다. 두번째, 기술적인 관점에서는 Agent 간의 API 호출을 잘 설계하고 협의하여 각 플레이어 간의 협업을 도모하겠다는 것이다. Agent 간 API 호출을 협의한다는 것은 외부 결제 정보망을 해시화하여 아마존 결제 망에서 실제 구매가 이루어질 수 있도록 만드는 구조이다. 이러한 방식은 결국 표준화가 더욱 확산되고 시장 규모가 커지면서 각 플레이어 간 협업이 이루어져 전체 시장을 리드하는 방향으로 나아갈 것이다. 이에 따라 고객들도 하나의 인터페이스에서 원하는 제품을 쉽고 빠르게 구매할 수 있는 경험을 기대할 것이다.
아마존은 과거 ‘루퍼스(Rufus)’라는 쇼핑 에이전트를 개발하기 위해 방대한 양의 데이터를 라벨링하고 정제하는데 집중했다. 제품 하나에도 수많은 리뷰가 달리고 구매 과정에서는 고객 및 CS 정보와 같은 다양한 비정형 데이터가 생성되기 때문이다. 아마존은 이러한 기반 위에서 쇼핑 Agent 개발을 시도하고 있는 것을 볼 수 있다.
► AMAZON Buy for Me
[Device Driver] SAMSUNG X Google: 일상에 착용할 수 있고 체감할 수 있는 AI 경험
AI는 디바이스를 가리지 않고 적용될 가능성이 매우 높다. 삼성과 구글이 콜라보하여 패션 브랜드 젠틀몬스터의 안경에 Agent AI를 적용했다. 이로 인해 고객들은 일상에서 자연스럽게 Agent에게 지시하고 새로운 고객 경험을 할 수 있게 된다. Agent 기술이 발전하고 이를 구현하는 피지컬 디바이스까지 고도화되면 고객 경험은 우리가 상상할 수 있는 그 이상으로 변화하게 될 것이다.
► SAMSUNG X Google 사례
[Solution Driver] Adobe: 검색의 탈 중앙화에 맞는 AI에게 참조 될 수 있는 솔루션 선제적 출시
포털이 주도하는 고객 여정은 각 여정별로 포털에 검색하여 나오는 각각의 사이트를 고객이 직접 비교하는 Task를 수행했다. 각각의 도메인이 개별적으로 존재했고, 이들 간의 인터페이싱은 거의 불가능했다. 하지만 에이전트 간의 표준 규약이 만들어지면 이종 업종과 도메인 간의 상호작용이 가능해진다. 이에 따라 고객은 단일 환경에서 다양한 버티컬 에이전트들에게 요청하고 필요한 서비스를 끊김없이 경험하는 시대가 열리게 될 것이다.
이러한 관점에서 디지털 상의 다양한 도메인에 있는 AI에게 잘 노출되는 구조를 만드는 것이 중요하다. Adobe의 경우, LLM Optimizer를 선제적으로 출시할 예정이다.
► Adobe 사례
[Platform Driver] Meta: AI기반 검색엔진 개발 착수, 소셜 플랫폼에서 에이전트 플랫폼으로 도약 구상
메타도 AI 기반 검색 엔진 개발에 착수하겠다고 발표했다. 메타 안에서 고객의 모든 니즈를 해소해 줄 수 있는 에이전트 플랫폼으로 진화하려는 시도를 진행 중이다.
► Meta 사례
Apple, AI 검색 엔진 ‘퍼플렉시티‘ 인수 검토 중
Apple은 왜 퍼플렉시티 AI를 인수하려고 할까? U/CX 대표 주자지만 결국에는 AI 검색 경쟁력을 확보하는 것이 가장 중요하다고 판단했을 것이다. 또한, Siri를 높은 수준의 LLM 기반 어시스턴트로 전환하기 위해 퍼플렉시티의 기술이 필요했을 것이고, 투자자와 소비자의 신뢰 회복 또한 중요한 요건으로 작용했을 것이다.
Apple이 퍼플렉시티를 인수하게 되면 고객 경험은 어떻게 변할까? Apple 디바이스에서 Agent에게 요청하면 원하는 니즈를 즉각 해소할 수 있게 된다. 질문하고 행동으로의 전환이 간편화되고 속도 및 정확성은 더욱 높아질 것이다.
주요 플레이어들 간의 경쟁 구도는 어떻게 변화하게 될까? Safari는 단순한 브라우저에서 AI 경험의 허브로 변신하여 경쟁이 가속화될 가능성이 있다.
이러한 인수 건으로 Apple이 주는 시사점은 무엇일까? Apple은 AI 플랫폼 통합주자로 전환하여 AI 주도권이 강화될 것이고, Agent 활용이 더욱 범용화됨에 따라 고객을 공략하려면 에이전트를 공략해야 하는 시대가 도래할 것이다.
4. 선택되는 자들의 세상- AI에게 선택되지 않으면 존재하지 않는다
디지털 버티컬 Player가 AI Agent 탑재 시, 소비자 여정은 압축될 것임
과거에는 고객이 포털에서 원하는 정보를 검색해 다양한 옵션을 직접 비교하고 의사결정하는 과정을 거쳤다면 이제는 상황이 달라졌다. AMAZON Buy for Me처럼 특화된 각 에이전트들이 한 플랫폼에서 통합적으로 복합적인 니즈를 해결해줄 것이다. 이제는 Agent가 ‘고민‘을 대신해주고 심지어 ‘결정’까지 대신해주는 시대가 된 것이다. 그렇게 되면 결국 우리는 자연스럽게 Agent에게 위임할 수밖에 없게 된다.
향후 커니가 예측하는 바에 따르면, 어떤 AI Agent를 사용하는지도 중요하지만 더 본질적인 것은 각 버티컬 도메인에 특화된 데이터를 얼마나 잘 정제하는지가 더 중요해질 것이다. AI Agent는 TV, Glass 등 다양한 디바이스에 탑재될 것이다. 이제 우리는 AI Agent를 일상에서 자연스럽게 사용하는 시대를 곧 맞이하게 될 것이다.
► 검색 패러다임의 변화
Agent 공략이 곧 고객 공략인 공식이 곧 성립될 수도 있음
가장 중요한 두 가지 포인트는 ‘GEO(Generative Engine Optimization)’와 ‘메타 데이터’이다. GEO를 구축하기 위해서는 기업이 현재 보유하고 있는 자산, 콘텐츠, 서비스, 비즈니스 정보 등을 향후 AI가 잘 이해하고 활용할 수 있도록 메타 데이터화하는 것이 굉장히 중요할 것으로 판단된다. 이러한 데이터화 작업은 외부 머신러닝 엔지니어들이 효율적으로 처리할 수 있지만 초기 단계에서는 기업 내부에서 직접 고민하고 준비하는 과정이 병행되어야 할 것이다.
► 버티컬 Agent 공략 체계
기업들은 AI Friendly 데이터/마케팅/컨텐츠 거버넌스를 검토해야 함
기업은 전체 고객 여정의 단계마다 고객을 공략하기 위한 다양한 활동을 수행하고 있다. 이러한 활동들을 어떻게 데이터화할 것인가에 대한 전략을 도출하는 것이 중요하다. 또한 데이터화 하는 과정에서 기존의 레거시 조직의 담당자들과 머신러닝 · AI Ops 관련 인력들이 어떻게 함께 협력할 수 있을지도 함께 고민해볼 필요가 있다. 데이터 사이언티스트나 머신러닝 전문가들은 해당 도메인에 대한 이해가 부족할 수 있다. 그러므로 데이터가 제대로 라벨링되었는지, 라벨링을 위해서는 어떤 카테고리가 유효한지 등을 판단할 수 있는 도메인 전문가와의 협업이 반드시 필요하다. 이러한 이유로 양손잡이 스킬 즉, 기술과 도메인을 모두 이해하고 협업할 수 있는 능력을 갖추는 것이 매우 중요할 것이다.
► 플랫폼 내 고객 여정이 압축되고 데이터는 집중됨
► New + Current Skills 융합 필요
변화하는 트렌드에 한시적 대응보다 본원적인 DNA 탑재에 대한 고민 권고
포털의 시대에서 Agent의 시대로 나아가기 위해 중요한 세가지 포인트는 첫째, 내가 속한 조직, 사업, 활동, 콘텐츠들이 AI와 연동될 수 있는 단위인지에 대해서 조직원 개인의 Mind Share가 굉장히 중요하다는 것이다. 둘째, AI 기술과 도메인을 동시에 아는 개인, 팀, 그룹, 본부를 중심으로 AgentOps.를 구성하는 것을 고민해볼 필요가 있다는 점이다. 셋째, AI에 선택될 수 있도록 기존에 진행하고 있는 활동들이 잘 전환되고 있는지를 확인하는 것이 필요하겠다.
"선택은 이 순간부터, 인간의 것이 아니다" (GPT가 출력한 문구 中)
5.AI 도입에 성공하는 기업의 조건
실리콘밸리에서는 연 매출 1억 달러(약 1,300억 원)를 달성하는 것이 상장을 위한 일종의 ‘성배’처럼 여겨지곤 한다. 과거에는 이 수준에 도달하는 데 평균 10~13년이 걸린다고 알려져 있었다. 하지만 아래 그래프를 보면, 오픈AI나 개발자들 사이에서 큰 인기를 끌고 있는 커서(Cursor)와 같은 AI 중심 스타트업들이 창업 2년 만에 연 매출 1억 달러를 돌파하며 기존 기록을 경신하고 있는 것을 확인할 수 있다. 이처럼 AI는 이제 단순한 기술이 아니라, 실제 매출 성장을 이끌고 기업의 디지털 트랜스포메이션을 가속하는 핵심 수단으로 자리 잡은 것이다.
► AI-First 기업의 성장속도
에어비앤비, 스포티파이, 월마트와 같은 기업들은 AI를 고객 경험 개선과 비즈니스 측면의 비용 절감 또는 매출 증대를 위해 적극적으로 활용하고 있다. 이들은 이미 2023년과 2024년에 관련 실험을 마쳤고, 2025년에는 실제 대고객 서비스 수준에서 AI 에이전트를 도입해 성과를 내고 있다. 예를 들어, 에어비앤비는 AI 기반 에이전트 도입을 통해 매출이 약 12% 증가했으며, 월마트는 고객 만족도를 20% 이상 향상시키는 성과를 거뒀다. 이러한 사례들은 더 이상 과거의 사례가 아닌 지금 이 순간 미국에서 실제로 관찰되는 기업들의 AI 도입 현황이다.
► AI 도입으로 비용 절감 및 매출 증가한 글로벌 기업 사례
그렇다면 AI, 어떻게 해야 성공적으로 도입할 수 있을까? 크게 3가지 질문을 통해 알아보자.
왜 여전히 많은 기업들은 AI 도입에 신중한 태도를 보이고 있는가?
많은 기업들이 실제로 파일럿 단계까지는 적극적으로 고민하고 있다. 특히 포춘 500대 기업 중 약 3분의 1이 AI 관련 파일럿 프로젝트를 수행하고 있을 정도로, AI 도입에 대한 관심은 매우 높다. 하지만 이 파일럿을 실제 서비스로 확장하기까지는 여러 장애물이 존재한다. 예를 들어, 새로운 Use Case 발굴, 데이터 레지던시, 개인정보 보호, AI 할루시네이션 대응 등 기술적·윤리적 고민들이 선행되어야 한다. 결과적으로 파일럿 단계에서 경영진의 긍정적인 평가를 받았더라도, 이를 대고객 서비스나 임직원 대상의 실제 업무 시스템으로 확장하는 비율은 절반에도 못 미치는 것이 현실이다. 그리고 그렇게 살아남은 서비스라 할지라도 1년 이상 지속적으로 운영되고 있는 경우는 또 그 중 절반도 되지 않는 수준이다. 즉, 지난 3년간 AI 관련 프로젝트를 되돌아보면 지속적으로 생존하고 있는 프로젝트는 전체의 20%도 채 되지 않는 상황이다.
AI를 도입하고자 하는 많은 기업의 대표들은 "AI는 기업이 반드시 대응해야 할 중요한 영역인 것은 분명하지만, 실제 ROI를 기대하는 건 아직은 일종의 도박에 가깝다."고 말한다. 이처럼 많은 경영진들이 AI 도입의 필요성과 불확실성 사이에서 깊은 고민을 하고 있는 것이 현실이다.
► 대규모 AI 프로젝트의 현실
그렇다면 AI를 도입한 기업들은 왜 실패하게 될까? 실제 기업들의 목소리를 들어보면 그 근본적인 원인은 크게 세 가지로 좁혀진다.
첫번째는 전략적 비전의 부재다. 새로운 AI 모델이 출시될 때마다, MCP(Multi-cloud Platform)나 Compute Usage와 같은 새로운 툴이나 프로토콜이 등장할 때마다, 혹은 Voice-First 기반의 LLM과 같은 기술이 등장할 때마다 기존에 수립한 로드맵이 흔들리게 된다. 그 결과, 기업 입장에서는 막대한 비용을 투입해 진행 중인 AI 프로젝트가 향후 더 나은 기술이 등장해서 ‘혁신의 매몰비용(sunk cost)’이 되지는 않을지 우려하게 된다. 이처럼 빠르게 진화하는 AI 및 Agent에 대한 로드맵 및 경영자의 장기적 관점의 방향성과 확신이 부족하는 점이 첫번째 이유이다.
두번째는 확장적 운영을 위한 툴 부재이다. AI를 실제 서비스로 도입하려면 운영 매니저 레벨까지 툴을 제공해야 하는데 실제 사용할 만한 수준의 툴이 완비가 되어 있지 않다. 이러한 부분이 기업의 AI 도입의 확장성을 가로막는 한계로 지적되고 있다.
세번째는 고착화된 조직 및 운영 프로세스를 그 이유로 꼽을 수 있다. 오늘날 Gen Z와 같은 고객들이 원하는 경험, 그들의 행동 패턴 등은 빠르게 변화하고 있다. 예를 들어, 과거 세대 고객들은 상담 서비스를 받을 때 직접 대면하거나 통화로 확실한 답변을 듣는 것을 신뢰의 기준으로 삼았다. 하지만 오늘날 Gen Z의 약 50% 넘는 고객들은 멀티 옴니 채널에서 비대면 셀프 서비스를 경험하고 싶어한다. 이처럼 고객 경험에 대한 인식이 변화하고 있음에도 불구하고 과거에 만들어 놓은 고객 경험 프로세스를 유지하고 있어 실질적으로 고객들의 AI 경험을 충족시키는데 어려움을 겪고 있다.
앞으로 운영 프로세스 역시 고객 지향적으로 발전해 나가야 하는데 이러한 세가지 한계로 인해 AI 프로젝트에 장기적으로 투자하기 어려운 것이 현실이다.
AI를 도입하여 성공한 대표적인 국내 사례는?
한샘은 최근 AI 기반 고객 응대 자동화를 Level 4 수준까지 고도화했다. 이는 단순한 FAQ 응답을 넘어 배송 조회, 상품 주문, 교환·반품 등의 복잡한 고객 응대와 의사결정까지 자동화된 것을 의미한다. 특히, 고객 데이터와 내부 시스템(API)을 연동함으로써, 사람이 직접 응대하는 것과 유사한 수준의 자연스러운 상담이 가능하도록 구현되었다.
► 한샘, Level 4 수준의 고객 응대 자동화 예시
이처럼 대고객용 AI 에이전트 외에도 내부 업무를 지원하는 코파일럿형 AI 에이전트 역시 많은 기업들이 활발히 도입하고 있는데 대표적인 국내 사례로는 롯데홈쇼핑이 있다. 홈쇼핑 비즈니스의 특성상, 수많은 외부 생산자들이 제품을 납품하게 되는데, 이들을 효과적으로 검수하고 온보딩하는 과정은 기업 입장에서 품질 리스크를 줄이는 동시에 비즈니스 성공과 직결되는 중요한 요소다. 롯데홈쇼핑은 이 온보딩 및 검수 과정을 AI 에이전트로 자동화함으로써 사람이 직접 처리해야 할 업무 부담을 크게 줄였다. 또한, 생산자 등록 프로세스를 보다 빠르고 정확하게 처리할 수 있게 되었고 그 결과 더 많은 상품이 빠르게 입점 및 판매될 수 있었다. 이에 협업에 대한 만족도가 올라감에 따라 생산자들도 롯데홈쇼핑과 더욱 적극적인 파트너십을 체결할 수 있었다
어떻게 하면 AI를 성공적으로 도입할 수 있을까?
먼저 AI를 도입하면서 자문해야 할 세 가지가 있다. 첫째, 반복적이고 비중있게 발생하는 고객 이슈가 무엇인지 확인해야 한다. 둘째, AI로 해결할 때 비즈니스 임팩트의 목표를 무엇으로 정하고 어떻게 측정할 것인지를 고민해봐야 한다. 셋째, 전략적으로 얼마나 어떻게 투자해 나갈 것인지도 자문해 볼 필요가 있다.
또한, AI Agent가 자동화하기 좋은 Use Case들을 파악할 필요가 있는데 이는 고객들의 Pain point에서 출발한다. 각 pain point들 가운데 핵심이 되는 부분 2~3개 정도를 우선적으로 선정하여 자동화하는 것이 필요하다.
► AI Agent가 자동화하기 좋은 Use Case들
이후에는 AI 에이전트를 학습시킬 수 있는 지식 기반을 준비하는 작업이 중요하다. 이미 준비되어 있는 기업도 있지만, 내부에 자료는 많은 것 같은데 정리가 미비한 경우가 많다. 이러한 경우 외부의 전문가들과 함께 사내에 흩어져 있는 다양한 지식 기반의 데이터들을 정제·전처리·구조화하여 빠르게 AI 에이전트에 적용할 수 있는 방안을 고민해볼 필요가 있다.
► 지식 기반에 대한 준비
지식 기반 채널
고객지원센터, 내부 전용 문서, ERP, 암묵지 등
데이터 포맷
텍스트, PDF/문서, 이미지, 영상, 음성 등
갱신 주기 & 프로세스
잦은 빈도 (일 1회 이상)
드문 빈도 (월/분기 업데이트 등)
매뉴얼 갱신 (혹은 시스템과 연동된 자동 갱신)
다음 8가지 체크 포인트를 통해 우리 조직이 AI 도입을 위한 준비가 되어 있는지 내부적으로 점검해보는 것이 좋다. 만약 준비가 되었다고 판단된다면, 단순히 Use Case를 탐색하는데 그치지 말고 다양한 실행 옵션을 검토하며 자체 개발·솔루션 구매 등 구체적인 선택지를 포함한 체크리스트를 작성하는 것이 중요하다.
