Kearney Insight

AI 대전환의 시대, CEO는 기회를 잡을 준비가 되었는가?

2025.07.07

 

AI는 지난 30년 간 등장한 기술 중 가장 파괴적인 혁신을 일으킬 기술로 평가된다. AI는 제품 및 서비스의 설계와  개발 방식은 물론, 조직 내 프로그램과 프로세스 전반을 변화시키고 있다.


AI 도입이라는 복잡한 과제를 기업 리더들이 어떻게 헤쳐 나가고 있는지를 종합적으로 파악하기 위해, 커니(Kearney)는 퓨처럼 그룹(The Futurum Group)과 함께 연 매출 10억 달러 이상 규모의 글로벌 대기업 CEO 200여 명을 대상으로 설문조사와 인터뷰를 진행했으며, 이들 기업은 금융, 제조, 유통, 헬스케어 등 다양한 산업에 속해 있다.

 

퓨처럼 그룹(The Futurum Group)
퓨처럼 그룹은 독립적인 기술 리서치·인텔리전스·미디어·컨설팅 기업이다. 400개 이상의 글로벌 고객사를 대상으로 신기술과 혁신을 중심으로 유기적 성장을 이뤄왔다. 주요 기술 분야는 AI 및 데이터 분석, 클라우드, 통신, 정책, 소비자 전자제품, 엔터프라이즈 애플리케이션, 보안, 반도체, 협업, 지속가능성, 고객 경험 등 12개이며, 2023년에는 리서치, 인텔리전스, 미디어, 성능 검증 분야의 6개 회사를 인수했다.


자세한 정보: The Futurum Group 홈페이지

 

 

 

1. Report 요약

 

  • CEO 78%가 AI로부터 가치를 창출할 자신이 있다고 답했지만, 가장 성공적인 기업에서는 CEO가 AI 전략에 대해 직접 개입하기보다, 오히려 한 걸음 물러서 있는 경향이 있다. (성공 기업 54% vs. 실패 기업 81%). 
  • 성과를 거두고 있는 기업의 47%는 C레벨에서 ROI(투자 수익률) 평가를 핵심 우선순위로 두고 있는 반면, AI 도입 효과가 미미한 기업에서는 그 비율이 24%에 불과했다.
  • 3년 이상의 장기적인 가치 창출에 우선순위를 두는 기업은 전체의 단 8%에 그쳤다.
  • 전통 기업의 70%는 고객 만족을 최우선 과제로 삼고 있으며, 75%는 초기 비용과 총 소유 비용(Total Cost of Ownership, TCO)을 함께 고려하고 있다.
  • 디지털 네이티브 기업의 60%는 매출 성장에 집중하고 있으며, 초기 비용과 TCO를 모두 고려하는 비율은 55%에  그쳤다.
  • AI에서 가시적인 성과를 경험한 CEO의 64%가 업계 표준과의 연계를 중시하는 반면, 성과가 미진한 기업 중 업계 표준과의 연계를 중시한 비율은 48%였다.
  • AI 도입과 관련된 가장 큰 과제로서, CEO 67%는 ‘부서 간 정렬’, 64%는 ‘워크플로우 재조정’을 꼽았다.

 
2. 핵심 주제 5가지

 

조사에 따르면, 대부분의 기업 리더들은 AI의 잠재력을 충분히 인식하고 있으나, 여전히 실행 방향을 모색하는 단계에 머물러 있다. CEO의 89%는 비즈니스 혁신에 있어 AI의 전략적 중요성을 인정했지만, 정작 조직 전반에 걸쳐 AI를 통합할 준비가 되어 있다고 답한 경우는 25%에 불과했다. 이처럼 ‘인식’과 ‘준비’ 사이의 간극은 큰 도전 과제이며, 이는 단순히 기술적 변화만으로는 충분하지 않다는 점을 시사한다. 
AI의 성공적인 도입을 위해서는 의사결정, 조직문화, 경쟁 전략 전반에 대한 근본적인 재설계가 함께 이뤄져야 한다. 이번 조사에서 도출한 5가지 핵심 주제는 다음과 같다. 

 

1. 전략적 정렬(Strategic alignment)이 절대적으로 중요하다

공식적인 AI 로드맵이 마련돼 있지 않은 리더 중 64%는 초기 파일럿 단계에서 거의 성과를 얻지 못했다고 응답했다. 이는 AI 노력을 핵심 비즈니스 목표와 긴밀하게 연계되어야 함을 보여준다. CEO는 AI를 단기적인 성과 창출에만 국한하지 않고, 미래 혁신과도 직결되도록 전략적으로 정렬시켜야 한다.

 

2. 고품질 데이터가 AI 확장의 기반이다
약 2/3에 달하는 CEO는 분절되거나 품질이 낮은 데이터가 AI 확장을 가로막는 주요 장벽이라고 보고 있다. 사일로 구조의 인프라, 분산된 기술 스택, 일관성 없는 거버넌스는 AI가 통찰력 있는 분석을 제공하는 데 큰 제약이 된다.

 

3. AI 인재(human intelligence)가 더 필요하다
적극적인 인재 채용에도 불구하고, 응답 기업의 57%는 내부 AI 전문성이 여전히 부족하다고 밝혔다. 이를 극복하기 위해, 기업들은 외부 컨설팅 파트너와 협업하거나, 특정 목표에 초점을 맞춘 사내 교육을 활용하고 있다. 일부 CEO는 범용 AI 툴을 능숙하게 활용할 수 있는 ‘데이터 친화적 제너럴리스트(data-savvy generalists)’를 육성하는 전략을 선호한다고 답했다.

 

4. 리스크는 초기부터 관리해야 한다
AI에 대한 감독 체계는 아직 미성숙한 단계에 머물러있다. 예를 들어, AI 거버넌스 위원회를 갖춘 조직 중에서도, 실제로 편향 탐지 지표를 지속 추적하는 곳은 단 22%에 불과하다. 편향성, 규제 관련 문제, 윤리적 오류와 같은 AI 리스크를 통제하기 위해, 부서 간 협의체를 포함한 공식적인 거버넌스 프레임워크를 마련해야 한다.

 

5. 팀 전체를 동반하라
많은 현장 직원들과 고위 관리자들이 AI로 인한 직무 상실을 우려한다. 이러한 우려는 투명한 커뮤니케이션과 맞춤형 역량 강화를 통해 완화할 수 있으며, AI를 즉각적인 생산성 향상과 장기적인 인력 전환과도 연결시킬 수 있다. 고용 안정성에 대한 두려움과 스킬 격차 문제를 선제적으로 해결하지 않으면, 문화적 갈등, 파일럿 프로젝트의 중단, 기회의 상실로 이어질 수 있다.

 

  "우리는 AI 실패나 윤리적 이슈를 다룰 준비가 충분히 되어 있지 않다. 기존의 위기 관리 절차만으로는 AI 관련 사고를 처리하기에 충분하지 않을 것이다."  
  — 유럽 소재의 식음료 및 제약 장비 공급사 CEO  

 

3. 주요 시사점

 

이번 연구를 통해 7가지 시사점을 도출했다. 과도한 낙관론을 경계하고, ROI(투자 수익률)에 집중하며, 조직 문화의 이슈를 해결하고, 탄탄한 데이터 기반을 갖추며, 무리한 도입보다는 점진적인 확산 전략을 취해야 한다는 것이다.

 

1. AI 전략을 직접 통제하지 말 것
가장 두드러진 사실은, AI를 효과적으로 활용하는 기업일수록 최고경영진이 AI 전략을 직접 주도하기보다는 의도적으로 한 발 물러서 있다는 점이다. 고성과 기업에서는 CEO 중 59%만이 직접 관여하지만, 성과가 낮은 기업에서는 무려 92%가 통제하고 있었다. 운영적 실행은 전문 팀에 위임하는 것이 성과 향상에 효과적이다.

 

2. ROI의 맹점 주의
AI를 통해 비즈니스 가치를 창출할 수 있다는 인식은 널리 퍼져 있지만, 실제 수익을 면밀히 추적하는 문화는 아직 정착되지 않았다. 고성과 기업의 48%가 ROI 측정을 핵심 우선순위로 삼는 반면, 성과가 미흡한 기업에서는 이 비율이 17%에 불과하다. AI 프로젝트 초기 단계부터 측정 가능한 수익에 기반해 추진하면, 지속적인 추진력과 리더십의 지지를 확보할 수 있고, 투자 타당성을 입증하며, 필요시 전략적 방향 전환도 유연하게 할 수 있다.

 

3. 단기 성과에 매몰되지 말 것
많은 CEO들은 AI의 혁신 가능성을 강조하지만, 실제 95%의 기업은 인력 전환이나 비즈니스 모델 혁신과 같은 장기적인 고부가 가치보다는 눈앞의 문제 해결을 통한 즉각적인 성과에 집중하고 있다.

 

  "AI로 운영 효율성을 개선할 기회는 많이 발견하고 있지만, 아직 비즈니스 자체를 재창조할 기회는 잘 보이지 않는다."  
  — 북미 소재의 글로벌 프린팅 및 패키징 공급사 CEO  

 

4. 실패한 AI 전략은 지나치게 공격적이었다
AI 성과가 미미한 기업일수록 조급하고 공격적인 접근 방식을 취하는 경향이 더 크다. 이들 중 58%는 ‘추격자 전략(catch-up)’을 취하고 있었는데, 성과가 높은 기업군의 비율(45%)보다 높은 수치다. 파일럿, 견고한 거버넌스, ROI 확보 없이 속도만 앞세운 접근은 저조한 성과로 이어지기 쉽다. 변화 관리를 수반한 ‘점진적 도입’이 지속 가능한 성과를 만들 수 있다.
 

5. AI 문화 격차 해소하기
많은 CEO들은 고용 안정성과 역할 변화에 대한 직원들의 우려를 데이터 문제 다음으로 큰 도전 과제로 꼽았다. 선제적인 소통, 맞춤형 교육, 포용적인 변화 관리를 통해 이 불안감을 지지로 전환할 수 있고, AI를 인간의 잠재력을 확장하는 도구로 재정의할 수 있다.

 

6. 데이터 격차를 데이터 자산으로 바꾸기
알고리즘에 과도하게 몰두한 나머지, 데이터 품질과 통합을 등한시하는 경우가 많다.  AI 프로젝트가 지연되거나 효과적이지 않은 기업 중 60% 이상은 분산된 데이터와 노후화된 인프라를 핵심 원인으로 꼽았다. AI의 가치를 온전히 실현하고 신뢰할 수 있는 수익을 창출하려면, 통합된 데이터 아키텍처, 엄격한 거버넌스 체계, 일관된 기준이 필수적이다.

 

7. ‘패스트 팔로워’ 전략의 이점을 활용하라
설문에 참여한 CEO 중 절반 이상은 ‘퍼스트 무버(first mover)’가 되기보다는 ‘패스트 팔로워(fast follower)’를 선호한다고 답했다. 이들은 다른 기업의 성공과 실패 사례를 학습한 후 AI를 확산시키는 전략을 취한다. 이를 통해 거버넌스를 정비하고, 데이터 기반 역량을 강화하며, 조직 내 신뢰를 구축해 초기 성과를 전사적으로 원활하게 확산할 수 있다.


4. 무엇이 다음 혁신을 이끌 것인가?

 

기술 업계는 이제 '에이전틱 AI(agentic AI)'의 가능성에 주목하고 있다. 이는 단순히 작업을 자동화하는 수준을 넘어, 지능형 시스템이 자율적으로 의사결정을 내리는 차세대 AI이다. 전통적인 RPA(robotic process automation)는 정형화된 워크플로우를 따라 작동하지만, 에이전트 AI는 비정형적이고 복잡한 과제를 스스로 추론하며 처리할 수 있다. 생성형 AI 이후, 에이전트 AI는 단순 자동화를 넘어서 진정한 인지적 의사결정으로 나아가는 차세대 혁신의 물결로 주목받고 있다.

  

다양한 산업군의 CEO들은 ‘AI 기반 자동화’를 얼마나 빠르고 광범위하게 추진할 계획인지 인터뷰에서 명확히 밝혔다. 한 회계법인의 CEO는 AI가 자사의 핵심 비즈니스 전체를 대체할 것이라 말했고, 유통 업계 CEO들은 무인 매장을 기대하고 있으며, 패션업계는 AI의 자동 피팅과 자동 사이즈 분류를 통해 제품 개발 시간을 크게 단축할 것으로 전망한다. 반면 일부 리더들은 AI를 전면적인 대체 수단이 아니라, 인간을 보완하는 도구로 활용하고자 한다. 구현 방식은 모두 다르지만, 대다수 CEO들은 AI가 단순히 프로세스를 자동화하는 수준을 넘어, 기업의 의사결정 방식 자체를 재편할 것으로 내다보고 있다.

 

즉, AI라는 거대한 변화는 이제 막 시작되었을 뿐이다. 다가오는 변화를 기회로 만들려면, 기업 리더는 이 강력한 파괴적 기술을 경쟁사보다 더 빠르게 마스터할 방법을 찾아야 한다.

 

  "창고 운영, 재고 관리, 판매, 최적 송장 금액, 채널·지역별 SKU 구성까지 앞으로 2~3년 내 이 모든 작업이 AI 중심으로 운영될 것이다. "  
  — 아프리카 소재의 글로벌 소비재 기업 부문 CEO