Kearney–카네기 멜런 대학교(Carnegie Mellon University, CMU) AI 경영자 교육 프로그램의 9월 코호트는 고위 리더들을 한 자리에 모아, 인공지능이 리더십, 업무, 그리고 가치 창출의 경계를 어떻게 재정의하고 있는지를 깊이 있게 탐구했다. 이 자리에서는 기술적 담론을 넘어, 다음과 같은 핵심 주제들을 조망했다. 데이터를 진정한 전략적 자산으로 다루는 법, 프롬프팅에서 컨텍스트 엔지니어링(Context Engineering)이 갖는 힘, AI 기반의 조직 재편 속에서 인재를 유지하고 동기부여하는 법, 그리고 신뢰를 구축하기 위한 리더십의 가이드라인 설정 등이다.
특히 생성형 AI를 단순한 도구가 아닌 공동 창업자로 대우하며 혁신을 가속화하는 방법이 강조되었다. 이러한 주제들은 리더들이 직면한 핵심 과제를 관통한다. 즉, AI로 비즈니스를 전환하는 동시에 기업 전체의 변화를 어떻게 이끌어낼 것인가에 대한 문제다.
전환을 촉발하고 대담한 행동을 이끌어내기 위해, 이 글에서는 ‘지혜를 갖춘 지능의 시대’에 미래를 설계하고 이를 현실로 만들기 위해 경영진이 반드시 갖춰야 할 여섯 가지 핵심 인사이트를 정리한다.
1. 데이터를 ‘폐기물’이 아니라 ‘배당금’으로 만들어라
“결국 AI에는 데이터가 필요하다. 데이터의 성장과 우리가 이를 인식하는 능력이 최종 결과를 결정하게 될 것이다.”
AI의 힘은 데이터에 달려 있다. 그러나 모든 데이터가 동일한 가치를 갖는 것은 아니다.
선도 리더들은 데이터를 모든 유즈 케이스에 억지로 적용하는 대상이 아니라, 올바른 문제에 쓰일 때 배당금을 창출하는 전략 자산으로 다루기 시작했다. 수십 개의 실험을 동시에 ‘켜고 싶어 지는’ 유혹은 크지만, 진짜 가치는 소수의 영역에 집중할 때 만들어진다. 바로 데이터가 전환적 성과(Transformative Gains)를 열어줄 수 있는 영역이다.
역사는 이를 분명히 보여준다. 1980년대의 초기 AI 시스템들이 실패한 이유는 알고리즘이 약해서가 아니라, 데이터가 제한적이고, 파편화되어 있으며, 잘못 적용되었기 때문이었다. AI의 진보는 언제나 데이터의 진보와 궤를 같이해 왔다. 역학(Epidemiology), 번역, 기계 인식 분야가 모두 그렇다. 오늘날에도 원칙은 동일하다. 차별화의 진짜 원천은 모델 접근성이 아니라, 독점적이고 잘 정제된 데이터 세트다.
어떤 기업에게는 고객 인사이트가 성장의 열쇠가 되고, 다른 기업에게는 운영 데이터가 효율성을 좌우한다. 이러한 데이터 중심 사고를 거버넌스, 파트너십, 일상적 의사결정 전반에 조직의 DNA로 내재화 할 때, AI 투자는 책임감 있게 확장되고 지속적인 경쟁우위를 창출한다.
2. 프롬프트가 아닌 컨텍스트 엔지니어링으로 승부하라
“우리 고유의 데이터는 올바른 컨텍스트 엔지니어링과 결합될 때 어떠한 기성 모델모다 훨씬 더 큰 가치를 만들어낸다.”
데이터의 중요성 위에서, 이번 코호트는 프롬프팅의 진짜 힘이 ‘표현의 기교’가 아니라 ‘맥락’에 있음을 확인했다. 질문을 어떻게 프레이밍 하느냐에 따라 AI의 답변 품질은 극적으로 달라진다. 한 참가자는 이렇게 말했다. “올바른 기준 틀(Frame Of Reference)이 쓸모없던 답변을 즉시 실행 가능한 인사이트로 바꿔놓았다.” 효과적인 프롬프팅과 에이전트 구축은 이제 요령의 문제가 아니라, AI가 의미 있는 정보를 가지고 추론할 수 있도록 데이터·도구·거버넌스를 설계하는 문제가 되고 있다. 이것이 바로 컨텍스트 엔지니어링이다. 이 지점에서 기존 기업은 명확한 기득권적 이점(Incumbency Advantage)을 갖는다. 이미 보유한 독점 데이터와 깊은 고객 관계는, 강력한 맥락 엔지니어링과 결합될 때 신규 진입자가 사용할 수 있는 어떤 기성 모델보다 훨씬 큰 가치를 창출할 수 있다.
3. 인간과 에이전트의 협업으로 일을 다시 정의하라
“사람에게 원래 없던 역량을 부여하면,어떤 일이 벌어질까?”
데이터와 맥락이 새로운 가능성을 열면서, 일의 미래에 대한 함의는 근본적으로 바뀌고 있다. 미래의 일은 더 이상 고정된 직무 기술서로 정의되지 않는다. AI가 결합된 역할과 에이전트는 전략과 실행 사이의 경계를 허물고 있다. 예를 들어, ‘머천다이징 플래너 + 에이전트’ 모델에서는 인간이 방향을 설정하고, AI는 지속적으로 환경을 모니터링하며, 조정을 제안하고, 일상적 분석을 처리한다. 또 다른 예로, R&D 과학자는 수천 개의 분자 변형을 AI가 가상 환경에서 빠르게 생성·시험하도록 한 뒤, 가장 유망한 후보에 인간의 판단과 도메인 전문성을 적용한다. 이 모든 경우에서 판단, 창의성, 스토리텔링은 인간의 고유 역량으로 남고, 기계는 대규모 연산과 반복 작업을 담당한다. 그 결과, 가치는 명령과 통제가 아니라 정교한 연출(Choreography)에서 나온다.
4. 리더십은 리스크·책임·책무성을 균형 있게 관리해야 한다
“일의 미래는 급진적으로 변할 것이다. 우리가 가설을 세울 수는 있지만, 확정적인 답을 가지고 있지는 않다. 그렇기에 계속 배우려는 조직이 되는 것이 미래 성공의 절대 조건이다.”
이러한 변화는 리더십에 새로운 요구를 던진다. AI가 핵심 프로세스에 내재화될수록, 효율성 향상은 일자리, 문화, 신뢰 보호와 균형을 이뤄야 한다. 편향된 채용 알고리즘이나 신뢰할 수 없는 고객 챗봇 사례는, 이 균형이 무너질 때 어떤 일이 벌어지는지를 잘 보여준다. 리더는 AI가 잠재력을 훼손하지 않고 증폭하도록 설계해야 하며, 이를 위해 올바른 지표, 인센티브, 거버넌스를 구축해야 한다. 또한 이사회와 최고경영진은 야심에 걸맞은 거버넌스와 역량 격차를 신속히 메워야 한다.
혁신에는 반드시 책무성(Accountability)이 따라야 한다. AI는 스스로 구현되지 않는다.
그 이익과 위험은 리더가 목표를 어떻게 설정하고, 리스크를 어떻게 배분하며, 전 생애주기에서 어떻게 책임을 지는지에 달려 있다. 윤리는 사후에 덧붙일 옵션이 아니다. 포트폴리오 선택, 데이터 전략, 배포, 검증 전반을 이끄는 규율이어야 한다. 한 연사는 이렇게 강조했다.
“올바르게 프레이밍하지 못한 문제는 결코 해결할 수 없다.”
5. AI를 혁신의 ‘공동 창업자’로 대우하라
“AI는 단순한 도구가 아니라, 조직 구조의 일부이다.”
가드레일이 마련되면, 리더는 이제 기회의 영역으로 시선을 돌릴 수 있다. 생성형 AI는 혁신 행위 자체를 재정의하고 있다. 과거 클라우드와 모바일이 스타트업 구축의 경제성을 바꿨듯, AI는 이제 실험의 시간과 비용을 급격히 압축한다. 한 비유는 AI를 “잠들지 않는 공동 창업자(Cofounder)”로 표현했다. 가정(Assumptions)을 끊임없이 스트레스 테스트하고, 대안을 전례 없는 속도로 제시하는 존재다. 리더들은 벤처 마인드를 채택해야 한다. 더 많은 실험을 실행하고, 승자를 빠르게 확장하며, 실패로부터 신속히 학습해야 한다. 질문은 AI가 오늘의 프로세스를 어디까지 개선할 수 있느냐가 아니라, 내일의 비즈니스 모델을 어디까지 열어줄 수 있느냐이다.
6. 가능성을 넘어 ‘의도적 행동’으로 나아가라
“리더로서 우리는 전혀 다른 모습이 될 세상 속에서 사람들을 함께 데려가며 새로운 기회를 만들어야 한다.”
AI 초기 단계가 가능성의 시대였다면, 지금의 과제는 책임의 시대다. 데이터, 역할, 혁신, 거버넌스에 대해 오늘 내리는 선택은 향후 수년간 리더십과 일의 모습을 규정할 것이다.
정보의 시대에서 지혜를 갖춘 지능의 시대로의 여정은 더 이상 추상적 개념이 아니다. 이미 시작되었고, 대담한 혁신, 책임 있는 리더십, 일의 미래에 대한 재상상을 요구한다.
프로그램의 핵심 메시지는 분명했다. AI의 성공은 단편적 성과가 아니라, 비전·데이터·거버넌스·인재·혁신 전반의 정합성(Coherence)에서 나온다. 리더는 AI를 전환의 공동 창업자로 인식하고, 조직을 하나의 야심 아래 정렬하며, 실험에서 확장된 임팩트로 의도적으로 이동해야 한다. 이를 위해서는 명확한 지표 정의, 부서 간 책임성 구축, AI를 조직의 구조적 일부로 내재화 하는 문화적 모멘텀이 필수다.
AI와 함께 다시 설계되는 일의 미래는 기술의 문제가 아니라 리더십의 문제다. 지금 내리는 선택이 지혜를 갖춘 지능의 시대에서 누가 이끌고, 누가 뒤따를지를 결정하게 될 것이다.
