1. 생성형 AI가 주도하는 소프트웨어 개발의 새로운 시대
불과 1년 전, 당시 Tesla의 인공지능 책임자였던 안드레이 카르파티(Andrej Karpathy)는 트위터를 통해 자연어 프롬프트에 응답하여 코딩 제안을 생성하는 클라우드 기반 AI 도구인 깃허브(GitHub)의 코파일럿(Copilot)이 자신의 코딩 속도를 “극적으로 가속화시켰다.”고 하면서, 코드의 약 80%를 비슷한 수준의 정확도로 효과적으로 작성한다고 말했다. 카르파티는 더 광범위한 개발자 커뮤니티에 관한 한 시대를 앞서갔을 수 있지만(2023년 3월, GitHub는 Copilot이 코드의 46%를 작성한다고 발표), GitHub의 CEO는 “머지않아” 80% 수준에 도달할 것이라고 말했다. 생성형 AI와 기업 운영 방식을 혁신할 수 있을 것이라는 잠재력은 한동안 큰 반향을 일으켜 왔으며, 이는 다른 아티클들에서 주장하는 것과 같이 그럴만한 이유가 있다. 특히 생성형 AI가 가장 큰 변화를 가져올 것으로 예상되는 분야는 소프트웨어 개발 영역으로, 이는 이미 성능과 가치 창출 측면에서, 수백만 개의 조직을 통해 게임 체인저임이 입증되었다.
GitHub Copilot, Tabnine, Amazon CodeWhisperer와 같은 도구들은 코드 스니펫(작은 코드 조각)과 코드 제안을 자동화하여 개발자의 생산성을 크게 높일 수 있는 잠재력을 가지고 있다. 상용구 코드(반복 작업이나 패턴에 대한 표준화된 코드)나 단위 테스트(개별 기능이나 모듈이 의도한 대로 작동하는지 확인하기 위한 테스트) 생성과 같은 반복 작업에 드는 시간도 크게 줄일 수 있다. 또한, 익숙하지 않은 프로그래밍 언어가 더 이상 예전과 같은 장애물이 되지 않게 한다.이러한 맥락에서 사용되는 생성형 AI는 초보 개발자가 역량을 빠르게 키우는 데 도움을 준다.
Microsoft와 Google은 수년간 생성형 AI 모델을 실험해 왔지만 고객과의 대화를 통해 생성형 AI 모델이 더 이상 거대 기술기업의 전유물이 아니라는 점을 확인시켜줬고, GitHub은 2023년 10월, 37,000개 이상의 조직이 Copilot을 도입했다고 발표했다.
기술 기업이 생성형 AI를 도입할 때 실제로 어떤 효과를 기대할 수 있을지 살펴보자.
2. 소프트웨어와 생성형 AI의 만남, 기하급수적 가치 창출의 새로운 원천이 되다
생성형 AI가 소프트웨어 기반 기업에 미칠 잠재적 영향을 보다 구체적으로 파악하기 위해 R&D에서부터 A/S(after sales service) 및 유지보수에 이르기까지 가치 사슬의 각 단계에서 얼마나 많은 업무를 지원할 수 있는지 추정해 보았다. 예상한 바와 같이 비교적 단순, 반복적이며 시간이 많이 소요되는 지원 및 분석 업무의 비중이 높은 영역이 가장 큰 가치 창출 잠재력을 가지고 있는 것으로 나타났다.
► 소프트웨어 기업의 가치 사슬에서 생성형 AI의 가치 창출 잠재력
가치 사슬의 영역별로 생성형 AI가 조직에 미치는 구체적인 영향과 잠재적 가치를 살펴보자. 생성형 AI는 아직 발전 초기 단계에 있으므로, 앞으로 더 많은 적용 분야를 찾을 수 있을 것이다.
연구(Research)
생성형 AI는 다양한 방식으로 리서치 프로세스를 혁신할 수 있다. 잠재적 응용 분야 중 하나는 이전에는 고려하지 않았던 새로운 아이디어와 이를 구현하는 방법을 브레인스토밍하는 것이다. 또 다른 응용 분야는 패턴 인식을 포함한 데이터 분석 및 요약으로, 연구자들이 대량의 복잡한 소스에서 트렌드를 분석하고 인사이트를 발견할 수 있도록 도울 수 있다. 생성형 AI는 합성 데이터를 통해 제한된 데이터 세트를 보강함으로써 더 깊고 광범위한 연구를 가능하게 한다. 또한, 새로운 알고리즘과 방법론을 개발하는 데 도움이 되는 시나리오를 시뮬레이션하거나 모델링할 수도 있다. 마지막으로 관련 데이터를 분석, 클러스터링 및 접근 가능한 방식으로 배포하여 지식 관리 프로세스를 지원할 수 있다.
영향
새로운 기술을 빠르게 테스트/학습, 새로운 알고리즘/시나리오의 도입, 새로운 방법론에 대한 연구 간소화.
가치 창출 잠재력
보통 수준. 점점 더 많은 개발자가 전문 게시판보다는 AI 챗봇과 GitHub Copilot을 통해 더 많은 조언을 얻고 있다. 예를 들어, 소프트웨어 엔지니어를 위한 가장 큰 커뮤니티 웹사이트인 stackoverflow.com은 2022년 1월 이후 트래픽이 약 35%나 감소했는데, 이는 같은 해에 출시된 Copilot과 ChatGPT와 관련이 있을 수 있다. 또한 게시된 질문, 답변 및 투표수도 약 절반으로 감소했다.
코딩
생성형 AI는 기본적인 코드 스니펫과 문서를 자동으로 생성하여 개발 단계에서의 반복 작업을 줄인다. 또한, 코드베이스를 분석하여 버그를 식별하고 해결책을 제안함으로써 문제를 해결하는 데 도움을 줄 수 있다. 코드를 리팩터링(기존 코드 기능은 유지하면서 코드의 구조를 개선)하고 최적화하여 소프트웨어의 성능과 수명을 향상하는 데에도 활용할 수 있다. 생산성 향상 외에도, 다양한 작업에 대한 접근 방법을 제안함으로써 개발자가 지속해서 학습하고 기술을 개발할 수 있도록 한다. 특히, 개발자가 새로운 프로그래밍 언어를 배울 때 예제와 설명을 제공해 빠르게 학습할 수 있도록 지원한다.
영향
프로젝트별 맞춤형 코드 구조 생성, 소프트웨어 코드에서 기능 구현, 버그 방지 및 빠른 버그 수정.
가치 창출 잠재력
높음. GitHub의 한 실험에서 Copilot을 사용한 개발자는 이 도구를 사용하지 않은 개발자보다 55% 더 빠르게 작업을 완료했다(JavaScript로 HTTP 서버 구축).
테스트
생성형 AI는 다양한 시나리오를 포괄하는 합성 데이터를 생성할 수 있다. 이를 통해 테스트 범위를 개선할 뿐만 아니라 개발 초기에 잠재적인 문제를 감지할 수 있다. 테스트 케이스와 시나리오도 자동 생성할 수 있으며, 외부 시스템에 크게 의존하지 않는 경우 비교적 간단한 코드를 자동으로 검증할 수 있어서 수작업을 줄인다. 또한, 과거 테스트 데이터를 분석하여 잠재적인 실패 패턴을 식별함으로써 테스트 우선순위를 보다 효과적으로 지정할 수 있다.
영향
기능/비기능 테스트를 빠르게 수행(비즈니스 케이스와 기술 요구 사항이 제대로 정의되고 제공된 경우).
가치 창출 잠재력
높음. 최근 연구에 따르면, ChatGPT는 이미 단위 테스트의 30~ 50%를 안정적으로 처리할 수 있다고 한다. 다만, 이는 주로 쉬운 테스트나 비교적 간단한 코드와 기능을 테스트하는 경우에 해당한다.
제품 관리
제품 관리자는 생성형 AI를 활용하여 시장 트렌드, 고객 피드백, 사용자 행동 패턴을 분석하고 새로운 아이디어와 컨셉을 구상할 수 있다. 이를 통해 빠르게 프로토타입과 와이어프레임(웹사이트나 애플리케이션의 구조를 시각적으로 나타낸 초안)을 만들어 검증 과정의 속도를 높일 수 있다. 또한, 현재 및 과거 데이터를 사용하여 수요 예측 및 가격 책정 전략을 개선할 수 있으며(예: 새로운 시장 조건이나 계절 변화에 맞추어 조정), 다양한 변수를 고려하여 계획 및 일정을 수정할 수 있다.
영향
출시 시기 단축, 계획 프로세스 개선, 제품 출시 효율화.
가치 창출 잠재력
현재는 낮지만, 앞으로 증가할 것임.
배포/운영
새로운 소프트웨어 솔루션을 출시할 준비가 되면, 생성형 AI는 시스템 아키텍처 검토, 최적의 배포 전략 수립, 배포 스크립트 자동 생성 등을 수행할 수 있다. 또한, 사전에 정의된 고객 요구 사항을 기반으로 배포 로드맵과 작업 명세서를 작성하여 고객을 지원할 수 있다. 솔루션이 실행되면, 심각도와 영향도를 기준으로 문제를 분류하고 우선순위를 지정할 수 있다. 시스템의 이상 징후를 지속 추적하여 운영 및 보안 문제를 식별하고 처리할 수 있다.
영향
빠르게 소프트웨어 배포, 실시간 모니터링 및 문제 해결.
가치 창출 잠재력
보통.
마케팅
생성형 AI를 사용해 고객 데이터를 분석하고 그들의 선호도를 파악하여, 마케팅 캠페인과 자료를 만들 수 있다. 이렇게 생성된 개인화된 메시지는 고객 참여를 더욱 효과적으로 높일 수 있다. 백그라운드 분석 외에도, 생성형 AI를 활용하여 제품 설명, 소셜 미디어 게시물, 광고, 이미지 등의 콘텐츠를 필요에 따라 다양한 언어와 스타일로 제작할 수 있다.
영향
시간과 리소스 절약, 브랜드 인게이지먼트 구축.
가치 창출 잠재력
높음. MIT의 연구에 따르면, 업무 관련 글쓰기에 ChatGPT를 사용한 대졸 전문직은 평균 소요 시간이 40% 단축되고 결과물의 품질이 18% 향상되었다. 한편, Gartner는 2025년까지 대기업에서 내보내는 메시지의 30%가 인공적으로 생성될 것이라고 예측했다.
영업
생성형 AI를 활용하여 고객 행동과 신호를 파악하고 잠재 고객 발굴, 고객 세분화, 유망 고객 식별 등을 수행할 수 있다. 인사이트를 기반으로 조직은 개인 맞춤형 영업 스크립트와 제품 추천을 개발할 수 있으며, 이를 통해 전환율을 개선하고 업셀링 및 크로스셀링 가능성을 높일 수 있다. 조직 내부적으로는 고객 상호작용 및 피드백 데이터에서 얻은 인사이트를 활용하여 영업팀을 위한 맞춤형 교육 및 솔루션을 개발할 수 있다.
영향
구매 과정 전반에서 고객 인게이지먼트 및 지원 향상.
가치 창출 잠재력
보통. 가장 영향력 있는 사용 사례는 다음 설명과 같이 서비스 분야에 해당한다.
서비스/유지보수
생성형 AI 기반의 챗봇과 가상 비서를 활용하여 고객의 기본적인 질문에 답하고 빠르게 솔루션을 찾을 수 있도록 도울 수 있다. 또한, 가이드, 교육 콘텐츠, 표준 문서와 같은 도움말 자료를 만들어 고객이 제품을 보다 더 쉽게 사용할 수 있게 지원할 수 있다. 서비스 팀은 고객 피드백과 감정을 실시간으로 분석하여 지속 개선하고 우선순위를 지정함으로써 보다 더 능동적으로 대응할 수 있다.
영향
고객 여정의 모든 단계에서 서비스 경험을 개선함.
가치 창출 잠재력
높음. 전미경제연구소(National Bureau of Economic Research)의 연구에 따르면, 생성형 AI 도구를 사용할 때 고객 지원 담당자의 생산성이 평균 14% 가까이 증가한 것으로 나타났다.
3. 생성형 AI의 위험 요소
생성형 AI는 소프트웨어가 핵심인 조직의 거의 모든 영역에 강력한 영향을 미칠 수 있다. 따라서 직원들이 이 기술을 신중하고 책임감 있게 사용할 수 있도록 데이터 안전과 보호에 대한 방안이 필요하다. 삼성의 ChatGPT를 통한 민감 데이터 유출 사례가 그 중요성을 잘 보여준다. 이 외에도 저작권 문제, AI에 부정확하거나 편향된 정보가 입력될 가능성, 시스템에 악성 코드가 유입될 가능성 및 보안 침해 등의 문제가 있다. 이러한 리스크를 고려할 때 거버넌스와 조직 보호에 대한 보다 강력한 접근 방식이 필요하며, 시스템의 설정 및 유지 관리에 추가적인 리소스를 투입해야 할 필요가 있다.
4. 생성형 AI의 효과를 극대화하려면?
소프트웨어 중심 조직이 생성형 AI로 성공 가능성을 극대화하려면, 다음 네 가지 사항을 유념해야 한다.
작게 시작하고 점차 확대해 나가라
생성형 AI로 해결하고자 하는 문제가 무엇인지 파악하는 것부터 시작해야 한다. 문제가 명확해지면, 전체 가치 사슬에서 실행 가능한 사용 사례를 개발할 수 있다. 최소한의 노력으로 큰 효과를 낼 수 있는 것부터 우선순위를 정하는 것이 이상적이다. 최소 기능 제품(MVP)을 개발하고 그 효과를 테스트해 나가야 한다.
리스크를 평가하라
비즈니스 모델에 미칠 수 있는 모든 잠재적 영향을 철저하게 평가하여 자신 있게 나아가는 것이 중요하다. 동시에 생성형 AI가 영향을 미칠 수 없는 기능을 정확히 파악하는 것도 중요하다. 이러한 기능을 강화하는 것이 차별화 요소가 될 수 있다.
실행 가능한 전략을 개발하라
생성형 AI 도입의 한계를 이해하고, 현실적으로 어떤 가치를 더할 수 있는지 판단해야 한다. 또한, 기존 데이터 및 AI 전략과의 적합성을 평가해야 한다. 주요 고려 사항에는 데이터 구성의 개선 및 수정, 솔루션 구축과 구매 간의 적절한 균형 유지, 이러한 노력을 지속하기 위한 인프라와 관행 마련, 인재 확보 등이 포함된다.
합리적인 관점을 유지하라
생성형 AI는 아직 초기 단계에 있어서 과장된 기대가 많다. 따라서 생성형 AI가 조직에 미칠 긍정적 영향과 부정적 영향을 냉정하게 비교 검토하는 것이 중요하다. 한 개발자는 Copilot을 일주일 동안 사용한 후 이런 글을 남겼다. “GitHub Copilot은 AI일 뿐이다. 최종 책임은 당신에게 있다.”
