생성형 AI (Generative AI)는 이제 Education / Exploration / Experiment 과정을 지나, Production화를 통한 Business Impact를 구체화하는 단계로 접어들었다. 활용 영역도 문서 검색 / 요약이나 고객 응대 챗봇을 넘어, 조직 생산성 향상, 고객 경험 제고, 상품 차별화 등의 전 분야에 걸쳐 확산되고 있다.
이러한 실제 구축 및 적용에는 깊은 고민과 대응이 필요한 수많은 고려 사항들이 있다. 조직 구성, Use Case 선정, 보안, Responsible AI, 목표 Metric, 데이터, Foundation Model 선정, 개발/운영 인프라 등 전략적, 기술적 선택의 기로들로 가득하다.
이번 세미나에서는 여러 선택 요소들을 'A vs. B' 형태로, 무엇을 고려하여 어떻게 선택하면 좋을지를 나열하는 방식으로 효과적 생성형 AI 실적용 해법을 모색해보는 시간을 가졌다.
- Machine Learning vs. Generative AI
- Proprietary vs. Open Model LLM
- Prompt Engineering vs. Fine-tuning
