가트너, 2025년까지 생성형 AI 프로젝트의 30% PoC 후 중단 예측

가트너(Gartner)는 2025년 말까지 생성형 AI(Generative AI, 이하 GenAI) 프로젝트의 최소 30%가 개념 증명(Proof of Concept, 이하 PoC) 단계 후 중단될 것이라고 예측했습니다. 이는 데이터 품질 부족, 부적절한 리스크 관리, 증가하는 비용 또는 불분명한 비즈니스 가치 등의 이유 때문입니다.

1. 가트너 데이터 및 분석 서밋에서의 발표

2024년 7월 말 시드니에서 열린 가트너 데이터 및 분석 서밋(Gartner Data & Analytics Summit)에서 가트너의 수석 부사장 애널리스트인 리타 살람(Rita Sallam)은 "2023년의 과대 광고 이후, 경영진은 GenAI 투자에 대한 성과를 빠르게 보고 싶어하지만, 조직은 가치를 증명하고 실현하는 데 어려움을 겪고 있습니다. 이니셔티브의 범위가 확대됨에 따라 GenAI 모델 개발 및 배포의 재정적 부담이 점점 더 커지고 있습니다."라고 말했습니다.

가트너에 따르면, 많은 조직이 GenAI를 활용하여 비즈니스 모델을 혁신하고 새로운 비즈니스 기회를 창출하려고 하지만, 이러한 배포 접근 방식에는 상당한 비용이 수반됩니다. GenAI 프로젝트의 비용은 500만 달러에서 2천만 달러에 이르는 것으로 나타났습니다(그림 1 참조).

2. 다양한 GenAI 배포 접근 방식에서 발생하는 비용

그림 : 다양한 GenAI 배포 접근 방식에서 발생하는 비용 (출처: 가트너, 2024년 7월)

이 그림은 생성형 AI(Generative AI, GenAI) 배포 접근 방식에 따른 사용 사례, 초기 비용 및 사용자당 연간 반복 비용을 비교한 표입니다. 표는 크게 다섯 가지 카테고리로 나뉩니다: 소비(Consume), 임베드(Embed), 확장(Extend), 커스터마이즈(Customize), 빌드(Build). 각 카테고리별 상세 내용은 다음과 같습니다.

소비 (Consume)

• 사용 사례: 코딩 어시스턴트
• 초기 비용: 약 10만 달러에서 20만 달러
• 사용자당 연간 반복 비용: 약 280달러에서 550달러

임베드 (Embed)

• 사용 사례: 개인화된 세일즈 콘텐츠 생성
• 초기 비용: 약 75만 달러에서 100만 달러
• 사용자당 연간 반복 비용: 약 790달러에서 1200달러

확장 (Extend)

• 사용 사례: RAG를 이용한 문서 검색
• 초기 비용: 약 75만 달러에서 100만 달러
• 사용자당 연간 반복 비용: 약 1300달러에서 1만 1000달러

커스터마이즈 (Customize)

• 사용 사례: 가상 비서
• 초기 비용: 약 500만 달러에서 650만 달러
• 사용자당 연간 반복 비용: 약 8000달러에서 1만 1000달러

빌드 (Build)

• 사용 사례: 의료, 보험 또는 금융 서비스에 사용되는 맞춤형 언어 모델(LLMs)
• 초기 비용: 약 800만 달러에서 2000만 달러
• 사용자당 연간 반복 비용: 약 1만 1000달러에서 2만 1000달러

각 접근 방식에 따른 비용과 사용 사례를 명확하게 비교하여, 조직이 생성형 AI 프로젝트의 재정적 요구 사항을 평가하고 적절한 전략을 선택하는 데 도움을 주며, 이러한 정보는 비즈니스 리더가 GenAI 투자 결정을 내리는 데 참고 자료가 됩니다.

리타 살람은 "GenAI에는 맞춤형 솔루션이 없으며, 다른 기술처럼 예측 가능한 비용 구조를 갖추고 있지 않습니다. 투자하는 금액, 사용하는 사례 및 배포 접근 방식에 따라 비용이 달라집니다. 시장을 혼란에 빠트리기를 원하거나 AI를 전방위적으로 도입하려는 경우와 기존 프로세스를 확장하려는 보수적인 접근 방식은 각각 다른 수준의 비용, 리스크, 변동성 및 전략적 영향을 가집니다."라고 설명했습니다.

3. GenAI 프로젝트의 주요 도전 과제

가트너 연구는 GenAI가 즉각적인 투자 수익(ROI)보다 간접적이고 미래의 재정적 투자 기준에 대한 더 높은 관용을 요구한다는 것을 나타냅니다. 역사적으로 많은 최고 재무 책임자(CFO)는 미래의 간접적 가치를 위해 오늘날 투자하는 것에 대해 불편함을 느껴왔습니다. 이러한 주저함은 투자 할당을 전술적 결과보다는 전략적 결과로 왜곡시킬 수 있습니다.

4. 비즈니스 가치 실현

산업 및 비즈니스 프로세스 전반의 초기 도입자들은 사용 사례, 직무 유형 및 근로자의 기술 수준에 따라 다양한 비즈니스 개선을 보고하고 있습니다. 최근 가트너 설문 조사에 따르면, 응답자들은 평균적으로 15.8%의 수익 증가, 15.2%의 비용 절감 및 22.6%의 생산성 향상을 보고했습니다. 이 설문 조사는 2023년 9월부터 11월까지 822명의 비즈니스 리더를 대상으로 실시되었습니다.

살람은 "이 데이터는 GenAI 비즈니스 모델 혁신에서 파생된 비즈니스 가치를 평가하는 데 유용한 기준점을 제공합니다. 그러나 그 가치를 추정하는 데 어려움이 있다는 것을 인정하는 것이 중요합니다. 혜택은 회사, 사용 사례, 역할 및 인력에 매우 구체적이며, 종종 그 영향이 즉시 나타나지 않을 수 있으며 시간이 지남에 따라 나타날 수 있습니다. 그러나 이러한 지연은 잠재적인 혜택을 감소시키지 않습니다."라고 말했습니다.

5. 비즈니스 영향 계산

가트너에 따르면, GenAI 비즈니스 모델 혁신의 비즈니스 가치와 총 비용을 분석함으로써 조직은 직접적인 ROI와 미래의 가치 영향을 설정할 수 있습니다. 이는 GenAI 비즈니스 모델 혁신에 대한 투자 결정을 내리는 데 중요한 도구가 됩니다.

살람은 "비즈니스 결과가 기대에 부응하거나 초과하면 GenAI 혁신 및 사용을 더 넓은 사용자 기반으로 확장하거나 추가 비즈니스 부서에 구현할 기회를 제공합니다. 그러나 기대에 못 미치면 대체 혁신 시나리오를 탐색해야 할 수도 있습니다. 이러한 통찰력은 조직이 자원을 전략적으로 할당하고 가장 효과적인 경로를 결정하는 데 도움이 됩니다."라고 설명했습니다.

6. 결론

가트너의 최신 보고서 "GenAI 비즈니스 모델 혁신에 대한 ROI 계산"에서 더 많은 정보를 읽을 수 있으며, 무료 가트너 웨비나 "성공적인 AI를 위한 성숙한 조직의 차별화 전략"에서도 자세한 내용을 확인할 수 있습니다.

---

https://www.gartner.com/en/newsroom/press-releases/2024-07-29-gartner-predicts-30-percent-of-generative-ai-projects-will-be-abandoned-after-proof-of-concept-by-end-of-2025