[딜라이트닷넷=이상일 기자] 가트너(Gartner)는 생성형 AI 도입을 위한 새로운 핵심 역량 3가지 보고서를 통해 생성형 AI(Generative AI)의 도입에 있어 전통적인 데이터 과학 접근법과 기술이 충분하지 않다고 경고했다. 이에 따라 데이터 및 분석(D&A) 리더들은 생성형 AI의 잠재력을 최대한 활용하기 위해 새로운 기술을 개발해야 한다고 강조했다.

보고서에 따르면, 생성형 AI 모델은 이해하기 어려운 경우가 많아 기술 선택과 사용 사례 요구사항 간의 불일치가 발생할 수 있다. 이러한 불일치는 자원의 잘못된 배분으로 이어질 수 있으며, 특히 프롬프트 엔지니어링, 검색 기반 생성(RAG), 파인튜닝(FT)에 필요한 기술에 대한 혼란이 문제의 핵심이다. 또한, 이러한 기술을 갖춘 인재를 찾는 것이 어렵기 때문에 조직이 생성형 AI채택 기회를 놓칠 위험도 크다.

이를 해결하기 위해 가트너는 몇 가지 권고 사항을 제시했다. 첫째, 다양한 생성형 AI도입 방법을 철저히 이해해야 한다는 것이다. 둘째, 프롬프트 엔지니어링, RAG, FT에 필요한 관련 기술을 명확히 정의해야 한다. 셋째, 다양한 채널을 통해 인재 파이프라인을 구축해야 한다는 내용이 포함됐다.

생성형 AI 도입 방법 중 하나는 프롬프트 엔지니어링이다. 프롬프트 엔지니어링은 직원들이 자연어로 LLM과 소통하는 새로운 형태의 상호작용을 시작점으로 삼아, 회의 기록 작성, 대규모 문서 요약, 발표 대본 초안 작성 등 간단한 작업에 활용될 수 있다. 이는 비전문 기술 사용자가 생성형 AI 모델을 효과적으로 사용할 수 있도록 돕는 중요한 기술이라는 설명이다.

두 번째 방법은 검색 기반 생성(RAG)이다. 데이터 프라이버시가 중요한 기업은 RAG를 통해 내부 데이터를 활용해 생성형 AI 모델을 보완함으로써 민감한 데이터의 노출을 최소화하고 AI 환각 현상을 줄일 수 있다. RAG는 데이터 처리, 주석 달기 및 정제, 데이터 프로그래밍, 벡터화 등의 기술을 필요로 한다.

마지막으로 파인튜닝(FT)은 특정 작업에 맞춘 모델의 행동을 조정하기 위해 사용된다. 예를 들어, 고객 서비스 봇이나 개발자 지원 봇 등 다양한 용도에 맞게 모델을 학습시키는 데 FT가 활용된다. 이를 위해 고품질 대화 로그 준비, 특정 작업에 맞춘 데이터셋 준비, 대규모 GPU 기반 컴퓨팅 인프라 활용 및 최적화 등의 기술이 필요하다.

생성형 AI 도입을 위해서는 이러한 기술을 갖춘 인재를 확보하는 것이 매우 중요다. 프롬프트 엔지니어링의 경우, 내부 인재를 대상으로 기술 업그레이드를 통해 해결할 수 있다. 그러나 RAG 및 FT에 필요한 고급 기술 인재는 외부에서 영입하거나 대학 및 연구 기관과 협력하여 인재를 확보하는 방안을 고려해야 한다는 지적이다.

결론적으로, 생성형 AI 도입은 단순한 기술 채택을 넘어 데이터, 비즈니스, AI 역량을 통합적으로 요구한다. D&A 리더들은 이를 위해 체계적인 인재 양성 전략과 기술 개발 방안을 마련해야 하며, 이를 통해 생성형 AI의 혁신적인 잠재력을 최대한 활용할 수 있다. 가트너는 이러한 변화가 조직의 AI 도입과 활용에 중요한 기여를 할 것이라고 전망했다.