[아이티비즈 김아라 기자] 글로벌 데이터 기업 클라우데라(한국지사장 최승철)가 엔비디아와의 협력을 확장·강화한다고 20일 발표했다.
클라우데라는 엔비디아 기업용 AI 소프트웨어 플랫폼 가운데 엔비디아 NIM 마이크로서비스를 클라우데라 머신 러닝(Cloudera Machine Learning)에 통합해 빠르고 안전하며 간소화된 종단간 생성형 AI 워크플로우를 제공한다.
기업 데이터는 대규모 언어 모델(LLM)에 최적화된 포괄적인 풀 스택 플랫폼과 결합돼 조직의 생성형 AI 애플리케이션을 개발하는데 중요한 역할을 한다. 개발자는 엔비디아 NIM과 NeMo 리트리버 마이크로서비스를 통해 텍스트, 이미지, 막대 그래프, 라인 플롯, 파이 차트 등 시각화 데이터를 포함한 비즈니스 데이터에 AI 모델을 연결, 정확하고 맥락에 맞는 답변을 생성할 수 있다. 마이크로서비스를 사용하는 개발자는 엔비디아 AI 엔터프라이즈를 통해 애플리케이션을 배포할 수 있으며, 이는 기업용 LLM 구축, 사용자 정의 및 배포하는데 최적화된 실행시간을 제공한다.
클라우데라 머신 러닝은 엔비디아 마이크로서비스를 활용함으로써, 고객의 데이터의 위치에 상관없이 고성능 AI 워크플로우, AI 플랫폼 소프트웨어, 가속화된 컴퓨팅을 제공해 클라우데라 데이터 플랫폼(CDP) 기반의 기업 데이터를 최대한 활용할 수 있도록 지원한다.
클라우데라는 엔비디아 마이크로서비스와의 다양한 통합 서비스도 제공한다. 클라우데라 머신 러닝은 엔비디아 마이크로서비스 기반 모델과 모든 워크로드에서 모델의 추론 성능을 향상시키기 위한 애플리케이션 서비스를 통합한다. 이 새로운 AI 모델 서빙 기능을 통해 고객은 퍼블릭 클라우드와 프라이빗 클라우드 모두에서 장애 허용, 저지연 서빙, 자동 확장이 가능하다.
또한 클라우데라 머신 러닝은 사용자 정의 LLM과 기업 데이터의 연결을 간단하게 하기 위해 통합 엔비디아 NeMo 리트리버 마이크로서비스를 제공한다. 이 기능을 통해 사용자는 실사용을 위한 검색 증강 생성(RAG) 기반 애플리케이션을 구축할 수 있다.
클라우데라는 이전에도 엔비디아와 협력해 GPU에 최적화된 데이터 처리를 위해 아파치 스파크용 엔비디아 RAPIDS 가속기를 클라우데라 데이터 플랫폼(CDP)에 통합한 바 있다. 이제 엔비디아 마이크로서비스와 엔비디아 기업용 AI와의 추가 통합으로 CDP는 독특하게 간소화된 종단간 하이브리드 AI 파이프라인을 독자적인 방식으로 제공한다.
앞으로 모든 산업의 기업들은 혁신적인 생성형 AI 기술을 뒷받침하는 LLM을 보다 빠르고 직관적으로 구축, 커스터마이징 및 배포할 수 있게 됐다. 개발 시간을 단축하기 위한 코딩 코파일럿, 고객 상호작용과 서비스 자동화를 위한 챗봇, 문서를 빠르게 처리하기 위한 텍스트 요약 앱, 간결하고 맥락에 맞는 검색 등 혁신적인 기술은 기업 전반에서 데이터와 발전된 AI 프로세스를 더 쉽고 빠르게 처리해 수익 창출과 비용 최적화로 비즈니스 가치를 극대화한다.
프리얀크 파텔 클라우데라 AI/ML 제품 담당 부사장은 “클라우데라는 엔비디아 NIM과 CUDA-X 마이크로서비스를 통합해 클라우데라 머신 러닝을 강화함으로써 고객이 가진 AI에 대한 기대를 비즈니스에서 실현할 수 있도록 지원하고 있다”며, “이번 협력을 통해 고객에게 강력한 생성형 AI 기능과 성능을 제공할 뿐만 아니라, 오늘날 데이터 환경을 탐색하는 데 중요한 요소인 부정확성, 환각, 예측 오류를 줄이는 동시에 기업이 보다 정확하고 시기 적절한 의사결정을 내릴 수 있도록 지원할 것”이라고 말했다.
저스틴 보이타노 엔비디아 기업 제품 담당 부사장은 “기업은 맞춤형 코파일럿과 생산성 툴을 구축하기 위해 방대한 양의 데이터를 생성형 AI에 활용하고자 한다”며, “엔비디아 NIM 마이크로서비스를 클라우데라 데이터 플랫폼에 통합함으로써 개발자는 보다 쉽고 유연하게 LLM을 배포해 비즈니스 혁신을 주도할 수 있게 됐다”고전했다.
