[아이티비즈 김문구 기자] 오라클이 오라클 클라우드 인프라스트럭처 생성형 AI(Oracle Cloud Infrastructure Generative AI) 서비스를 제한적으로 출시한다고 21일 발표했다.
새로운 생성형 AI 서비스는 대규모 언어 모델(LLM)을 지원해 기업의 엔드투엔드 비즈니스 프로세스 자동화, 의사결정 과정 개선, 고객 경험 향상 및 안전한 데이터 보호를 지원할 예정이다.
기업용 AI 플랫폼 제공업체인 코히어와의 협업을 통해 OCI 상에 구축된 OCI 생성형 AI 서비스는 사용자가 가용한 API를 통해 LLM을 자체 애플리케이션에 통합할 수 있도록 지원하는 관리형 서비스다. 정식 출시 이후 해당 서비스와 코히어 모델은 사전 학습된 LLM과 독점 비즈니스 데이터를 결합하여 더 높은 정확도로 응답을 제공하는 생성형 AI 기술인 검색 증강 생성(RAG)을 제공하는 오라클 데이터베이스 23c의 기능인 AI 벡터 검색과 원활하게 작동할 예정이다.
저렴한 비용과 더불어 안전하고 빠른 AI 인프라스트럭처를 제공하는 OCI는 고객이 코히어의 모델을 기업용 사용 사례에 특화된 관리형 서비스로써 활용할 수 있게 지원할 예정이다. OCI 생성형 AI 서비스를 사용하는 고객은 오라클의 차별적인 AI 수퍼클러스터 아키텍처 기반 전용 인프라스트럭처에서 워크로드를 실행할 수 있으며, 이를 통해 고객은 자체 데이터로 모델을 미세 조정하거나 자체 커스텀 모델을 배포하는 데에 필요한 비용 및 처리량 요구 사항을 직접 관리할 수 있게 된다.
오라클의 클레이 마고요크 OCI 총괄 부사장은 “오라클의 독보적인 산업 지식을 바탕으로 최첨단 생성형 AI 서비스를 구축할 수 있었다. 기업 조직은 이를 활용해 프로세스를 자동화하고, 의사결정 과정을 개선하며, 고객 경험을 향상할 수 있다”며 “오라클과 코히어의 파트너십을 통해 고객은 오라클의 솔루션이 그들의 가장 엄격한 데이터 보안 및 개인정보 보호 요구 사항을 충족시킨다는 확신을 갖고 생성형 AI를 기술 스택에 손쉽고 안전한 방식으로 적용할 수 있게 될 것이다. 기업 조직은 또한 자체 데이터를 사용해 이와 같은 모델을 개선할 수 있으며, 모델들은 각 조직의 내부 운영 방식을 그 누구보다 긴밀히 파악할 수 있게 될 것이다”고 말했다.
