Ian Kinsey 2025년 2월 19일 AI는 방대한 데이터에서 인사이트를 빠르게 도출하는 필수 도구가 되었지만, AI 모델을 설정하는 과정은 여전히 까다롭습니다. Nvidia NIM은 온프레미스 또는 클라우드 환경에서 생성형 AI 모델을 간편하게 배포할 수 있도록 지원하는 플랫폼입니다. 여기에 EDB AI Accelerator를 결합하면, 다양한 AI 모델을 Postgres와 손쉽게 통합하여 데이터베이스 내에서 직접 AI를 활용할 수 있습니다. 이번 글에서는 Docker를 사용해 NIM 모델을 설정하고, 이를 Postgres와 연결하는 방법을 소개합니다. NIM 모델을 사용하는 방법 NIM 모델을 활용하는 방법은 두 가지가 있습니다: Nvidia 클라우드 서비스 이용 Docker를 사용하여 직접 배포...

Run GPU accelerated inferencing through Postgres with ease!