Ray Serve로 AI 모델 배포하기

By H.J.KIM on

Ray Serve를 사용하여 AI 모델을 클러스터 환경에 배포하고 확장하는 방법을 설명합니다. 단일 FastAPI 배포와의 성능 비교를 통해 Ray Serve의 효과를 검증합니다.…